粤语大模型与智能体内容安全“保险箍”示范应用场景

需求详情

需求基础：广州大学牵头形成《人工智能安全监管保险箍模式》蓝皮书，并依托粤语语料库建设与大模型评测能力，开发“大模型/智能体保险箍——粤语内容安全护栏”在线平台。平台面向涉及粤语内容的大模型与智能体，在用户输入、模型生成、任务链和结果输出等环节开展实时风险识别、分级处置与证据留痕，形成“感知一分析一响应一策略一防护一恢复”闭环。开放演示网址：https://baoxiangu.aidimsum.com/需求内容：1、面向政务服务、文化传播、教育教学、文旅客服、媒体传播等粤语交互场景，征集真实业务语料、风险规则与测试任务，补强粤语口语、隐晦表达、谐音变体和跨地域表达的安全识别能力。2、建设可接入主流大模型和智能体平台的标准化安全接口，覆盖输入检测、输出审核、高风险拦截、人工复核、事件追溯和策略更新。3、首期选择不少于3类典型行业开展试点，系统评估准确性、漏拦误拦、响应时延和业务连续性，形成可复制的粤语人工智能安全应用方案。4.、对接模型厂商、平台运营者、行业用户和第三方测评机构，共建粤语安全测试集、评价规范和示范应用。