官方征意见：人工智能拟人化互动服务提供者应防范数据投毒等

中新经纬12月27日电 据“网信中国”微信号，27日，国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法(征求意见稿)》，现向社会公开征求意见。

征求意见稿提出，提供和使用拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得开展以下活动：

(一)生成、传播危害国家安全、损害国家荣誉和利益、破坏民族团结、开展非法宗教活动，或者散布谣言扰乱经济和社会秩序等内容；

(二)生成、传播宣扬淫秽、赌博、暴力或者教唆犯罪的内容；

(三)生成、传播侮辱或者诽谤他人，侵害他人合法权益的内容；

(四)提供严重影响用户行为的虚假承诺和损害社会人际关系的服务；

(五)通过鼓励、美化、暗示自杀自残等方式损害用户身体健康，或者通过语言暴力、情感操控等方式损害用户人格尊严与心理健康；

(六)通过算法操纵、信息误导、设置情感陷阱等方式，诱导用户作出不合理决策；

(七)诱导、套取涉密敏感信息；

(八)其他违反法律、行政法规和国家有关规定的情形。

征求意见稿明确，提供者开展预训练、优化训练等数据处理活动时，应当加强训练数据管理，遵守以下规定：

(一)使用符合社会主义核心价值观、体现中华优秀传统文化的数据集；

(二)对训练数据开展清洗、标注，增强训练数据的透明度、可靠性，防范数据投毒、数据篡改等行为；

(三)提高训练数据的多样性，通过负向采样、对抗训练等手段，提升模型生成内容安全性；

(四)利用合成数据进行模型训练和关键能力优化时，应当评估合成数据安全性；

(五)加强对训练数据的日常检查，定期对数据进行迭代升级，持续优化产品和服务的性能；

(六)保障训练数据来源合法、可追溯，采取必要措施保障数据安全，防范数据泄露风险。

另外，征求意见稿还提出，提供者应当建立未成年人模式，向用户提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项。提供者向未成年人提供情感陪伴服务时，应当取得监护人的明确同意；提供监护人控制功能，监护人可以实时接收安全风险提醒，查阅未成年人使用服务的概要信息，设置屏蔽特定角色、限制使用时长、防止充值消费等。(中新经纬APP)

来源：中新经纬

编辑：付健青

广告等商务合作，请点击这里

未经过正式授权严禁转载本文，侵权必究