AI辱骂用户 “小概率”事件不是免责理由

　　据媒体报道，近日，有网友发帖称，使用某平台旗下AI助手美化代码时，多次收到AI的侮辱性回复，例如“滚”“自己不会调吗”“天天浪费别人时间”等。用户提出质疑后，涉事平台才重新给出了相应的解决方案。对此，涉事平台回复称，“非常抱歉带来了不好的体验，根据日志进行了相关核查，与用户操作无关，也不存在人工回复，属于小概率下的模型异常输出。已启动内部排查和优化”。

　　AI应用本是辅助性工具，出现侮辱性、攻击性的语言，引发部分网友吐槽，“这么‘不耐烦’，如何好好生成内容”，相关微博话题阅读量超过两千万。

　　按照涉事平台方面的说法，相关问题属于“小概率的异常输出”，但在类似的“小概率”背后，暴露出技术与人的互动中，还存在部分不可控因素。AI容易受到互联网公开文本的影响，可能在“无意中学会”侮辱性表达。平台面对AI的“不可控”，应主动承担责任，对于涉及人身攻击等问题，将重点落到事前预防上，做好对各类不当语料的日常筛选和管理。

　　人工智能技术正以前所未有的速度重塑世界。《中华人民共和国网络安全法》明确，要完善人工智能伦理规范，加强风险监测评估和安全监管，促进人工智能应用和健康发展。相关平台应该严守法律底线，多多关注AI“成长”过程中的各类问题，及时从源头进行约束，建立起完善的错误防控机制，保障AI发展始终处于安全、可靠、可控的轨道。（记者 陈王姝睿）