反制AI“歪门邪道”,平台责无旁贷
近日,多个社交平台中出现“两个毫无关系的人接吻、拥抱”的恶搞、低俗视频,而这些视频实则都是由某AI工具生成的。据悉,只要有两张任意人物的图片,即可通过AI快速生成此类视频。
一段时间以来,AI技术革命使得不少行业都焕发了新的生机活力。从ChatGPT的一枝独秀,到国内外各类大语言模型的百花齐放。从文生文,到文生音视频、图生视频……AI技术的加速普及,涌现出各类垂直、细分的AI工具,越来越多的人可以通过较低的门槛,享受到科技带来的创造乐趣。
“技术平权”与“市场下沉”无可避免地带来了新问题。一些科技公司信奉开源技术路线,将AI算法、研究成果予以开源,其本意是更好地推动创新和技术传播,然而这些成果被“有心人士”利用,就容易制造出“AI接吻”等违背以人为本、科技向善原则的工具。“AI接吻”视频不仅触及技术伦理和道德的边界,还涉及法律问题,如有律师指出,这类恶搞视频涉嫌侵犯了当事人的肖像权、名誉权和人格尊严权。
因为开源算法的存在,从技术角度而言,“AI接吻”工具无法完全杜绝。那么就应当从传播端入手,着力铲除这类AI工具生根发芽的土壤。比如,为这些工具提供分发渠道的应用商店、为恶搞视频提供传播便利的社交平台应当加强主体责任,通过完善技术审核与监管举报机制等,遏制乱象的产生与闹剧的发酵。
早先有“AI换脸”“语音伪造”,今日有“AI接吻”。未来,技术发展或许也将带来更多问题新变种。应对这些“歪门邪道”是一场需要长久坚持的攻坚战。(记者 周旋)
版权申明
凡注有"浙江在线·舆情频道消息"的稿件,均为浙江在线·舆情频道独家版权所有,未经许可不得转载或镜像;授权转载必须注明来源为"浙江在线·舆情频道消息",并保留"浙江在线·舆情频道消息"的电头。联系电话:8571-85311340