手机扫描右侧二维码

可下载“浙江舆情”APP

  • 安卓版
  • IOS版
您当前的位置 :浙江在线 > 浙江舆情网 > 舆情解读 > 热点舆评 正文

反制AI“歪门邪道”,平台责无旁贷

发布时间:2024-12-06 17:08:05 来源:浙江在线 记者 周旋

  近日,多个社交平台中出现“两个毫无关系的人接吻、拥抱”的恶搞、低俗视频,而这些视频实则都是由某AI工具生成的。据悉,只要有两张任意人物的图片,即可通过AI快速生成此类视频。

  一段时间以来,AI技术革命使得不少行业都焕发了新的生机活力。从ChatGPT的一枝独秀,到国内外各类大语言模型的百花齐放。从文生文,到文生音视频、图生视频……AI技术的加速普及,涌现出各类垂直、细分的AI工具,越来越多的人可以通过较低的门槛,享受到科技带来的创造乐趣。

  “技术平权”与“市场下沉”无可避免地带来了新问题。一些科技公司信奉开源技术路线,将AI算法、研究成果予以开源,其本意是更好地推动创新和技术传播,然而这些成果被“有心人士”利用,就容易制造出“AI接吻”等违背以人为本、科技向善原则的工具。“AI接吻”视频不仅触及技术伦理和道德的边界,还涉及法律问题,如有律师指出,这类恶搞视频涉嫌侵犯了当事人的肖像权、名誉权和人格尊严权。

  因为开源算法的存在,从技术角度而言,“AI接吻”工具无法完全杜绝。那么就应当从传播端入手,着力铲除这类AI工具生根发芽的土壤。比如,为这些工具提供分发渠道的应用商店、为恶搞视频提供传播便利的社交平台应当加强主体责任,通过完善技术审核与监管举报机制等,遏制乱象的产生与闹剧的发酵。

  早先有“AI换脸”“语音伪造”,今日有“AI接吻”。未来,技术发展或许也将带来更多问题新变种。应对这些“歪门邪道”是一场需要长久坚持的攻坚战。(记者 周旋)

标签:AI;互联网;技术发展编辑: