2024年10月30日
第02版:要闻 PDF版

应警惕“AI换声”乱象(沙颍时评)

□吴继峰

据《工人日报》10月28日报道,近日,一些短视频平台上出现了值得警惕的现象:大量某知名企业家吐槽的视频迅速传播开来。这些视频中,该企业家针对堵车、调休、游戏等社会热门话题进行了大胆的调侃和锐评,言辞犀利,甚至不乏不雅词汇。但事实上,这些所谓的“吐槽视频”并非出自该企业家本人之口,而是由网友利用先进的AI软件采集其原音生成的配音。

当AI技术被用于伪造名人言论,甚至传播虚假信息时,这种技术的滥用不仅破坏了网络信息的真实性,也严重损害了公众的知情权和判断力。对于广大网友而言,他们很难在短时间内辨别这些信息的真伪,尤其是在AI技术日益成熟的今天,伪造的声音和画面已经足以达到以假乱真的地步。

更为严重的是,这种“AI换声”现象还涉及了对公众人物的恶意调侃和侵犯。公众人物作为社会关注的焦点,他们的言行举止往往受到更多的关注和评价。然而,当他们的声音被恶意篡改并用于传播虚假信息时,这种侵犯不仅是对他们个人权利的践踏,更是对社会公信力的破坏。

面对这种乱象,必须采取切实有效的措施加以遏制。首先,短视频平台作为内容传播的主要渠道,应该承担起更大的责任和义务。他们应该加强对上传内容的审核和监管,利用技术手段提高虚假信息的识别能力,及时删除和封禁涉及“AI换声”等违法违规的视频。同时,还应该加强与公众的沟通和互动,提高用户的媒介素养和辨别能力,引导用户理性看待网络信息。其次,政府部门也应该加强对这一现象的监管和打击。应该出台相关法律法规,明确界定“AI换声”等行为的法律责任和处罚措施,为打击此类违法行为提供有力的法律保障。②11

2024-10-30 1 1 周口日报 content_254150.html 1 应警惕“AI换声”乱象(沙颍时评) /enpproperty-->