警惕AI造谣 AI新闻也有可能造谣
作者:chunzhi 发布时间:2024-11-14警惕AI造谣,AI新闻也有可能造谣
近日,一些不法分子为博取流量、坑蒙拐骗,利用AI生成逼近真实的图片、音视频,严重扰乱社会秩序,引发了舆论关注。
人工智能技术已成为当今科技领域备受瞩目的技术之一,正在深刻改变人类社会、经济以及生活方式。然而,AI技术也是一把双刃剑,我们在运用它给内容创作带来便利的同时,也必须警惕其被滥用的风险。据媒体报道,一MCN机构实际控制人王某某,运营800多个自媒体账号,通过具有语音交互功能的AI软件编造不实消息,一天最多生成7000篇文章。原某互联网公司的技术员白某某利用AI“一键去衣”技术,深度伪造淫秽图片近7000张。这些由AI编造的虚假消息往往披着“新闻”“爆料”的外衣,不择手段吸引网友阅读和评论,让人难辨真伪,颠覆了人们“有图就有真相”的常规认知。
在信息爆炸的时代,虚假信息的传播速度极快,一旦形成舆论风暴,后果不堪设想。比如,2023年年底,一则通过AI软件编造的“重庆巫溪一民房发生爆炸事故”消息,短短几分钟便获得了数万次的点击量;一些不法分子利用AI换脸技术,将某些明星、网红的面部替换到色情视频中,不仅给当事人造成了巨大心理压力,也导致其形象受损、事业受挫。这些新型AI乱象不仅破坏了清朗的网络环境,与科技向善的初衷背道而驰,更严重扰乱了公共秩序,侵犯了人们的隐私与名誉,必须予以重拳整治。