挡不住的AI水军,比Deepfake更可怕

时间:2020-08-06 18:10 点击:96

原题目:束手无策的AI水军,比Deepfake还恐怖

萧箫 发自 凹非寺

量子位 报导 | 微信公众号 QbitAI

AI水军,究竟长啥样?

它是一条新浪微博下边的评价:

△彩色图库新浪微博@丧尸文学类bot

实际上这种评价的时尚博主,从姓名和语言特点看来,都 并不是人,只是用AI转化成的 僵尸号。

假如 GPT-3也变成 僵尸号活跃性在大家的社交媒体,还生产制造谣传,是否很可怕?

实际是,那样的事儿已经产生。

对比于真正的总流量,运用AI仿冒成「水军」,用于在社交网络刷上认知度和关注量,显而易见性价比高高些。

总流量作假也好了,假如「AI水军」在社交网络上大批量散播具有感染力的谣言、假观点——

乃至蒙骗过去了你的妈妈,让她把中药炮制的谣言分享来到家人群……

△这批美国互联网水军账户,基础全是智能机器人

但最新动态是,如今的「AI水军」,还很有可能得以危害今年 的美国总统大选。

美国总理,也许是AI选的

前不久受欢迎的Deepfake,转化成的真假难辨的图象及视频实际效果令人震惊,一定水平上也造成 了虚报视频和图象的很多散播。

乃至,科学研究工作人员在调研哪样种类的控制主题活动很有可能威协到2020美国总统大选时,AI造成的虚假性视频观点 稳居第一。

自此,众多社交网络平台迫不得已对于这种图象和视频颁布了有关现行政策,以寻找随意表述和真实有效中间的均衡。

Deepfake的视频图象仿冒印痕,也许如影随行,但AI生产制造的「Textfake」却通常更为无法禁止。

比如,在2017年美国总统大选时,就曾出現过很多文字版水军观点,如下图。

「曝出!米歇尔美国奥巴马竟然男生!」

「重磅消息!美国奥巴马是伊斯兰教!」

「吃惊!种族主义川普踩踏黑种人!」

……

这种虚报信息通常依据真正信息内容改写,因而更具备蒙蔽和感染力。

据了解,今年末,Facebook关掉了来源于美国和越南地区的610个账户、89个专页和156个微信群主,在其中专页的关注者约有 5500万。

这在其中,一些账户应用了AI转化成并装扮成美国中国公民的个人信息照片,并用于公布虚报信息,适用川普。

或是,进攻川普的竞争者。

想像一下,假如你是一名无趋向的美国选举人,看到社交网络上的「人」都会一边倒地适用某一侯选人,你能怎么选择?

而AI仿冒虚假信息的能力,也正伴随着AI技术性的持续发展趋势「发展升級」。

和你讲话的「人」,或许是GPT-3

比如,近期火灾的 GPT-3,文字信息内容转化成的能力就备受关注。

与Deepfake不一样的是,这类「Textfake」转化成的文字內容,对比照片和视频,虚假信息通常也更隐敝。

想像一下,GPT-3能够 学习培训某一人的语言特点,乃至能饰演成那人与你会话。

假如AI沒有犯低等不正确得话,你乃至很有可能分辨不出来他的真伪。

并且,即便有低等不正确,科学研究工作人员表明,GPT-3也可以根据调整来立即纠正。

是否有点儿极思细恐?

毫无疑问的是,各种各样AI水军的出現,已经让网络两边的信赖持续减少。

伴随着AI检验越来越愈来愈艰难,大家很有可能也更难信赖在网上所见到的內容。

但我觉得代表着,大家就需要否定一切来源于在网上的信息,在掌握过具体情况后,最重要的還是有着自身的辨别能力。

终究,前些年的背背佳和小罐茶,也不是AI生产制造出去的谣言 (狮子狗)。

掌握真正,洞鉴是是非非

实际上最重要的是,大家要对潜在性的虚假新闻、谣言有一个自身分辨的能力。

终究,AI水军泛滥成灾的状况,一定水平上也体现出,大家对AI作假的能力急需高度重视。

防止的第一步,是大家务必对AI作假的具体情况有一个掌握。

假如知道社交网络上面有高仿奢侈品智能机器人,那麼大家在被扇动前,或许会平静下来,去分辨是非。

两者之间依据某条信息的「散播度」去分辨它的真实有效,更应当从客观事实考虑开展评定。

— 完—

文中系新浪新闻•网易自媒体特点內容激励计划签订账户【量子位】原創內容,没经账户受权,严禁随便转截。

报考 |「隐私保护测算 AI」技术性直播间

不了解一切隐私保护AI技术性的状况下,开发人员如何保证只修改两三行编码,就将目前AI代码转换为具有数据信息个人隐私保护作用的程序流程?

8月6号, 中国科学院手机软件研究室博士研究生、引流矩阵元优化算法生物学家--谢翔将直播间分析,加助手“qbitbot9”或是立即扫二维码,就可以进入直播交流群:

量子位 QbitAI · 今日头条号签订创作者

վ'ᴗ' ի 跟踪AI技术性和商品最新消息

喜爱再点「在看」吧 !


当前网址:http://www.mu9gf46.tw/yeseziyuangaoqingshipin/138264.html
tag:美国,能力,水军,视频,量子位,假消息,社交媒体,总统选举,

发表评论 (96人查看0条评论)
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
昵称: 验证码:点击我更换图片
最新评论

Powered by 夜色资源 @2014