当前位置:游戏巴士 > 游戏资讯 > 担心的事情还是发生了:用AI写出来的假留言,你根本分不出来是人还是机器

担心的事情还是发生了:用AI写出来的假留言,你根本分不出来是人还是机器

时间:2018-02-14 02:00:01

 
 

人类写手面临失业

人类手写的假评论,已经是一个兴盛的地下产业。只要有钱,你就能找到人帮你的产品写下正面的评论,或是给对手写下负面的评价。

现在,这所谓的“水军”业,未来可能也要被 AI 取代了。

美国市场上,一段品质好的 Yelp 评论,价格能到10美元。不过一旦有了AI的帮助,居心叵测的人可以一分钱不用就生成上千条假评论,而且一起放出以免引起怀疑。

好消息是,现在还没有 AI 在现实世界中写出恶意假评论的案例。

坏消息是,构建一个这样的人工智能系统,并不需要太长的时间,所需硬件市面上都能买到,所需的评论数据库,可以在网上轻易获得。

仍有对策

如果有人开始大规模生产这种假评论,Yelp 这样的网站恐怕就没有好日子过了,毕竟,它们的招牌就是来自用户的真实评论,如果每一条都可能是假的,谁又会继续相信它们呢?

接下来沦陷的,会是淘宝、亚马逊之类的电商,虽然至少它们还能限制只有买过该商品的用户才能评论,但情况也不容乐观。

不过,也有好消息。

研究者们说,这种假评论也不是完全没法防范,人类觉得它们能以假乱真,但机器不见得这么看。用电脑去分析字句的分布等特征,他们就会发现真假评论之间存在着细微的差异。

假评论是从真实评论里学出来的,在这个过程中,难免会有一些资讯的流失。假评论注重的是流畅、可信,但像字句分布这种平时没人关注的特征,就做得不那么好了。

“在训练过程中发生的资讯遗失,会传递到生成出的内容中,”研究者们在论文中写道,“因此生成内容和人类所写的内容在基本的字距排列的分布上,有着统计上可检测的差异。”

当然,攻击者也可以骗过检测,换好一点的硬件,做更复杂一点的神经网络就行。但这种检测的意义在于至少提高了攻击的门槛,为他们设置了一些障碍。

如果攻击的成本高到一定程度,大部分没那么执著的攻击者也就收手了。赵燕斌说:“这就是一种胜利,所有的安全工作都是这样,提高攻击的门槛。你永远没办法阻止那种目标坚定、身手老练的攻击者。”

在一份邮件声明中, Yelp 发言人 Rachel Youngblade 说他们“很欣赏这份研究指出了随着欺骗评论系统的方法持续进化,越来越复杂,Yelp 这类大型用户评论网站在保障内容真实性上面临着重大挑战。十年来,Yelp 一直有保护内容的系统,而正因为欺骗手段越来越复杂,我们也持续更新这些系统,来识别假评论,以及偏颇、没有帮助的内容。这份研究的作者们以 Yelp 系统作为‘真实’的代表,并承认它的有效性,我们非常感激。”

“不过,这份研究创造的仅仅是看起来真实的点评文本,Yelp 的推荐软件工具使用了更整体的方法,除了文本之外,还使用了很多其他因素来决定是否推荐一条评论。如果某条评论没有价值或有失偏颇,就算它是人类做出的,我们也不会推荐。”

赵燕斌说他想传递的讯息很“简单”:“我希望人们能关注这类攻击途径,把它们看做真实、迫切的威胁,”如果 Yelp、亚马逊这些网站的工程师们还没有开始考虑如何抵御,他希望他们立刻开始思考。

教授希望“我们希望能吸引更多注意,不仅为了设计出能防御这类攻击的系统,还想让更多人从平凡的视角,看到 AI带来的威胁。”

“我认为,那么多人都在关注奇点、天网这些引人注目的 AI 威胁,但是那些很好很好的 AI,能带来很多更实际的、有显示影响的威胁,而这只是冰山一角。”

他补充说:“所以,我以希望安全界的人能和我一起,关注这类问题,这样我们才有希望赶上。我认为,AI 以惊人的速度和加速度在发展,如果我们不立刻开始研究如何抵御,可能永远都赶不上了。”

是真是假?

最后,来个小测验吧。

这有六个案例,其中有一些是神经网络生成的假评论,其他的是真实的人类评论。你看看是否能分辨出来是真是假。

1、我最喜欢去的意大利餐厅。超喜欢这家的菜,一切都很棒。我推荐生牛肉配芦笋。可惜现在名气太大了,越来越难在黄金时间预定到座位。

2、我们全家都是这间餐厅的超级粉丝。工作人员非常NICE,食物很棒。鸡肉非常好吃,蒜汁堪称完美。上面配有水果的冰淇淋也很美味。强烈推荐!

3、每年圣诞节我都来,最爱意大利面!物有所值!

4、非常好的披萨、烤宽面条以及最好吃的扇贝之一。甜品很大很美味。

5、这里的食物好吃得惊人,分量也很大。起司百吉饼做得非常完美,新鲜又美味!服务很快。毫无疑问是我们最爱的地方!我们还会回来的!

6、我来这吃饭已经一年半了,除了好吃我无话可说。我总是点披萨,意大利牛肉也很好,给我留下深刻印象。服务非常出色。是我见过的服务最好的餐厅。强烈推荐。

你看出哪些评论有问题了吗?

ow.open(this.href,'', 'menubar=no,toolbar=no,resizable=yes,scrollbars=yes,height=600,width=600');return false;" target="_blank">Google+

推荐新闻

更多»

新游动态

更多»

游戏视频

更多»

辅助插件