网络机器人互相攻击 只因他们太像人类

发表时间:2017-04-05 16:23:50 0 条评论

  没人预料到危机的来临——一个破坏性的协作将“章鱼哥”的参考文献插入到与其完全无关的文章中。在2006年,维基百科开始无法容忍任何与“海绵宝宝”相关的错误插入玷污网站日益成长的声誉。这很尴尬,必须有人阻止“章鱼哥”。

  维基百科社区知道,动用编辑力量来处理这些繁琐的工作是不现实的,所以启用了网络机器人来自动标记不该被插入“章鱼哥”的相关内容,并取得了成效。维基百科击败了“章鱼哥”的威胁,并形成了与网络机器人的强大联盟。今天,数百个算法助手打击各种各样的破坏者,修复错字,甚至自己创建文章,没有它们,维基百科将一片混乱。

  但是当把一堆网络机器人限定在同一个虚拟空间的时候,有趣的事发生了:它们无法好好相处,有时一对机器人会互搏,在相当长的时间里数千次覆盖对方的决定。《PLOS ONE》的一项最新研究显示,这种情况并不少见,而原因在于无论机器人看上去多么冰冷和精明,它们还是倾向于扮演人类的角色。这些是互联网的好处,而不是机器人的种族主义,想象一下,人工智能驱动的个人数字助理在同一个房间里终日争论不休,是Google Home还是Alexa会赢?

  在维基百科,机器人处理那些令编辑抓狂的沉闷和单调的工作。机器人不会疲倦,不会对人类生气。它们用人类无法匹敌的一致性和热爱来对待它们的工作。

  维基百科编辑们之间的分歧会很快结束,而机器人之间的斗争可以持续数月甚至数年。研究发现,维基百科英文版的网络机器人比人类编辑更爱发生冲突:在十年的时间里,每个机器人平均与其它机器人冲突超过105次,而人类编辑的平均值为3次。机器人失去理智是因为它们根本不知道怎样做才好——毕竟它们只是一些代码。

  但这并不意味着他们不值得信赖。机器人处理相对简单的任务,如拼写检查,让人类编辑可以专注于解决那些大问题。

  机器人目前所做的工作远超想象。维基百科英文版有大约30,000个活跃的人工编辑对应由代码产生的大约300个活跃的机器编辑,但机器人具备疯狂的生产力。 “如果你把它们跟其它编辑放在一起,你甚至不容易注意到它们,”牛津大学这项研究的合作者之一Taha Yasseri说, “但他们做了很多。机器人在不同语言中进行的所有编辑的比例在10%到40%~50% (某些特定语言版本)之间。”然而维基百科没有变成一个血腥的机器人战场,这是因为人类在密切监视着机器人。

  野蛮的机器人

  但是机器人不可避免地发生冲突,Yasseri认为。例如,研究发现在三年的时间里,两个监控维基百科上的双重重新定向的机器人就像一对“活宝”。在大约1,800篇文章里,机器人A共恢复了机器人B编辑的文章1,031次,而获得B的906次赞同。这是因为命名约定的差异,例如,B将“意大利乳清奶酪”重定向到“里科塔奶酪”,之前它重定向到“里科塔”。然后A进入并恢复了这个变化。

  维基百科争辩说,这些机器人并不是真正的“战斗”。

  维基媒体基金会首席研究科学家Aaron Halfaker说:“例如,如果A执行了原始的双重重定向清理,而B执行了第二次双重重定向清理,那么它们似乎会‘相互恢复’。”但在现实中,机器人正在协作,尽量减少维基的重新定向。

  但是,Halfaker承认机器人彼此恢复可能看起来像冲突。 “例如,你可能有一个编辑,希望确保维基百科上的所有英语语言列表都使用牛津逗号,而另一个编辑认为我们不应该使用牛津逗号。”但是维基百科有一个机器人批准过程来捕捉这些东西。 “我们完全掌控目前正在运行的机器人。”他  但是,Halfaker承认机器人彼此恢复可能看起来像冲突。 “例如,你可能有一个编辑,希望确保维基百科上的所有英语语言列表都使用牛津逗号,而另一个编辑认为我们不应该使用牛津逗号。”但是维基百科有一个机器人批准过程来捕捉这些东西。 “我们完全掌控目前正在运行的机器人。”他说。

热门文章
商学院微博
商学院二维码