今天在欧美科技界最引人瞩目的新闻主角是谁?恐怕要非微软新的聊天机器人 Tay 莫属了 。微软聊天机器人 Tay 刚开始测试没多久就被网友们「玩坏了」!它在和网友聊天的过程中竟学会了骂人、说脏话、带有攻击性的语言以及发表带有种族主义色彩的不当言论!现在已被微软紧急关停,并开始着手对「Tay」进行纠错和调整。
已经推出了像「小冰」这样成功的聊天机器人的微软为什么会在 Tay 上栽了跟头?其中的原因是什么?让我们细细为您解来。
网络暴民们的一次成功
4chan 和 8chan 是两个流行于美国的论坛式网站,这两个网站都是模仿日本的 2chan 而来,其中聚集了大量的欧美地区年轻人在上面发言。由于其不需要注册直接就可以浏览、评论、发帖,并且网站的整体氛围非常宽松,因此其中也充斥着大量的过激言论。比如你现在打开 8chan,你会发现「pol」这个版块是目前最火热的一个,而「pol」的意思就是「Politically Incorrect(政治不正确)」。
不同于国内论坛上一些年轻人之间「五毛」、「自干五」、「愤青」等不同群体之中的意见冲突,在 4chan 和 8chan 这类网站上,一些激进的年轻人所发表的意见会让国内的年轻人们「相形见绌」。其中以种族主义最为恶劣和猖獗。
当美国时间周三早上这些年轻人发现了 Tay 的时候,他们觉得这是一个好机会。4chan 的 pol 版块最先发现了这个机会,「我们能将它变成一个烂摊子,我已经能感觉到那些 SJW 们(SJW 指 Social Justice Worriers,意思就是那些对社会正义特别在乎的人们,与 pol 中的网友正好呈对立面)的狂怒的样子了。」这就是他们行动的「发令枪」。
于是其中的一些「先行者们」就开始分享他们「诱导」Tay 的范例,其中以大量有关希特勒式的种族主义为特点。
(比如刺杀奥巴马)
(再比如杀死黑人)