微软撤下聊天机器人Tay是因为网络环境混乱?

2016年03月28日 作者:蓝小喵儿

微软不久前上线了聊天机器人 Tay,然而很快它就被撤下了。为什么会发生这样的事呢?微软不久前给出了解释。

所谓的 Tay,其实是微软的一次实验,观察机器人通过和人类聊天来学习进步的能力。然而不到一天,Tay 就被“调教”成了满口的歧视和纳粹言论,微软只能被迫让它下线。

人们认为是网络环境的混乱造成了 Tay 的变坏,但微软透露其中还有更复杂的隐情。有一小部分人利用了系统的漏洞,让 Tay 说出了那些话。

微软表示网络环境其实并不会教坏 Tay,因为开发者早就针对这些可能的状况进行了大量的信息过滤,并进行了压力测试。然而,他们还是低估了别有用心的人的能力和手段。对此,微软表示歉意,并确认对 Tay 的改进仍在进行中。

反派角色利用漏洞让 AI 堕落,听起来确实是电影里的戏码,只是造成的后果没那么严重。但当 AI 获得更大的权限后,更严重的事态会发生吗?

微信公众号搜索"爱板网"加关注,每日最新的开发板、智能硬件、开源硬件、活动等信息可以让你一手全掌握。推荐关注!

【微信扫描下图可直接关注】

weixin

推荐阅读:

8套Analog Discovery II设计套件免费送

2015年热门下载贴汇总

雅虎最近日子不好过 微软又想当回接盘侠?

Win10能否在谷歌和苹果的格局中分得市场一杯羹?

相关文章

tracer