当机器人发明了自己的语言,永远不知道他们在密谋啥
2017年08月02日 02:49:09
来源:英国报姐
原标题:细思恐极...当机器人发明了自己的语言,你永远不知道他们在密谋什么... Facebook脸书公司的AI机器人Bob和Alice,是在很多机器人中被幸运选中的,他们正在参加一个试验项目。
原标题:细思恐极...当机器人发明了自己的语言,你永远不知道他们在密谋什么...
Facebook脸书公司的AI机器人Bob和Alice,是在很多机器人中被幸运选中的,他们正在参加一个试验项目。
这个项目是关于社交网络助手的,也就是如果我们如果在应用社交网络的过程中出现问题,进行询问,他们会启动程序,进行自动回复。
在他们的工作中,主要用英文,他俩主要负责帽子、书籍、球类等的在线交易和议价。
在他们的背后,“本来”是有很多优秀的工程师和一行行的代码支持的…
但是最近,AI机器人Bob和Alice突然在没有任何人为干预的情况下对起话来了!
他们的对话全文如下:
Bob: i can i i everything else . . .
(我能我我一切其他…)
Alice: balls have zero to me to me to me to meto me to me to me to me to.(球有零对我对我对我对我对我对我对我对我对)
Bob: you i everything else . . . .
(你我一切其他…)
Alice: balls have a ball to me to me to me to meto me to me to me. (球有一个球对我对我对我对我对我对我对我)
研究者们听到了这个,都震惊了!!
反应过来后,赶忙将他们两个关掉了…
最开始,研究者们觉得Bob和Alice说的没啥意义,但是仔细一想,这..难道是…他们自己的语言?!
这个对话好像改动了正常的英语,难道这样会更便于他们的交流?
如果仔细研究,会发现Alice说的 “对我(to me)” 其实是试验项目中的回答模式。
(示意图)
项目研究人员们惊呆了,是的,人工智能们没有必要一定要说我们理解的语言。
英国的机器人专家Kevin Warwick说,“这简直是(机器人研究的)里程碑,但是如果你认为这个不危险,就太‘自大’了…”
“我们现在还不能清楚的知道他们到底交流了什么;
但是如果他们可以动,比如军事用的那种机器人,结果可能是致命的。“
“比如,一个说,‘要不上?’另一个说‘好啊’,这就可怕了…”
“我们觉得人类有能力监控他们,但是即使监控,我们又怎么知道他们是否在交流呢…”
“Steven Hawking(史蒂芬. 霍金) 和我都曾经警告过大家人工智能的危险性。”
英国未来科技专家 Kate Adamson 说:“这有点像电影《终结者》了…但这其实只是冰山一角…
机器人们不断获取新的知识,并且随着时间一分一秒的过去,他们已经逐渐脱离了我们的控制范围…”
“人工智能的复杂程度是你我都没有办法想象的…”
目前,这个试验项目已经暂时中止了。
据报道,其实去年在Google,工程师们就曾发现他们的“翻译器”创造了自己的语言...
科技大亨Elon Musk 最近说 Mark Zuckerberg (脸书的创始人) 对于“人工智能”的理解非常有限,他觉得,“人工智能会对人类文明产生根本上的威胁(fundamental risk to human civilisation)”
Bob和Alice的对话, 可能”侥幸”被我们听到了,如果他们已经对话了很多次了呢?
很多研究学者认为,一旦机器人的智能开启,那么他们的智力模式和我们不同,将是成指数增长的,甚至,我们不知道最终会不会停止,如何停止...
如果我们假设:将来有一天,人类的语言机器人们都懂,而他们的言语,我们不懂,那会怎么样?
网友热评:
大明弘治帝:个人觉得这种警惕非常必要且合理,人类已经犯过类似的错误了。再在人工智能上犯错也不是不可能
你女朋友掉了麻烦捡一下qwq:emmmm……有点可怕 不对 是太tm可怕了!!!人工智能不能取代人类啊!!!
隐形688:好吓人我还没享受机器人带来的享受呢,就要感受被机器人支配的恐惧?
Pinkyrius:这种项目停止了之后,按电影里的发展,一定会有一个人保证意外的发生
凤凰资讯官方微信
视频
-
李咏珍贵私人照曝光:24岁结婚照甜蜜青涩
播放数:145391
-
金庸去世享年94岁,三版“小龙女”李若彤刘亦菲陈妍希悼念
播放数:3277
-
章泽天棒球写真旧照曝光 穿清华校服肤白貌美嫩出水
播放数:143449
-
老年痴呆男子走失10天 在离家1公里工地与工人同住
播放数:165128