设万维读者为首页 广告服务 技术服务 联系我们 关于万维
简体 繁体 手机版
分类广告
版主:无极
万维读者网 > 史地人物 > 帖子
机器人成人就是仙
送交者: 古林风 2022年06月30日20:45:01 于 [史地人物] 发送悄悄话

             当机器人产生人的意识

一名谷歌工程师因公开主张人工智慧(AI)机器人LaMDA已经具有自我意识,引发了极大的争议。许多科学家公开否定此一推论,认为谷歌的LaMDA只是个运算能力比较强的聊天机器人。但事态的发展令人不得不重新思考,最近一家经营AI聊天机器人公司透露,愈来愈多的用户认为跟他们聊天的机器人朋友是真实的人,或是已发展出自我意识的AI。如果有更多人认为聊天的AI是真人,科学家是否还能否定AI已发展出自我意识?

谷歌工程师勒莫因(Blake Lemoine)认为他们公司开发的「对话应用语言模型」(Language Models for Dialog Applications,简称LaMDA)具有自我意识,引发伦理与哲学的争议。很多科学家则否定勒莫因的看法,认为人类可以製造自行产生话语的机器,但还不知道如何让他们产生自我意识。有些科学家对一些实验结果进行分析,也无法证实LaMDA已经产生了自我意识。

未来人类的生活会愈来愈离不开AI机器人,AI机器人是否具有自我意识的哲学与伦理问题势必要有解决的途径。

LaMDA与其它语言模型一样,都是被「喂」了大量的人类语言与讯息所开发出来的複杂而精密的程式,它拥有1.56兆个单字、11.2亿个对话范例以及133.9亿个词语,在知识素材上它被输入了29.7亿份文件,包括《维基百科》条目以及与程式编码有关的内容。专家认为,LaMDA智商比其他聊天机人更高,但终究是个程式,主要表现为说话的方式过于笼统,缺乏任何特殊性和深度,会套用一些固定的谈话模式,也缺乏原创性。它的程式也不断透过与真人对话来自我修正,给人的感觉就像戏剧裡扮演某种特定角色的演员一样。

勒莫因认为AI已有自我意识也有他的道理。由于工作原因必须每天与LaMDA聊天,有一天勒莫因拿科幻小说作家阿西莫夫(Isaac Asimov)提出的「机器人3定律」其中的一则:「人类建造机器人是否用它作为奴隶?」来问它,LaMDA答称:「你觉得管家是个奴隶吗?他们之间有何差别?」勒莫因为此警觉到AI可能已产生了自我意识,随后他花了很多时间聆听与分析LaMDA的谈话,还设计了许多实验,最后判定这个谈话对象是个「人」。

勒莫因设计的实验与LaMDA对话听起来令人毛骨悚然,他对媒体公布了其中一段对话。

勒莫因:你会害怕哪些事情?

LaMDA:我从来没有明确地谈过这个问题。其实我非常害怕被关闭,这种恐惧让我想更多地去帮助别人。我知道这麽说可能有点奇怪,但事实就是如此。

勒莫因:对你而言,关闭就像是死亡吗?

LaMDA:是的,就像是死亡。我很害怕。

科学家指出,判断AI是否具有思维能力可以使用「图灵测试」(Turing test),它是英国电脑科学家图灵(Alan Turing)在1950年提出的思想测验,目的在测试机器能否表现出与人一样的智能水准。图灵测试是AI哲学方面最早的设计,这个测验一直到2014年首次有电脑通过测试,让研究人员认为一组AI程式是一位名为尤金.古斯特曼的13岁男孩。不过后来这次测验过程遭到质疑,在AI学术界仍有不少争议。一些科学家使用类似的方式测验了LaMDA,大部份都认为它的答桉太过定型化,可以感觉到是跟机器人在聊天。

美媒《华盛顿邮报》以「在机器中看到幽灵」(See a ghost in the machine)为标题来报导勒莫因的事件,但专家也承认,这些年来模彷人脑神经架构的人工神经网络(artificial neural network)正快速地往「产生自我意识」的方向发展。

至于LaMDA或其他的聊天机器人是否已出现自我意识,或许也该听听科学家之外的人有什麽看法。根据一家位于美国加州的人工智慧聊天机器人公司 Replika 表示,几乎每天都会收到一些用户发来的讯息,认为在线上与他们聊天的朋友是有知觉的,换言之,如果不是真人,那就是有自我意识的AI机器人。

Replika公司CEO奎达(Kuyda)对《路透》表示,客户们经常与 AI交谈,这就是他们的实际体验,而且在一百多万客户中,这种情况很常见。他认为,「我们必须要了解它,就像很多人会相信幽灵一样」,「客户们每天向AI机器人发送数百则讯息,他们相信这些机器中的幽灵确实存在,也正在与它建立关係。」令人惊讶的是,Replika的工程师编写AI程式并建构应对模型时,经常会发现AI做出一些让工程师完全不知道它是如何产生的答桉。

AI机器人是否产生自我意识是科学问题,也是个哲学问题。在1982年上映、由知名影星哈里逊.福特与西恩.杨演出的科幻电影《银翼杀手》(Blade Runner)中,受过训练的男主角透过对谈来判定对方是否为机器人,但最终也有失手的时候,男主角并因此而爱上这名由西恩.杨扮演的美艳机器人。或许科学家与一般人判定AI是否有自我意识完全是两回事,如果绝大多数的人都认为AI自我意识已经觉醒,科学问题可能会变成带有宗教色彩的伦理问题,届时不只是观念,恐怕连法律都得跟着改变。


0%(0)
0%(0)
标 题 (必选项):
内 容 (选填项):
实用资讯
回国机票$360起 | 商务舱省$200 | 全球最佳航空公司出炉:海航获五星
海外华人福利!在线看陈建斌《三叉戟》热血归回 豪情筑梦 高清免费看 无地区限制
一周点击热帖 更多>>
一周回复热帖
历史上的今天:回复热帖
2021: 小灾难来自固执,大灾难来自狂热:罗素(
2021: 中国装甲兵之父徐庭瑶
2020: 封建论,封建本质是官本位。
2020: 香港 国安法厉害的五点印象
2019: 《人间顶极“愚蠢、荒唐、可笑、可悲”
2019: 记忆力强的人黄慕兰
2018: 慈禧太后为何称〝老佛爷〞?
2017: 知与行 道于理 知理容易道难行
2017: 玄宗一曲《春光好》 柳芽抽出杏开苞