设万维读者为首页 广告服务 技术服务 联系我们 关于万维
简体 繁体 手机版
分类广告
版主:
万维读者网 > 我爱我车 > 帖子
無人駕駛車的利他主義原則(中)
送交者: 謝田 2017年10月19日20:49:39 于 [我爱我车] 发送悄悄话

無人駕駛車的利他主義原則(中)

商管智慧(第546期 20170831)

AddThis Sharing Buttons

Share to LINEShare to WeChatShare to Copy Link


無人駕駛汽車如果在路上正式咝校仨氁勒杖祟悢M定的「利他主義」原則,才不會釀成大禍。圖為英國倫敦的一輛自駕車在測試之中。(Getty Images)

文 _ 謝田(中華民國外交部「台灣獎助金」獲獎學人、國立台灣大學公共經濟研究中心訪問學者、美國南卡羅萊納大學艾肯商學院講席教授)

關於機器人可能會反制人類,機器人可能不受人類的控制,最近已經有了新的、可怕的趨勢。臉書的研究人員發現,人工智能(AI)的程序可以使用一種人不懂而只有計算機懂得的語言,進行它們之間的對話。因為這個程序創建了自己的語言,所以臉書的科研人員最後關閉了這樣的人工智能(AI)語言程序。他們的研究人員意識到,非常令人可怕的是,人工智能程序產生的新語言不是英語,而是僅能被它自己識別的代碼。這是今年七月被披露的事件。

為此,特斯拉電動汽車創始人馬斯克(Elon Musk)也對人工智能提出了警告。馬斯克對美國的州長們說,需要積極主動地而不是被動地對人工智能進行監管。他甚至擔心,當人們真正需要對人工智能進行監管時,可能就已經太遲了。雖則如此,馬斯克自己的OpenAI實驗室,也成功的讓人工智能機器人開發出了自己的語言。

很多人都很愉快的使用谷歌的機器翻譯功能,並且在實際哂弥袔椭雀柰晟茩C器的翻譯效能。但谷歌的翻譯服務團隊發現,他們的人工智能程序可以靜悄悄地編寫自己的機器語言,來幫助翻譯句子。值得人們警惕的是,人類目前根本無法掌握這種機器所使用的新語言的邏輯性!當谷歌的翻譯變得日益廣泛哂茫斒澜绺鞯夭俨煌Z言的人們、甚至國際會議,都使用谷歌翻譯時,那豈不是連人們的思維、溝通、交往,都會被機器人和機器人背後的力量所控制和左右?!

目前,世界各國的主要汽車廠商對自駕車的「自主程度」有不同的處理方法和態度。大眾汽車(Volkswagen)旗下品牌奧迪(Audi)發布了一款可上路行駛的最先進的自動駕駛汽車,允許車主長時間不看道路的系統。新款奧迪A8允許駕駛員在交通擁堵、車速不超過每小時60公里時,讓車輛進入自動駕駛狀態,而駕駛員可以完全不管。

奔馳、日產和奧迪等車企,採取對車輛逐步增強「自主」程度的態度、在發生緊急情況時把控制權交還給駕駛員。福特和捷豹路虎比較保守,表示只有當車輛「自主」技術能在所有情形下駕駛車輛時,才會給自己的汽車加裝該技術。福特董事長比爾.福特(Bill Ford)表示,自駕車的技術要求不難實現,但道德和制度層面的問題才是最大的難題。

關於機器人時代的倫理,美國科幻作家阿西莫夫早就給出了三條法則。阿西莫夫在1950年出版的短篇小說集《我,機器人》中提出「機器人學三大法則」,被稱為是機器人的「摩西十誡」。法則第一條是:機器人不得傷害人類,或因不作為而使人類受到傷害。第二條:除非違背第一法則,機器人必須服從人類的命令。第三條:在不違背第一及第二法則的情況下,機器人必須保護自己。後來,阿西莫夫又補充了第零條法則:機器人不得傷害人類整體,或因不作為使人類整體受到傷害。

但機器人學的三大法則,也難以真正的、完全的解決人和機器的關係問題。阿西莫夫的《機器人與帝國》故事中,一名罪犯犯下重罪,必須被處死,但如果機器人在場看見了,機器人要服從第一法則,就不能對人類個體可能死亡而袖手旁觀,它可能就需要去「劫法場」救下那個死刑犯,從而干擾了人類社會的秩序。第二法則的「自保」和第三法則的「服從命令」也有可能發生衝突,從而使得機器人無所適從。

阿西莫夫的「第零法則」,是更高的智慧,涉及人類的整體。但涉及到人類的整體,涉及到人類的前途和命撸@時候機器人插進來,就更可怕。機器人如果看到人類無節制、無限度的盲目發展,導致更多的災難、戰爭和貧窮,如果要遵循「第零法則」,機器人就必須選擇用機器人自己「理性的頭腦」來支配和保護人類,這樣人類就不會絕種,但人類自己的自由意志,可能就被機器人奪取了。這是人類希望的嗎?我們的世界上,超過85%的人是信神、信佛的,信神信佛的人們相信,人是神佛創造的,如果神造的人就這樣被機器人或者機器人背後的勢力、生命去左右了人類的人生、生命,神佛會允許這樣的事情發生嗎?

在道德層面,一個典型的例子就是,當要發生汽車事故時,自駕車是選擇救駕駛員,還是選擇讓駕駛員受傷而去救10個行人?在解釋人類社會的行為時,有一個「有軌電車難題」。

在這個經典的思維實驗中,一輛有軌電車沿著軌道飛馳而來,馬上要撞到五個人。如果你有控制桿可以把電車轉到另一個軌道,從而救下這五個人,但是會犧牲掉另一個軌道上的一個人。這個時刻,你怎麼辦?你是「採取行動但是殺死一個人」還是「什麼都不做讓五個人死」?這個選擇的難處,在於它迫使人們在「不殺生」的個人道德和「救更多的人」的更高的善良之間,進行一番掙扎。

面對「有軌電車難題」,大多數人可能會選擇更高的善良,轉向救大多數人,而犧牲一個人。但是,人是有強烈的感情的,如果可能的單個受害人是婦女、兒童、弱者、或者自己的親人,實驗參與者很有可能讓大多數人犧牲,而救下自己的親人或者一名婦女或兒童。這裡,人類做出這種選擇,可能都是非常困難的,那顯而易見,人類不能讓機器去做這個選擇,不能讓機器決定人的生死。所以,我們必須對機器、機器人、自駕車和電腦做出一定的規範。

(待續) ◇


0%(0)
0%(0)
标 题 (必选项):
内 容 (选填项):
实用资讯
发龙药业大回馈!美国专利骨胶原、活心素、灯盏素、排毒养颜宝购买两疗程免费邮寄中国
天天养生,保健礼品,物超所值,疯狂现金折扣,直销美加,港台,大陆,东南亚
最劲爆,最给力美国专利产品<骨精华>消除关节痛、骨质疏松<心血通>预防心肌梗塞
免开通费,30天免费试用中文电视万花筒, 无捆绑服务,月费5.99
西洋参、羊胎盘、鱼油卵磷脂200多种送礼自用健康佳品,全部特价!由此进入
留美学生医疗保险$39/月,短期访美旅游保险,不需体检无年龄限制
一周点击热帖 更多>>
一周回复热帖
历史上的今天:回复热帖
2014: 行车需谨慎 详解汽车故障八大征兆
2014: 保养有道 秋季爱车防感冒秘诀
2013: 保养易遗漏的三大部位 仪表盘需细致清洗
2013: 气温骤降秋来到 换季之时车宜养
2012: 汽车行进过程中爱跑偏的八大原因分析