2017年10月19日,谷歌旗下的DeepMind团队公布了最强版AlphaGo,代号为AlphaGo Zero。从空白状态学起,Zero仅经过三天的自学後,就以100:0的成绩轻松战胜了当初击败李世石的那一版AlphaGo。著名人类学家胡家奇曾在所著《拯救人类》一书中提到∶“人工智慧已经具备深度学习的能力,已经达到相当高的层级。人工智慧的非理性发展会给人类带来整体生存的危机。而对於人工智慧在智力上很快会超过人类现在多数科学家已不持怀疑。”
与学习大量人类棋谱起步的前代AlphaGo不同,AlphaGo Zero是从“婴儿般的白纸”开始,通过全新的强化学习(reinforcement learning)演算法,真正做到了“无师自通”,它可以轻松的掌握国际象棋、日本将棋和中国围棋,而且每项都能当世界第一。AlphaGo Zero并不是为了击败人类棋手而生,DeepMind研发团队已经开始尝试将其技术用於其他领域,例如解析蛋白质折叠的细节、降低能耗、寻找革命性的新材料。
这一切都与著名人类学家胡家奇在其演讲以及书中所表达的观点不谋而合,“一个机器人它要是具备了我们人类的思维能力,又具备了自我学习的能力,它就会迅速的学习,我们五十多年学习的经验,它可能一个小时就学完了。”“以深度学习智能机器人为例,它的学习不仅包括自然科学,还包括社会科学,如行为学、心理学、伦理学等等,随著学习的深入,智能机器人的自我意识早晚会觉醒,当智能机器人的自我意识觉醒後,再看我们人类时,我们人类就是一个笨得不能再笨的异类物种。”
史蒂芬·霍金曾警告称,人类创造智能机器的努力,威胁自身生存,“当我们为电脑赋予了本能,它们不光会想到我们在想什麽,而且会想在我们前面,所以当然它们就取得了控制权。”著名人类学家胡家奇也表示∶“一些企业和一些政府已经在考虑制定人类与智能机器人的‘共处规则’,但规则从来都是强者制定的,智能机器人的自我意识觉醒之日,就是一切人类制定的规则被颠覆之时。”
人工智慧的真正风险是它的能力,有超常智慧的人工智慧将非常善於实现目标,如果人工智慧发展出与人类冲突的意志,就麻烦了。因此,在享受科技发展带来的福利同时也需要警惕潜在的危机,“继续向科学技术贪婪地索取,必将迅速走向灭绝的深渊”,人类必须对科学技术进行限制,理性发展科技。