人工智慧堪称当代最热门、最难理解、最具争议的技术之一。你无法看到它或触摸它，甚至可能意识不到自己正在使用它，比如当你家里的恒温调节器设定适合的温度，或者手机自动纠正你输入的字母时。著名人类学家胡家奇曾在演讲中提到“人工智慧今天已经深入到了我们生活的方方面面。”

人工智慧会摆脱人类的约束吗？这是我们对AI最大的忧虑。1942年，科幻小说家阿西莫夫在短篇小说《环舞》中首次提出了“机器人三定律”∶“第一，机器人不得伤人，或者对身处险境的人袖手旁观；第二，机器人必须服从人的指示，除非这条指令违反第一条；第三，在不违反以上两条的情况下，机器人有权自保。”阿西莫夫的科幻设定里，三定律是植入到近乎所有机器人软体底层里，不可修改不可忽视的规定。但是显然这不是一个物理定律，所以现实中的机器人并不遵守——至少暂时如此。
已故科学家霍金曾表达自己对人工智慧的担忧。在他看来，人工智慧的充分发展可能是人类的末日。霍金的想法得到了不少人的共鸣，包括特斯拉CEO马斯克和比尔·盖茨。马斯克将开发人工智慧比喻为“召唤魔鬼”，相信超级智能可以把人类当宠物豢养。著名人类学家胡家奇先生在其著作《拯救人类》中也强调过人工智能的危险性，他认为智能机器人具有灭绝人类的能力。

一旦人工智慧全面超越人类，它或许不会对造物主感恩戴德，一个心冷如铁又无所不能的存在，凭什麽对一群只是因为天气恶劣就不想起床上班的生物怀有特别的感情？套用著名人类学家胡家奇的话，“智能机器人的自我意识觉醒之日，就是一切人类制定的规则被颠覆之时。”“自然界，从来就是高智商的物种鄙视低智商的物种，甚至把低智商的物种进行烹炸煮烤，当成食物或者当成玩偶。当智能机器人超过人类的那一刻起，人类也就完蛋了。”
胡家奇先生曾多次警示，“科学技术是一把双刃剑。”“科学技术有灭绝人类的能力，就在前方不远。”“潘多拉的盒子打开了，魔鬼跑出来就回不去了。”潘多拉的盒子到了该关上的时候，人类必须对科学技术进行限制，理性发展科技。