最关键的是把规则/性能指标和相应的empirical经验翻译成尽量严谨无歧义的数学表述。。如果某事件（比如下棋）是可以那样做成，那么，在那个特点事件上机器超过人类，只是可预见的时间和金钱（堆积机器）的问题。
特别的数学问题，当然可能会有相应的特别的AI算法的进步。但是，总的来说，当今计算机容量和速度的增长，是现在越来愈多的问题可以由机器解决的最根本原因。
所谓“学习”，主要是因为数据越来愈多的积累。大学公共数学里的贝叶斯定理，就是简单描述。再简单讲，神经网络其实就是隐式的曲线拟合。在已有数据范围内，作内插，临场性能绝对超过人脑的记忆和计算能力，但是拿它外推就难说了。出路就是积累越来越多的数据，尽量减少外推。
从另一个角度，神经网络“总归”是不如穷举的。穷举，相当把每块石头翻过来看一看。如果计算上做得到，当然穷举。穷举也可以根据特别问题的特点来简化。GPS找路，就是典型的例子。
说到这里，就不难理解，为什么，需要常常把神经网络与穷举/蛮力搜索放在一起了。
至于将来什么可行什么不可行，泛泛地说是没有意义的。“可行性”是关键。（如果阿法狗要三天才能走一步，那就没有意义；如果算明天的天气要到后天才算出来，那更没有意义。）所以，讨论此类问题，要对算法，要对计算复杂性，有至少入门的知识，也有起码的量级概念。
更加“直率”的话，据说太刺耳，我就不说了。
嘿嘿
如果您要忧虑机器哪天会操纵人的话，我建议您先想些美好的事情，比如AI来炒股票。。或者，帮您网聊。
祝大家周末愉快