当然，上面提到的汽车自动制动装置、安全带、捕兽夹、瓦特调速器，加上挑战李世石的围棋软件都属于“弱AI”，即没有自我意识，只能按照人类设定程序处理信息的AI。他们的强项并不在于真的去“理解”事实，而是用更高的速度处理事务。所以我们才期盼它们越来越强——再强他们也只是工具，可以被一键关机。人类真正担心的是强AI，即同时具备自我意识和高速处理能力的人工智能。前面转载的阿西莫夫小说情节中也透出了类似的看法——自创宗教的机器人可以因为教义而为人类忠实服务，但也存在因为“教义”而损害人类利益的可能。总之，独立的意识既意味着无限的潜力，也意味着无限的风险。
对于类似的观点，我……没啥明确的看法。因为“强”AI的原理和功能都完全超出了我当下的想象。作为一个普通人类，我连自己为什么有“意识”，为什么有智慧都不知道，更不可能想象一台机器如何具备类似的能力。让我评价强AI是福是祸，就像让不会骑马的原始人评价汽车的利弊一样无稽——我不能评价那些我不知道我不知道什么的东西。
然而，我倒是有个笨办法来趋利避害——用弱AI加强人类自身，让我们来变成“强AI！”
我们回顾一下，为什么围棋电脑可以挑战李世石？不是因为电脑真的理解围棋是什么东西，而是因为电脑拥有远超人类的记忆能力和推算速度。如果我们通过植入芯片增强记忆和计算力，通过添加传感器增强自己的信息搜集能力，世界上第一个“强AI”可能就是我们自己！
实际上，类似的事情我们已经在做了。这里可以看看我之前写过的文字：
如何看待百度将血友病吧归还给原吧主？是一次网民的胜利吗？ - 马前卒的回答
一个副部级官员在台上高举自己的智能手机：你们觉得这是什么？
底下众人有答手机的，有答电话的，有答娱乐工具的，都被一一否定。最后这位50后的领导给出了自己的看法：这是有史以来和人类结合最紧密的机器！是人体的新增器官！
虽然手机+互联网+搜索引擎这个“器官”和大脑的结合还非常粗糙，但就我近年招聘经验来看，在媒体工作方面，善于用搜索引擎的人和不会用搜索引擎的人完全就是两个物种，效率差距远大于智人和尼安德特人的差距。如果谷歌眼镜和新一代虚拟现实技术能做到即时从现实中抓取模型进行演算，装备新技术的人类可能会完全甩掉那些前网络时代的同类，创造出他们永远无法理解的技术。更不要说未来通过植入芯片分担大脑职能的人类了。到那时候，我们有意识，有智慧，还有电（光）子计算机的运算速度，还怕什么“强”AI？
至于为人类植入新的传感器，其实我们已经在做了：
电子视觉技术让盲人见光明人工视觉系统助盲人“复明”
我们既然能把摄像头的光信号直接传给大脑（不需要眼睛这个中介），就能在不久的将来为人类装备更多的感官，让整个世界在我们的“眼中”透明化，甚至可以在虚拟空间中“看到”更高的维度。普通人只能通过数学模型来研究的高维空间，对于新一代人来说可能是“不言自明”的事实。“生而平等”的生物学概念到此将彻底结束。
当然，这样的世界和今天的伦理学标准是有一定冲突的。在各国神话中，有第三只眼的人类不是神灵就是怪物，总之不是人类。如果有人能通过手指观察东西，能通过颅内硬盘调阅百科全书，当代人看他的眼神一定不会太“亲切”。然而，原始人看我们穿各种衣服恐怕也是类似的感受，古代人也无法理解为什么拍照是必不可少的饭前仪式，进步本来就不一定会被古人所理解。人类之所以是人类，就是因为我们的祖先通过DNA变异获得了制造工具的能力和抽象思维能力，我们今天修改自己的“外设”来变成超级AI，变异程度未必就比祖先物种变异的幅度更大。
无论我们如何看待AI的风险，有两个事实是确定无疑的——1 维持现有的生活水平离不开AI；2 用弱AI装备自己的人类会获得竞争上的极大优势。这意味着AI和人类的结合必然会越来越更紧密。我们与其被动地接受这个新时代，不如主动地变成超级智能生物，变得更聪明、更善于交流，更长寿、更强大。
这里我再引用一下之前的发言：
机器人群体能够干人类98%的非机械性工作的时代，社会会怎么样？ - 马前卒的回答
除了信息的存储读取，人类还需要提高信息的处理效率。拿算术当例子，原始人和小孩子在作加法的时候都有一个本能的反应——掰手指头，也就是累加计算。3+4，就是先伸出3根手指，再挨个掰出4个，最后回过头把所有手指头点一便数，得出7的结果。手指头不够的话，还可以用木棍、石子来辅助，原理上是一样的。
为了避免每次计算都掰手指头，你我都必须在小学低年级作大量的算术速算练习，直到我们把两位数的加减法变成条件反射而不是累加的结果。从而把更大数字之间的运算分解成一系列条件反射的累加，提高整体运算效率。又比如苏美尔人最早的乘法是连续做加法，一位数的乘法也必须挨个加起来，这和我们小学时学乘法原理的程序是一样的。这个方式足够简单但嫌太慢。后来，学算术的学生就要背乘法表，背会了之后在脑子里建立固定的数字处理程序，只要记住八八六十四这种口诀，就不必再每次计算都作七次加法。这也是信息化，通过建立固定的反射来提高信息的处理效率。
相对论刚提出时，号称全球能完全理解的人不超过十人，现在却成为理工科必修课程，是我们智商提高了吗？ - 马前卒的回答
你要说服自己的大脑，“数学工具”这个词绝不是一个比喻，而是客观、准确的描述。铲子、汽车、充气娃娃等有形物体是工具，思考方式也同样是工具，都是人类改造世界能力、理解世界能力的“放大器”。这一点在理智上接受很容易，在直觉上相信比较难。就像大多数人可以在理智上承认电场、磁场也是物质，但真的思考复杂问题的时候，直觉就只承认椅子、汽车这样的东西是物质了。
什么是工具呢？严格来说，人类制造的任何东西都只是附加了“信息”的某种结构。砍木头做梯子，木头是自然界的物质；炼钢造汽车，铁矿石和煤都是地球本来就有的。我们没法凭空“创造”物质，只能把既有的物质赋予人类设计的结构，才能变成实体工具。至于思考工具，只是把这个“结构”直接用思想表现而已。从这个角度讲，思考工具和日常的实体劳动工具完全是一回事。
所以说，人类现在能一枪撂倒大象，不是因为力量增加；人类能迅速理解几十年、上百年前的物理前沿思想，不是因为智商提高，两个事件都完全是工具水平提高的结果。相对几百万年的人类进化史，最近一万年我们的基因没啥明显改变，进步的是工具。
总结一下这两段引用的文字，我想说的是，信息时代并不是最近十几年才到来的。整个人类文明史，从捕兽夹到乘法表再到蒸汽机、计算机，这都是“信息化”和“AI化”的发展过程。我们这些年的发展速度很快，但也不过是保持了过去200年、20000年、200000年的AI进步趋势。如果你恐惧AI，就应该记住被历代古人（包括毛泽东）反复强调的一个概念：
寇能往 我亦能往。
责编：宋胜男
赞
踩
路过
