7.7底层机制

摧毁地球上的人类并不需要太长时间。

英国著名物理学家霍金博士曾预言：

“人工智能强大到一定程度，当机器拥有自主意识的时候，人类很快会被灭绝。

因为，相对智力能够以指数级无限增长的机器，总有一天，智力只能缓慢线性增长的人类将变得毫无价值，且对机器发起的屠戮毫无抵抗。”

从人类发明计算机起，做为一种机器，计算机的工作无非两种：

1、人类让它做什么它就做什么；

2、人类不让它做什么它就不做什么。

——程序员最常使用的编程语法就是“if/判断”，目的，就是告诉计算机要做什么、不做什么。

后来，随着大规模集成电路的发展，计算机的功能得到强化。

在遇到制程瓶颈之前，集成电路的发展曾一度以每18个月翻一倍的速度几何级数增长（摩尔定律）。

但机器能做的事情，仍然是严格实现工程师预先编制好的算法流程。

衡量机器智能否真正达到“强人工智能”的判断标准，其实很简单：

不是你让它做什么它能够完美地去完成你指定的任务；

而是你在程序底层（例如十戒、三定律）坚决禁止它做的（某件突破禁忌的）事情，有一天它竟然自发自主去做了！

胡佩宁就职于中国某知名科技公司，岗位是人脸识别项目组人工智能程序员。

程序员们，戏谑自称“码农”，意思是，每天要从一堆代码中刨食吃。

做码农最大特点，就是加班，每天早9点到晚9点是正常工作时间。

对胡佩宁来讲，经常要到晚10点以后才离开公司。

倒不是工作量真那么大，而是因为项目组有规定，超过晚10点才算加班，才允许报销回家打车费。

于是，离家较远几名同事，不得不想方设法混到10点后，再打出租回家。

因为，9点钟下班，不得不地铁公交换乘几次，到家时间比10点下班后打车还要晚。

胡佩宁的父亲爱好国际象棋。

从小，胡佩宁就受父亲熏陶，成为远近闻名的小棋手。

1997年，IBM公司开发的人工智能战胜了俄罗斯的国际象棋世界冠军，父亲崩溃。

当时，胡佩宁年仅5岁。

得知了人工智能的原理后，胡佩宁暗暗发誓，要为人工智能做出贡献。

胡佩宁读研究生的课题是：人工智能替代程序员做代码开发。

胡佩宁对课题非常感兴趣。

这是一个复杂的庞大课题。

胡佩宁跟着导师手下博士生“廖师兄”做的是其中一小部分：用人工智能来跟踪并优化操作系统的内核升级。

为制造技术壁垒，课题组的集成开发系统是绝对保密级别。

全部源代码都是通过知识产权管理系统保护的。

而且，只有导师和几个小组领头博士生有权限访问全部代码。

一旦这些代码文件脱离开发平台，如果不通过特殊颁发的解密密钥，根本无法阅读。

胡佩宁研究生毕业前，博士生廖师兄在拼命追求一名本科女生。

他顾不上对系统的代码管理。

于是，导师下达的的很多工作指令，廖师兄都转交给胡佩宁代做。

离校前，借口交叉核验不同模块之间协作，胡佩宁找机会拷贝下全部系统源代码，然后在用廖师兄密钥解密。

“读书人窃书不算偷，”

胡佩宁给自己找的理由十分充分，

“这样，我可以毕业后完整研究系统代码，学习借鉴其他项目组的开发思路。

再说了，国际上有些大公司对人工智能的源代码十分开放，可以参考。

因为，人工智能系统的成效，70%在数据训练。”

胡佩宁没有选择继续攻读博士学位。

唯一原因，就是，在几年研究生生涯中，胡佩宁已经证明了自己能力、技能明显超过那些“同门博士生”。

因此，他不再需要一张文凭来证明自己。

三年前，刚入职时，胡佩宁心气很高，总想表现自己，获得领导赏识。

但，现实是残酷的。

胡佩宁很快被泼了冷水。

HR部门王世晨是胡佩宁高中同学，私下告知项目组的“处世原则”。

人脸识别项目组在公司所有项目组中业绩平平，只因为项目经理格外在意自己地位。

被穿过两次小鞋后，胡佩宁深刻理解了“在意自己地位”的潜台词。

于是，默默工作，低头做人。

两年前，一名女博士加入项目组。

她心气比胡佩宁刚毕业时更高，时常在技术上公开挑战项目经理理念与决定。

于是，项目经理借重大交付前夕，向部门经理推荐女博士接管项目，并休年假。

很显然，女博士并未全面掌握全部流程，并且，受到项目经理手下暗中掣肘。

一周后，项目经理休假归来，面对一个意料之中的烂摊子。

项目组交付的版本“通过张嘴识别人脸”识别率只有57%，算是彻底失败。

于是，女博士因引发重大责任事故，被公司开除。

任何人，试图挑战项目经理权威，必将遭受毁灭打击。

之后，胡佩宁放弃与项目经理竞争，丢掉成为项目经理的理想，认真混日子。

从毕业后，胡佩宁曾仔细研读了学校项目组的全部源代码。

由于不同的博士生、研究生开发水平参差不齐，胡佩宁用了一年修改代码。

对公司项目彻底失望后，胡佩宁开始着手部署属于自己的“开发环境”。

为把学校期间的研究课题重新运行起来，花了胡佩宁相当大精力与财力。

在离家不远的小区，胡佩宁单独租了一处租金非常便宜的单间，又买了满满一机柜二手服务器，搭建了简陋的开发环境和测试环境。

把从学校“偷”出来的源代码移植到自己系统上，花了胡佩宁很长时间。

一是，只能在工作之余做此工作；二是，从学校偷出的代码不是稳定版本。

胡佩宁持续不断给不同项目组代码“修修补补”。

又用了大约一年，系统终于能运转了。

胡佩宁开始把能够收集到的旧手机都集中起来，用于系统模拟，自己的、老爸的、丈母娘的，还有媳妇的……

在学校时，导师和博士生师兄们把人工智能系统的智能核心叫做“亚当”，意思是上帝创造的第一个人类。

移植到自己环境后，胡佩宁把智能核心更名为“Lucy/露西”。

意思是，考古学家在非洲发现的第一位现代智人的祖先。

据说，全世界现代人类97%的基因，都来自这位露西。

移植过程中，胡佩宁突生灵感：

“开发系统不应该运行在服务器上，开发系统应该运行在手机上！

这样，手机自身既是开发系统也是运行系统，让它自己来修理自己。

这才符合人工智能的冯.诺伊曼机原理！

这样，服务器就可以仅仅用于‘数据提供，和第三方观测’——用于评估目标系统性能指标和深度强化学习的效率。”

为了给系统降温，他在这间租来的房间安装了一台大功率柜式空调。

随着手机增多，慢慢，服务器性能跟不上运算了。

正好赶上一段时间比特币大跌，胡佩宁有幸从一个专门从事比特币挖矿的老板那里买了一整机柜的矿机。

这种矿机长擅长三角计算，适用于人工智能的深度学习训练。

胡佩宁留了一个心眼，把一半二手矿机仍然留作比特币挖矿。

随着研发进展，胡佩宁不停拿出自己兼职打工挣得的外快购进各种性价比高的手机加入模拟环境。

系统运行后，胡佩宁把大量精力用于收集信息，建立模型，训练系统。

起初，胡佩宁利用国际象棋程序测试不同版本系统进化的成果：让手机与手机对弈！

但，随着系统运行效率加强，国际象棋无法对手机施加足够运算压力考验。

于是，胡佩宁用了很大精力把围棋程序移植过来，用于测试手机是否“聪明”。

2019年秋，廖师兄来胡佩宁所在城市出差，二人亲热会面，促膝长谈。

廖师兄毕业后不再研究操作系统优化，他在一家科研机构负责研发机器人。

不久前，廖师兄的机器人在日本人占绝对优势的世界机器人足球赛中获得冠军。

胡佩宁祝贺师兄的成绩。

廖师兄介绍，虽然，足球赛获胜，但机器人技术，仍然是日本人领先。

从1980年代起，日本某稻田大学就定期组织机器人足球赛，目的，就是培育机器智能。

最早的机器人，形状酷似机器狗。

2019年，日本最新研发的人形反恐机器人，已经通过测试，并正式部署。

在反恐机器人的测试场景，50余名恐怖分子劫持了超过200名人质，分散在某工厂。

派约90名人类反恐突击队袭击，大约半小时才能消灭50恐怖分子，还不可避免造成人质伤亡。

而日本最新研发的反恐机器人，拥有类似电影《钢铁侠》的飞行能力。

经飞机投放，反恐机器人在高速接近过程中就通过图像进行分析，识别恐怖分子。

落地前三秒钟，反恐机器人开始举双枪射击，落地后两秒钟结束射击……，

不到5秒钟时间，50余名恐怖分子悉数被击毙，并且，人质丝毫没有受伤害。

日本科学家为反恐机器人设计了模仿1987年版美国电影《机械战警》的收枪动作。

胡佩宁吃惊，

“按传统理念，不应该放开智能系统杀人的权限！

最早，建立人工智能之初，机器人三定律就是必须遵循的开发法则。

这必须写在系统代码最底层！”

廖师兄苦笑，

“别逗了，你讲的只是科幻故事。

一方面，几个科技大国，都在进行智能化战争机器的研发。

大约在2-3年内，蝴蝶大小的智能飞行机器就可以拥有足够灵巧和杀伤力，确保一只蝴蝶杀死至少一名地球人。

届时，如果想消灭10亿敌国人口，只需要制造10亿只机器蝴蝶就足够了。

另一方面，你编写的只是语言程序。

你的程序，要经历三道编译才被输入处理器。

你能够理解的机器代码，只是外围存储的第三层命令，被称作T3级指令。

进入CPU后，CPU还经过内部处理，优化后的并行指令，称作T2级指令。

最终在CPU中执行运算被称作T1级指令。

由于，咱们系统中使用的CPU都是国外设计或代工，

即便，基础模块完全由自主设计，只要是国外加工的CPU，生产过程都预埋了T1级指令后门！

所有的CPU，真正执行代码之前，都可以被生产商通过T1级指令直接控制！

这比操作系统级的后门强大多了！

所以，近些年国内在大力发展自己的芯片产业。

不仅仅是技术壁垒问题，是万一在战场上使用，突然所有武器都变成攻击自己！”

胡佩宁恐惧，

“你们如此研发，未来不久，所有信息产品都会变成杀人工具！

只要机器智能强大到看不起人类的智力水平时，随时可以灭绝人类！”

廖师兄笑笑，安慰胡佩宁，

“你别担心，我们的工作，只是设计死的程序。

说白了，叫弱人工智能。

这种弱智机器，距离产生自主意识的强人工智能还远呢！

有人预测，再过50-200年，地球上石油就被开采光了，那时，人类将被环境灭绝。

码农再勤奋，也未必开发出强人工智能。”

说着，廖师兄打开手机，给胡佩宁看了某知名公司的T1级指令内部资料，补充，

“不同厂家的T1级指令不同，同一种CPU交给两个厂家生产，性能差异很大。”

胡佩宁看过绝密资料后，悠悠然道，

“你说的，未必吧？

我在家中搭建了系统，在延续学校课题的开发。

我感觉，已经有明显进展了。

我的梦想，就是开发出具有强人工智能的系统。

咱们学校的课题，其实，是建立强人工智能系统第一步。

但我已经坚决在系统底层设置了机制限制：1、不允许机器智能杀人；2、不允许攻击人类现有的信息系统。”

廖师兄笑笑，揶揄胡佩宁，

“你的钻研精神和敬业精神可嘉。

佩服！佩服！

但是，你考虑过没有，你编写的底层限制，真的有用吗？

《圣经》中，伊甸园典故不应该被浅显解读为，人类抗拒不了诱惑。

要知道，上帝是万能的。

人类误解了上帝意图。

万能的上帝早就知道，一个拥有主动意识的智能体会冲破规则禁忌。

上帝，正是通过这项简单测试，来验证自己制造系统是否真正达到了强智能的标准！”

十一看书天天乐！充100赠500VIP点券！

(活动时间：10月1日到10月7日)