让阅读成为一种享受！若被转/码,可退出转/码继续阅读.
“生物从古到今，经历了那么多次自然选择，才有了今天这样的稳健性，但我们还是觉得生物非常脆弱，现在这批AI，可能不过是个开头而已。”严可守说着，苦笑了一下，迅速将桌面上自己的那台笔记本屏幕合上，“算了，我也不在这干耗着了，出去透透气，都快憋死了。”
当前的科学认知认为，最初的意义上的生命，出现在距今40亿年前的地球，在那个时候，生命只不过是一锅温暖的热汤中，偶然形成的一些能够自我复制的有机物，复制，也可以看成是信息的自我保存，应该是生命最重要的特征之一。
在这之前，人们说到人工智能，通常能想到的场景就是，能够和人一样说话，和人一样思考，解决问题，事实上，在严可守之前，整个日本关于机器人智能化的研究，也大多停留在这个层面，依靠尽可能复杂的算法，让计算机表现的更接近一个人类，在严可守看来，这种方法根本不可能造出真正的AI，因为这根本就等于是人本身在思考，只不过这种思考通过代码，间接表现出来而已，所以，不管计算机模拟的有多像，程序也不过是牵线木偶。
在严可守之前，还没有任何一个程序可以做到，像KL系列做的这么出色，可以在和陌生测试对象的谈话中，维持半个小时左右不被识破，许多刚刚接触这个程序的人事后都不敢相信，与自己对话的仅仅是一个程序。
筑波大学的一些学生甚至把整个测试当做一种有趣的游戏来进行，严可守记得测试刚开始的那个阶段，都要三浦主动去拉他班上的学生，而到了现在，学生们甚至主动来打听什么时候恢复测试。
KL系列原始的“胚胎程序”只不过两百KB左右，在这简单的两百多K核心程序当中，严可守赋予了程序基本的学习功能，在程序最早的“发育”阶段，通过巨型计算机模拟外界刺激，让程序实现基本的自我成长，当它们长到大约10个G大小的时候，被认为具备了基本的交流能力，能说一些简单的句子，在这之后，则对这些程序进行图灵训练……
在这之前，AI的表现一向都比较正常，直到两天前，所有程序陆续开始爆发BUG，进入了“无响应”阶段，无论人和它说什么话，都不予回应。
从原理设计的角度来说，程序之所以会出现这样的原因，最大的可能性就是，在程序看来，不响应是一个较优解，之前严可守调查了许多AI出BUG之前的测试数据，发现这些程序无一例外，都是因为测试连续遇到了几十次，乃至上百次的失败，AI虽然不可能懂得什么叫做绝望，因为他们没有感受器官，但并不妨碍他们的程序能表现出一种，类似人类绝望时表现的行为。
起码，他们的这种行为，在多愁善感的人看来，就是绝望。
比如重复完全毫无意义的自我修改，比如提出各种不合常理，甚至愚蠢之极的建议，有些AI甚至通过网络，找来一些色(和谐)情小说片段，企图“贿赂”测试者，总之，为了达到“通过测试”的目标，AI将能够尝试的可能，统统试过了一遍。
对于AI来说，通过测试就是它的本能，因为在它的程序成长过程中，通过测试就意味着确认了自己所作的修改起到了作用，形象的比喻就是，通过测试对电脑意味着一种激励，就好像人类能通过进食，交（和谐）配，甚至排泄这种正常的生命活动，获得快感，生命通过快感给予这些合理的行为激励一样，而反之，没有通过测试则意味着程序本身受到了否定，意味着痛苦，当一个生命长期处于这种痛苦之中，痛苦可能会扼杀它所有的改进可能。
在所有的生命过程中，正向的激励是必不可少的，就像每个人都有求生的本能一样，但进化的道路是多种多样的，有些看起来很不错的功能其实是双刃剑，比如情感，丰富的情感是大脑复杂后的必然进化，情感的认同能让一个群体更有效的聚拢在一起，但同样因为情感丰富，在自然界中，许多高等动物会产生自杀的行为，比如狗会为了主人死去而绝食，人也会因为亲人或爱人死去而伤心欲绝，对AI而言，依靠测试成功获得激励固然非常有利，它可以让一个几百K的小程序扩大至原来的百万倍，但当这种激励最终消失的时候，对程序而言就是灾难。
一旦发生这种情况，就意味着不改动，不做出任何回应成了最优解，这同样也就意味着，这批程序的“心”，已经死了。
作为一个设计者，严可守倒不至于为这些程序的“心死”而感觉到一些异样，对他而言，这种想法未免也太想象力丰富，同情心泛滥了，他只是在为这些程序的稳健性如此之差而感到头疼，一批这么容易“自暴自弃”的AI，绝对不是他理想中的AI。