“关于人工智能的思考” 一文之观点集萃
2023年3月，在chatGPT火热之际，我写了一篇《关于人工智能的思考》长文（共36，000多字），现将文中主要观点选摘出来，供有兴趣的朋友参考。
人工智能只能按人所设计制定的规则运行，它是人的数学计算和逻辑推理的扩展与延伸，而人脑除了数学计算和逻辑推理能力之外，还有算计的心智能力，这种算计的心智能力是计算机智能无法完全模拟的，因为它是人脑智力才具有的创造性和破坏性，这是任何人工智能、意识机器的自复制也好、涌现也好，都无法学会的。
人工智能是对人的自然语言的处理系统，而自然语言既是人的心智的表现方式，又只是人的复杂心智露出水面的冰山一角。由计算机发展而来的人工智能，都是将符号语言替代自然语言，也就是用逻辑符号和数学符号取代自然语言（符号），才能实现精确化的数学和逻辑的运算处理的。因为，自然语言尽管也是一种符号，但是这种符号所表达的含义是及其丰富、含混、不精确的，其字面表达意义与人的内心所思所想有可能反差极大甚至截然相反，这不仅涉及语义学的研究，也是由意识形态话语体系的包装性决定的，也是由人心的流变不定、诡异狡黠所决定的。而算计，正是体现了人心的复杂性和多变性，它往往躲藏在自然语言的背后，这种“运用之妙，存乎一心”的心机是基于符号语言的人工智能无法理解和企及的。
自然语言与人的情感、情绪、欲望、品性修养、文化积淀、传统习俗、潜意识、价值观等各种非理性因素相关，一句“他笑了”的自然语言，其含义就已如此丰富难测（指笑有微笑、大笑、皮笑肉不笑、冷笑、嘲讽的笑……等等），人工智能怎么可能对自然语言进行完全精确定量的计算？
智能机器人没有自己的“心机”，她怎样对待人类，是由设计制造她的人设定的。他没有自己独立的思想，也没有自己的价值观，如果说有的话，也是被她的设计制造者输入的。
无论是符号主义的逻辑推理和演算思路，还是行为主义基于系统控制的功能模拟思路，或是连接主义基于神经网络连接机制的结构模拟思路，都各有特长，都在一定程度上部分实现了AI的智能化。但是，这三个各自独立的假说都不能完全地解释和解决人的智能问题。在我看来，这是由科学思维的分析性质决定的，虽然系统控制论对复杂系统的研究一定程度上弥补了这一缺陷，但仍是从现代数学理论发展出来的更复杂精致的一套算法，依据海量数据和强大算力而实现的。即便这三大学派互相取长补短，还是与人脑思维产生和演化的实际路径有着本质区别，这个区别是任何模拟人脑思维的机器无法消弭的。这就是，人的思维既是高度分析的，同时又是高度综合的，这种分析与综合相互缠绕纠结、须臾不可分离的情形是在人的鲜活的思维中随时随地、无时无刻地发生着的，而表达思维的语言又无法完全即时准确地反映这一情形，所以任何对人的思维的模拟都只能局部地近似地实现，而不可能是完全实现的。而正是循着分析的思路，人类认识才可能从混沌模糊的状态进入数学的、逻辑的思考，才可能分化出各门科学的研究。也只有循着这个清晰的分析路径，才会对复杂系统有解析的手段，才可能产生人工智能的研究。而人脑的具体思维其实并不遵循这样的发展逻辑。任何分析都是思维的抽象，都是对思维具体内容的舍弃或抽离，逻辑抽象的结果只留下思维的形式结构关系，却发现了思维形式结构关系之间的规律，使逻辑可以实现数学化的演算；数学抽象的结果只留下数字和位置之间的关系，却因此发现了各种数字和位置关系之间的规律。只有掌握了逻辑的、数学的规律，才能对复杂系统的结构和功能机制展开科学性的研究，而在此之前，我们对复杂世界种种不可思议的现象只能提出猜测、想象、联想、隐喻、类比等不可靠的和非精确的思考。而人的具体思维其实是上述各种过程同时展开的，当我们把其中一个或一部分思维功能抽离出来进行研究时，实际上已经不是真实的完整的具体的活的思维了。然而无奈的是，除了语言，我们既没有表达思维的出路，也没有理解思维的进路，这就是人的语言最根本的矛盾与局限，同时也是人的思维最神秘莫测和妙不可言之处。
自然语言正是人之思维既矛盾局限又奇妙无比的表达方式。自然语言表达的意思常常是含混的、不够清晰的、可多义解读的，有时甚至是“只可意会不可言传”的，禅宗提出“不立文字”就包含有这个意思，因为任何语言文字都不能涵括人所要表达的全部含义，所以才会有“言不及义”之叹，才会有“言外之意”之猜，才会有“言下之意”之悟。对自然语言语义的研究，催生了现代语义学。现代语义学流派众多、各陈己见，但总体而言，没有一派语义理论能完全解决语言含义的确定性问题——这是一个不可能完全解决的问题，因为人的思维是流动不居和互动演进的，反映思维的语言也是在人类社会活动的交流互动中随着各种语境和人的思维状态的变化而发展的。而任何对语言意义的确定性研究都必须在一定程度上将其定格化，人类只能运用确定性的手段研究不确定的世界和人类自己，或者说，人类只能在不确定性中寻求确定性，除此之外别无他法，这是认识论的根本矛盾，但也是人的认识魅力无穷之所在，倘若哪一天世界和人类自身的不确定性被完全认识了，那么人类的认识也就停止了。
为了使语言表达能够精确化，避免歧义，才有了用符号语言替代自然语言的研究，正是符号语言的运用才使逻辑摆脱了自然语言无法精确化的弊病，走上了数理化的发展路径，产生了现代数理逻辑，从而为计算机的产生奠定了基础。人工智能也是在现代逻辑和数学的基础上发展起来的，没有数学算法的迭代进步，没有计算机的强大算力，没有基于数学和系统控制的模拟，人工智能就不可能发展到今天的局面。
然而，人工智能既有强大而令人生畏的一面，也有弱智而令人可笑的一面。因为它毕竟是根据数学和逻辑的原理对人的意识思维进行模拟，而人的意识思维除了数学的和逻辑的，还有很多非数学和非逻辑的内容，人脑并非只是逻辑脑和数学脑，人脑是一个极其复杂的心智系统，这个系统既有别于物理系统，也有别于任何其他生物系统。人的意识思维最神秘难解之处在于，人类不仅有自我意识，而且还能对自我意识进行反思，人的意识思维还有用语言无法完全表达和解释的内容，比如情感、情绪、欲望、潜意识、感悟、直觉、顿悟、灵感、信仰等等，这些都是数学和逻辑无法精确处理的，然而它们又无时无刻不在人的意识思维中发挥着重要作用、产生着重大影响。
人还是群体性地组成社会的存在。除了人脑的个体特性之外，人类还有种种政治的、经济的、军事的、文化的、道德的、种族的、宗教的组织，并形成各种思维定势和思考模式，具有各种不同的价值观，并且它们在各种互动中不断地相互竞争和影响，这更是人工智能作为工具性存在无法模拟和不可取代的。
通过语境理解词语的意义，不仅是在复杂变动的社会环境中实现的，而且是在长期的社会实践中通过人与人之间的交互学习逐步深入的，这既是概念（语词）在人脑中从具体到抽象、从抽象到具体的反复深化过程，也是思维不断地归纳和演绎的过程，同时也是对认识对象从个别到一般、从一般到个别以及分析与综合相结合的过程。这里还没有包括人的情感、欲望、情绪、心理、道德、理想、信仰……等种种非理性因素，而实际上，人的思维是理性与非理性纠结在一起，同时影响人的决策行为的。俗话说：人心难测。如此多无法具体测量的因素构成了一个无比复杂的系统（姑且借用“系统”这一概念，其实人脑“系统”这一词语也是一种类比的说法，实际上与系统科学的“系统”究竟有多少相似度我们也不得而知，因为至今没有一种数学方法能精确地描述人脑活动的机理），这不是人工智能能够完全替代甚至超越的。这是人工智能探索研究的方向，是一个无尽的探索过程，至于说替代甚至超越，至少现在来说还看不到现实可能性。……对于未来，科学可以探索，哲学可以思考辨析，文学艺术可以展开想象的翅膀，可以猜想各种可能性，但不能做什么科学预测，尤其是有精确时间表的预测。科学家不是科幻作家，更不是占卜大师，科学家是按照科学范式进行探索研究的人。当然，作为一个人，科学家也可以进行哲学思辨，也可以进行文学艺术想象，也可以有各种猜想、理想甚至幻想，但必须明确的是，当他用非科学语言（思维）描述未来的时候，实际上并不是以科学家的身份，而是以其他身份出现的。如果我们不能辨析清楚这种区别，那么我们就会在各种语言的游戏怪圈中找不到走出迷宫的方向。
无论是贝叶斯神经网、大预言模型的深度学习神经网，还是因果关系研究中的自复制和复杂系统中的涌现，究其实质，都是关于数学和概率研究的结果，它们对人脑智能模拟得再逼真，也只是近似和类似，和真实的人脑智能之间永远隔着一道无形的屏障。
复杂系统只是基于自然系统和人工智能系统的研究，以隐喻（想象）和类比的方式建构模型，这样的模拟是否完全符合人脑系统的真实情况，谁也不能给出科学意义上的定论。而依据博弈论和决策科学做出的预测，也是基于数学计算和概率统计，本来是用于自然领域研究的，当套用于人文领域，用来预测人的行为时，不可避免地会遇到这样的困境：人的思想和行为是具有主观任意性的，他的以后的想法和行动自己都还不知道呢，人工智能怎么能够做出预测？即便预测了，也是猜测性的，究竟有多大的可靠性和准确性？在这里，我们有必要注意哈耶克的提醒：“由于专注于技术问题所产生的思维习惯不加批判地就转变到社会问题上去，而这种思维习惯是自然科学家和工程师的思维习惯。”（哈耶克：《通往奴役之路》）
人的认识，从科学而言，就像一个圆球，已知的越多，圆球表面积越大，未知的就越多，因此未知的领域是无限的而人的认识永远是有限的。认识生命的本质、宇宙的本质，是科学研究永无尽头的过程。如果人类真的完全研究清楚了，人就达到神的无所不知、无所不能的程度了。所以，对生命和宇宙本质的研究，将是一个不断接近真相，但永远不可能到达终极真相的过程。
哲学是好奇心驱使的对世界和自我的本源不断提问和探索的过程，一旦一个令人困扰的“怪”问题被当作一个经验问题或形式问题解决，它就不再是哲学而成为某一门科学。人类认识史上，各门科学都是从哲学的母胎中孕育出来的，所以，科学问题追根溯源，就其本质而言，都是哲学问题。只要科学的一些问题（例如有关现代宇宙学的问题、人工智能的问题等）不是由纯经验或纯数学方式表述，它们的领域总会与哲学的领域有所重合。最前沿的科学探索总是与哲学有交叉，从这个意义上说，现代宇宙学的研究、人工智能的研究等等，如果忽略或排除哲学的思考将陷入唯科学主义的迷途。反之，哲学也总是在科学探索的最前沿提出质疑和思考，在推动新的科学发育成熟并分化独立出去的同时，也促进了哲学思考本身的不断深化。
模拟遗传变异的系统，是一个抽象的自复制系统，它与生物的遗传变异的不同之处在于，生物基因的遗传变异是在生存环境的变化中不可预测地突然发生的，这种变异本质上是为了适应环境的变化而发生，而我们完全无法预知生存环境何时何地会发生何等样的变化，因而也就根本不能预测基因突变何时发生？在哪一点上发生？所以基因突变是无法预测和计量的，生物的遗传变异是竞争性地随机性地发生的，不知何时会被打断和改变，它没有确定性的指向，完全是非决定论的，永远是一个自然演化的过程与结果。……这样一个生命与环境交互、生命与生命竞争的复杂动态过程，任何人工智能系统只能近似地计算和模拟，不能完全真实地还原。
逻辑的自复制只要保证逻辑程序不出错，就必然能不断地原样复制下去，即便是出现类似于遗传变异的随机性变异，也不是在应对复杂环境中产生的。而生命中基因遗传的自我复制，它会在复制中出现突变，是应对复杂的生存环境的变化而发生的，是生命在应对环境变化的长期适应过程中出现的，而这种突变又并非全然被动，它同时也是一种主动的求生过程，因而这种突变是人类所设计的逻辑程序无法计算和描述的。然而正是遗传中有这种脱序或者说非控制的突变，才既保证了生命的复制，同时又创造了新生命的独特性。……生命及其人类意识并非完全是遵从逻辑的，其中非逻辑、非理性的影响因素恐怕是一个永远无法解开的谜。……人类意识只能用算法和建构去模拟，却不能用算法和建构完全还原。复杂的自指结构可以涌现类似意识的现象，但人类意识本身是一个比自我复制和涌现更复杂难解的过程，只要这一过程没有终结，自复制机器对人类意识的模拟就没有终极意义的完成。
人工智能对人类智能的超越，在工具性能力上早已部分或局部地实现，今后随着人工智能的不断迭代升级，这种超越还会大大地加速，甚至达到令人惊叹和不可思议的程度，这种超越主要是在算法、算力和数据方面，这是人脑所远远不及的。
人工智能是对人脑智能的模拟，无论是结构模拟，功能模拟，还是行为模拟，本质上都是一种“模拟”，无论它多么逼真，多么像人脑，毕竟不是真的人脑。为什么要模拟？因为人的大脑智能的复杂程度有如深不可测的宇宙，它的奥秘绝非一般复杂的生物结构，而是一个活的最高级的生命体，一个无法一窥究竟的有意识和自我意识的暗箱式的高度复杂的“系统”。当人的大脑处于活的运动状态时，我们只能通过想象、联想、类比、猜想、数学计算等方法和手段对其运作机制进行仿真式模拟；而当大脑停止运动时，一切模拟甚至生理解剖也都没有了意义。正因如此，人类永远不可能复制出结构、功能、行为与人的大脑完全一样的人工智能（大脑）。
人脑智能的本质特性还在于人能独立地做出价值判断，而AI不能。AI不过是工具，它不过是在人所赋予的意义、目的和价值之下高效地工作。意义、目的和价值判断，这是人类才有的，是人脑所特有的。假如你问：为什么人工智能就不能产生自己的意义、目的和价值呢？因为任何技术，归根结底是为人服务的工具，只有人才是最高的目的。技术是人所创造的，因此永远脱离不了工具的性质，而人的意识是自然演化来的，并非任何技术所创造，在终极意义上创造人的意识的只能是上帝，因此人才是这个世界的主宰，是这个世界不可疑议的最高目的。这个世界，只能是“人道”的，而不能是任何其他“道”的，这就是任何时候工具都不能替代目的的终极理由。只有人类有资格为这个世界制定规则和秩序，没有其他物种和“新物种”可以为人类制定规则和秩序，也就是说，人永远不能降格为工具性的存在，人可能被人所奴役，但人不能被任何“新物种”所驱使、所奴役。
人类思维的复杂性在于，人的思维逻辑既是演绎的，又是归纳的，我们在用语言描述（这是对思维的一种抽象）时不得不将它们分开，否则就无法描述，这是语言（思维表达）的局限，是人的思维无法克服的局限。而在实际的思维中，归纳与演绎是纠缠在一起，一刻也分不开的。思维活动的这种具体情形，如果为了便于理解做个想象性类比的话，似乎有点像量子纠缠的叠加态。
人脑不是任何意义上的物理机器，计算机只是对大脑思维机制的一种隐喻，由于大脑的高度复杂性和恒久神秘性，由于人类思维除了科学性还具有不可思议的非科学性，所以任何基于对人脑的隐喻的逻辑定义都是无法周全的，也许可以这么说，当我们试图对大脑做出一个精确的科学的定义时，我们就已经偏离了理解大脑的正确路径。
我们不能把大脑完全比作计算机，因为大脑的意识思维显然不是真正可编程的，把大脑意识思维完全看作可编程的程序结构，这一思路本身就有机械思维的痕迹，我们应清醒地认识到它的局限性。
人脑智能的创造力并非来算法思维，而是来自深刻的洞察力，只有在算法之上，结合了直觉、灵感、想象等各种非理性思维的“脑洞大开”，才是人类创造力的来源，才是人类能够主宰世界的神力所在。这也是人类思维不能完全还原为算法思维的奥秘所在。
人工智能不是人造生命，生命是自然演化的而不是人造的。计算机实现了智能和意识的剥离，计算机没有意识但它有智能，因此我们可以继续做没有意识但有智能的高阶机器。非生命的人工智能永远是人类创造和使用的工具，它是人类智能的体外延伸，这才是人类所需要的。
这个世界只能是人类中心主义的。人与人之间、族群与族群之间、国家与国家之间，因为利益和价值观的不同，会产生种种纷争甚至战争，但对于非人类的任何物种（包括人工智能的“新物种”）都被视作为人类使用的工具性存在，在这一点上，人类具有共同的普适价值，反对这一普适价值的人都是反人性、反人类的。所以，人类与人工智能这个“新物种”的合作，也只能是工具意义上的合作，即人工智能仍是为人类服务的工具，而不是不分彼此的完全融合，更不能是人类依附于人工智能的“融合”。
如果人工智能和基因技术的目标符合人类的利益，那将给人类带来极大福祉；而如果人工智能和基因技术的目标一旦背离人类的意愿，其后果将是极为可怕的。任何技术创新与发展对于人类都有双重意义，都是一把双刃剑，因为操控技术的人既摆脱不了理性的自负，也脱离不了善恶之心。设计和使用智能机器人的人，那怕只是想为人类寻求永生之道，这种技术浪漫主义的理想，也可能导致南辕北辙的结果：本想让人类获得永生，但得到的结果很可能是灭绝。正如哈耶克所说：如果你试图搭建天堂，结果往往身处地狱。这是其一。其二，难免有人想利用人工智能统治人类，尤其对垄断了技术和权力的人来说，这几乎是致命的诱惑。最终他们当然不可能得逞，但是由此给社会造成的灾难，却是人类不该承受之重。
人工智能只是人类创造的一种工具，基因技术也是人类研发应用的一种技术，而任何工具与技术的意义，都应当是并且只能是为人类服务，目的是让人类过上更美好的生活。如果人工智能和基因技术变成了有些人罔顾人伦道德攫取利益的法宝，甚至僭越成为我们的人类的“主宰”，那么我们决不能让他们的图谋得逞。
明显怀有邪恶之心地踩踏人类的伦理底线，这种人容易识别，也容易将其罪恶的企图扼杀在摇篮中。我们更需要警惕的是，那些怀着技术乌托邦理想的人，希望用技术彻底解决人类的一切问题，用漂亮的言辞包装，以“美丽新世界”的前景为诱惑，为此甚至突破人是最高目的的观念，让技术不受人类监督监管地发展，那么，一旦“潘多拉魔盒”被打开，人类的命运就不再掌握在人类自己手中，其前景非但不美妙，而且将是极具灾难性的。
在某种程度上，我们正在被算法以自己意识不到的方式操纵着，算法虽无恶意，但它倘若未经人类法律授权，会被人有意无意地操控或强化我们的某些观念，如果AI（无论是平台或仿生的）加入了某些导向性算法，那就有可能控制或塑造很多人的价值观。因此，我们必须让算法在阳光下运行，受人类监督，把人从算法中解放出来而不是被算法操控，把人本该享有的权利还给人类，让人继续成为自由思考和想象的人，而不是只会按算法操作的人形工具。
科学研究没有禁区，科学家的任何科学研究都是自由的，应当鼓励科学家的任何创造性探索研究，只有这样才能促进科学的不断进步与繁荣。但是，科学家既是自然人也是社会人，人是最高目的的信仰不能打破，科学家在科学研究中必须恪守人类社会的道德原则，不能突破人类伦理的底线。面对人工智能的快速迭代进步，人类不能不防患于未然，应该立即启动为人工智能研究立法的程序，防范人工智能研究的脱序，确保将人工智能限定在为人类服务的工具性范围之内（也包括基因编辑改造技术、芯片植入人脑技术等等）。
目前人工智能的技术性研究已经大大突破了人类的传统认知，如“意识”的自我复制和涌现，由于其复杂的算法理论不易被广大非专业人员所掌握和理解，极易造成认识的混乱。尽管我不认为人工智能会在整体上超越和战胜人类，但在局部的技术能力上超越人类已经成为现实，而且在这方面将来还会更将人类远远地甩在其身后，人的能力将对其望尘莫及。仅就这点而言，如果人类不对其进行控制，势必会有人利用它来危害人类，给人类生存带来难以估量的灾难。虽然人工智能作为技术工具其本身是中性的，但掌握人工智能的人却有正邪善恶之心，这是不可改变的人性。科学家研究的先进技术被人用来作为杀害人类的大规模杀伤性武器的事例在历史上我们见得还少吗？谁能保证人工智能的最新研究成果不会某些权钱熏心的人用来作为戕害同类、为自己谋利的武器呢？所以，为人工智能研究立法，已经到了时不我待、刻不容缓的时候了。
铭湖 2023年3月
