AI与情感
前 Google executive, Mo Gawdat，在最近一次访谈中提出（点击查看详情)：争辩 AI 是否会有sentience（情感）不是问题所在，”假如（AI 能使）我的大脑相信他们（指 AI）有情感，那么他们就有（“If my brain believes they are, they are”）”。
我觉得这是思考 AI 问题时很有意思的一个视角。在研究/争辩AI能否拥有人类的情感、意识等等的同时，是否应该化更多的精力从他提出的这个角度考虑AI对人类的影响？这或许有更迫切的现实意义？
在此谈谈我对这个角度的理解，先从简单的说起：
- 人对外界的体验最基本的是通过五个感官（视觉、听觉、味觉、嗅觉和触觉器官）接受外界信号。目前计算机已经能让人的视觉和听觉接受数字化了的图像和声音。人看到和听到的是计算机模拟（数字化）的结果，已经不是原本的图像或声音。
- 数字化/二位制，技术上来讲就是电路的开或关，1或0。任何状态，只要能通过1和0的分解和组合来表述，理论上讲，计算机都可以模拟（数字化），迟早而已。
- 五官只是信号接受端，人的感知其实由 neurons（神经元群）处理从感官送来的信号来确定。比如，你耳朵听到音符 do，re ，me…… 将信号送到有关神经元群，依据以前积累的知识经验，神经元群确定信号表达音符 do，re ，me…… 假如这个特定的神经元群受损或死亡，你听到了也无法确定是音符 do，re ，me……
- 每个神经元可以有（并且只会有）两种状态，fired （激发状态）或 not fired（未激发状态），也可以理解为”开”(1)或”关”(0)。如上所述，任何状态，只要能通过1和0的分解和组合来表达，理论上讲，计算机都可以模拟（数字化）。
- 假定最简单的神经元群只有2个神经元，A和B；用（1）表示（开），（0）表示（关）；这个最简单的神经元群可以有四种激发状态：2个都开 - A(1)+B(1)，都关 - A(0)+B(0)，A 开 B 关 - A(1)+B(0)，A 关 B 开 - A(0)+B(1)。以听觉为例，假定激发状态 A(1)+B(1) 表示此神经元群确定送来的信号是音符 do, 激发状态 A(1)+B(0) 是 re…… (简单起见，假定只有一个八度，也没有任何其他音乐元素存在），计算机可以将音符 do 模拟为神经元激发状态 A(1)+B(1)，re 为A(1)+B(0) ……。
- 现在的神经外科技术已经可以用激光激发单个的神经元。当神经科学能确定神经元A和B的位置了，计算机就能指挥激光去激发 A 和 B，产生神经元激发状态 A(1)+B(1) ，使你相信你“听”到了音符 do；只激发 A，产生状态 A(1)+B(0) ，使你相信你“听“到了音符 re；……。也就是说，不必通过耳朵接受信号，计算机可以使聋子也能“听”到声音；同样道理，不必通过眼睛，盲人也能“看”到图像；色盲可以“识别”出颜色。进一步说，即便根本没有音符 do，re ，me…… 的声音存在于你的听力范围内，计算机与激光等结合的技术也可以使你相信你听到了 do，re ，me……。你所感知的已经与现实剥离。这是从 Mo Gawdat 提到的那个视角考量 AI 问题的最简单的例子，尽管这儿说的“计算机与激光等结合的技术”可能只是非常初级的 AI。关键是，你认为你听到的，其实是”被相信”听到的。
- 另外三个感官是味觉，嗅觉和触觉。只要神经科学能确定负责处理和确定味觉、嗅觉和触觉信号的神经元的位置，计算机就可以指挥激光去激发一定的神经元，产生一定的味觉、嗅觉和触觉的神经元激发状态。一道菜的”色、香、味”中的”色”现在可以通过图像传送；将来“香”和“味”（嗅觉和味觉）信号可以通过某种计算机与激光等结合的技术传送并激发你的相应神经元，在你脑子里产生相应的嗅觉和味觉的神经元激发状态，让你不用通过鼻子和味蕾而“闻“到、“尝”到相应的“香”和“味”。进一步说，你面前可以根本不存在这道菜，但你可以“被相信”或者说是“被感觉”闻到尝到了这道菜。
- 情感自然比五种感觉要复杂得多。简单化地说，假如情感也是相应的的神经元群（包含巨量的神经元和极其复杂的信号处理过程）的相应激发状态，只要神经科学能确定这些相应神经元的位置，某种计算机与激光等结合的技术就可以激发你的相应神经元，在你脑子里产生与喜怒哀乐等人类情感相应的神经元激发状态，你可以“被相信”或者说是“被感觉”你产生了相应的情感。
- 现在已经有可以与人对话的“伴侣” APP，不过只是 ChatGPT 的简单应用而已。总有一天AI会发展到让人感到像个真正的伴侣，相信它有情感（sentience)，比如说，能“爱”你。我们试试探讨一下可能性：你“爱”指的是你的情感；你“被爱”指的是另一个存在（being，比如AI）的情感，目前AI是否会有情感尚无定论。然而，你“感到被爱”的这个“感到”则是你的 sentience（中文只好仍用“情感”）。既然是情感，就有对应的神经元激发状态。再进一步设想：AI 对人说：我爱你，同时激发人的“感到被爱”的神经元激发状态，你不就“被相信”你被爱了？这不相当于AI有情感（从效果来讲）？这就是 Mo Gawdat 所说的：我的大脑相信他们（AI）有情感，那么他们就有情感（“If my brain believes they are, they are”）！
所以，无论 AI 是否会有人类的情感，只要它能让人“被相信”，“被感觉”到它有情感，就能对人类产生关乎人类存在的影响。目前社交媒体，VR（虚拟现实），AR（增强现实）以及类似上述“伴侣” APP 等等，已经让人类越来越与现实世界隔离，假如 AI 能使人相信/感觉到它有情感，人类势必进一步地与现实隔离，这在年青一代中的趋势已经出现。
可以进一步设想，随着人越来越与社会/现实隔离，慢慢地人会接受与 AI 机器人共存。AI 机器人是否会有人的情感会变的越来越不重要，因为最终它甚至可以作为一种新的物种存在，可以有自己的“情感”等等。人类简史”的作者 Harari 甚至提出，为什么不可以有硅基物种（人和所有现存的生命都是碳基）如 AI 机器人。可能不是目前意义上的“物种”，不管怎么称呼，总归是一种“存在”，将与人类共存的存在。它们的自我复制与改进是完全可能的，那就是硅基“存在”的进化。人类还能不能继续是至高无上的“存在”，如何能继续是，这个是终极问题。
所以，在研究/争辩 AI 能否拥有人类的情感、意识等等的同时，是否更迫切需要的是，在假定人类会“被相信”、“被感觉”到AI会有情感的基础上，人类社会需要达成共识如何发展有利于人类进化（而不是威胁人类存在）的AI？如Harari 在他的“Sapiens: A Brief History of Humankind”（人类简史）中所说：由于人类的好奇心，AI 的发展和与人类共存是不可避免的；我们能做的是，趁还有时间，引导 AI 往有利于人类进化的方向发展。
Dex 2003-8
