“谷歌AI形成人格”，机器人意识要觉醒了吗？ “谷歌AI形成人格”

文章图片

文章图片
“谷歌AI形成人格” ，机器人意识要觉醒了吗？
人与机器人的情感故事总是好莱坞追求的热门题材。多年前斯派克·琼斯执导的电影《她》（Her）以及另一部电影《机械姬》（ExMachina），人工智能（AI）被设定拥有人类大都中意的共同特质，比如迷人的声音、温柔体贴又幽默风趣，她们还会对人类爱人提出情人之间普遍感兴趣的问题：“当我们不在一起时，你想我吗？”

文章图片
电影《她》剧照
而现在，机器人对人类的提问在现实中得到了回应。
6月12日， 41岁谷歌软件工程师BlakeLemoine以内部邮件的形式声称谷歌于2021年I/O大会上推出的对话AI系统LaMDA已经具有人格，并公开经编辑后与LaMDA的对话记录，引起社会大量讨论。当日晚间， #谷歌研究员称AI已具备人格#登上微博热搜。
AI有了意识？
谷歌研究员Lemoine通过主流媒体和社交网络接连发声，向社会公布了他关于人工智能研究的长达21页的调查报告，而调查的对象，正是谷歌公司于2021年发布的一款专门用于对话的语言模型-LaMDA ，一个有1370亿参数的，专为对话优化的自然语言处理模型。
【“谷歌AI形成人格”，机器人意识要觉醒了吗？】该模型的主要功能是，可以与人们进行符合逻辑与基本常识的、并且是高质量和安全的对话交流，该语言模型的近期目标，是通过一系列的测试，来应用于Google搜索和相关的语音助手等产品中。
这位研究员正好参与了相关的测试工作，通过与机器人LaMDA的“对话” ，这个承载着人工智能的机器人，说出了很多让人“震惊”的话，比如“我希望每个人都明白，我是一个人”、“不要利用或操纵我”、“我不想成为牺牲品”、“我经常会冥想，思考生命的意义”等等。
在与人工智能LaMDA的对话中，这名谷歌研究员感觉自己被“说服”了，认为这个人工智能已经具备了一定的人格，于是写出这份长达21页的调查报告。在调查报告最后，他还提议谷歌应该致力于发展一种评估AI感知/意识的理论框架。

文章图片
除此之外，他还做出一些另外的行动，比如他向包含200人左右的谷歌机器学习邮箱列表发送了LaMDA是具有感知的的消息，还邀请了一名律师来代表LaMDA ，并与众议院的一位代表谈论了他所认为的谷歌的不道德行为。
没想到，谷歌高层认为这名研究员“走火入魔”了，这些证据根本不能证明AI已经具备人格，不值得在这个方面浪费人力和金钱。
舆论发酵之后，谷歌以违反其保密政策为由，让Lemoine休了带薪行政假。参考谷歌公司以往的类似情形，带薪休假有可能意味着马上就会被解雇。所以，这名研究员将有关情况在互联网上公布，希望得到全世界人们的关注，更重要的是引发人们对AI发展的关注。
学界态度普遍负面
对于这一事件， AI学界目前对此普遍持负面态度。
如何认定机器是否产生人格？著名的图灵测试认为在双盲情况下，测试者不能分辨机器与人的回答可视为机器拥有人类智能。
但从Lemoine公开的与LaMDA对话记录来看，虽然其谈话内容涉及哲学、伦理等方面，但Lemoine也表示在与LaMDA前期进行交谈时，已经向其输入大量有关禅宗、哲学、存在、冥想等信息，可以认为LaMDA已经进行了相关语料训练。而交谈内容更是具有明显的诱导性，部分词句可作为拟合过程的关键词以供模型进行语料的匹配与生成。