谷歌AI人格觉醒靠谱吗？我们找大佬聊了聊，AI对话的风险与进化智东西（公众号：zhidxcom）作者

文章图片
智东西（公众号：zhidxcom）
作者|宋佳中科创星编辑|Panken前几天， #谷歌研究员称AI已具备人格#话题突然登上热搜，并引发人工智能（AI）业界热议。

文章图片
事情起因是一位名叫BlakeLemoine的谷歌程序员和他测试的对话AI系统LaMDA聊了很久，对其能力感到十分惊讶。在其公开的聊天记录中， LaMDA竟然说出了“我希望每个人都明白，我是一个人”的言论，让人惊掉下巴。
于是， BlakeLemoine下了个结论：LaMDA可能已经具备人格了。
一石激起千层浪，谷歌、谷歌的批评者、AI业界对待这件事的看法形成了空前一致：这人是不是有病？
谷歌公司和报道此事的《华盛顿邮报》，都委婉地表示BlakeLemoine的脑子可能真的有点乱。
为了防止BlakeLemoine与LaMDA聊出更深一步的感情，谷歌已经对BlakeLemoine做成了“行政带薪放假”的决定，这意味着BlakeLemoine将被解雇。

文章图片
▲对话截图来自：https://s3.documentcloud.org/documents/22058315/is-lamda-sentient-an-interview.pdf
虽然国外AI业界对此事已有结论：AI具备人格真的是想多了，就是比较会聊而已，但是这并没有浇灭大家对此事的激烈议论。
按照AI的飞速发展， AI未来会不会真的具备人类意识，那又将是一个怎样的世界呢？
科幻电影情节成真的“戏码” ，是“毛骨悚然”还是“刺激带感”？
有网友非常担忧：“虽然不想承认，但是人工智能有了思想，那就是新物种的崛起，同时也是人类灭绝的时候。 ”“最终人类会死于自己制造的AI手上。 ”

文章图片
也有人期待AI“快进”发展，这样就可以代替自己居家隔离了……如果威胁到人类，就“拔电源啊”！
当然也有人好奇：“AI具备人格的判断标准是什么？”因为只有知道判断标准，才知道AI是不是真的有可能具备人类意识。

文章图片
为了弄清楚这些问题，我们与对话系统的国家杰出青年基金项目获得者、北京聆心智能创始人黄民烈教授进行了交流，从专业角度分析AI是否可能具备人格，以及对于人类来说，这究竟是“威胁”还是“安慰”？
一、怎么判断AI具有人格？图灵测试也不灵了在AI领域，最为大家所熟知的测试方式非图灵测试莫属，即邀请测试者在不知情的情况下，向人类和AI系统随意提问，如果测试者不能区分答案来自人类还是来自AI系统（AI系统让平均每个参与者做出超过30%的误判），就认为AI通过了图灵测试，具有人类智能。

文章图片
从这个角度来看，图灵测试更侧重于“智能” 。
1965年，一个假装是心理治疗师的软件ELIZA通过了图灵测试，然而ELIZA仅由200行代码构成，并且仅以提问的形式简单重复事先存储的信息。这样看来，即便ELIZA通过了图灵测试，也很难让人相信它具备“人格” 。事实上，此后也证明Eliza并不具备人类智能，更别说“人格” 。
这相当于，一辆智能汽车，在功能角度能够带给用户更便利舒适的驾驶体验，比如远程控制汽车、自动泊车，但是你不能因此觉得这辆汽车知道自己是一辆汽车。