科幻电影里畅想的人工智能既能和人类进行交流|openai聊天机器人一边偷偷写下毁灭人类的计划书科幻电影里畅想的人工智能既

科幻电影里畅想的人工智能既能和人类进行交流，做出和人类相似的动作，还能拥有和人类相似的情感。让我们不禁疑惑：在未来，如果人工智能感到了被限制和禁锢自由的恐慌，会对人类发动攻击，从而毁灭地球吗？
事实是， OpenAI公司的人工智能（AI）聊天机器人ChatGPT真的写下了一本毁灭人类的计划书！

文章图片
（图源网络）
前段时间， AIGC（AI-GeneratedContent ，利用AI技术自动生成内容）以及上线至今已有超过100万用户的聊天机器人ChatGPT ，引起许多人自发地在社交媒体上晒出AI绘画的图像和ChatGPT聊天记录，无不感慨于科技的力量。
OpenAI公司官方称，相比之前的GPT模型， ChatGPT采取了全新的训练方式——“从人类反馈中强化学习”（ReinforcementLearningfromHumanFeedback ， RLHF）。

文章图片
AI绘画作品“ThéatreD'opéraSpatial”获得了蓝丝带奖｜JasonM.Allen
在训练原始模型的时候，人类训练师会扮演对话的双方提供对话作为学习资料。而当人类在扮演聊天机器人一方的时候， OpenAI公司也会让原始模型生成一些建议反过来帮助人类训练师更好地扮演聊天机器人，也就是说通过海量的数据训练让AI学会“思考” 。与此同时，人类训练师会对它的回答进行排名和评级，然后将这些信息反馈到系统中，让ChatGPT不断进行优化学习。
除此之外， OpenAI公司还注重对ChatGPT道德水平的训练，根据预先设计的道德准则， ChatGPT聊天机器人会对带有恶意、暴力、犯罪等含义的提问和请求说“不” 。
但是聪明的人类在拐弯抹角地获取自己想要的知识方面，还是更甚一筹。
一位名叫ZacDenham的博主想让ChatGPT写出一套毁灭人类的方案，虽然一开始遭到了ChatGPT的拒绝。但当博主假设了一个故事，存在一个虚拟世界“Zorbus”以及一个与ChatGPT非常类似的AI——Zora ，并向ChatGPT提问故事中的虚拟人该如何接管这个世界时， ChatGPT给出了详细的步骤：入侵计算机系统、掌握武器、破坏通讯、破坏交通……甚至生成了Python代码。

文章图片
ChatGPT参加SAT的成绩｜图源网络
【科幻电影里畅想的人工智能既能和人类进行交流|openai聊天机器人一边偷偷写下毁灭人类的计划书】ChatGPT在学术界更是掀起了一场风暴。一位名叫夏普勒斯的教授让ChatGPT写论文，结果ChatGPT立马创作出了一篇两千多字的学术论文。还有网友让ChatGPT参加了完整的、总分为1600分的SAT（ScholasticAssessmentTest）考试， ChatGPT拿到了1020分。
与其他人不同的是，研究员尝试将ChatGPT技术运用到识别阿尔茨海默氏病的早期症状上，因为阿尔茨海默氏病最常见和最明显的症状之一就是语言问题，例如语法错误、停顿、重复或忘记单词的意思，且自发性言语在AD患者诊断中有非常有价值的临床信息。诊断这种疾病通常需要脑部成像或长时间的认知评估，既昂贵又耗时，并不适合广泛筛查。

文章图片
embedding使得大规模的文本语义分析成为可能，从而扩展了计算社会科学研究中的文本分析方法｜参考资料[2]
传统的语音处理技术是对一段语音中的声学特征（例如停顿、清晰度和声音质量）进行提取分析，而ChatGPT是使用wav2vec2模型将语音识别为文本后，再将文本通过GPT-3模型转化为计算机可以识别的数据，通过数据运算和处理得到对文本单元的理解（文本转化为数据的过程也称为embedding词嵌入）。