chatgpt|刚学会画画的人工智能，已经在琢磨“毁灭人类”了？( 二 ) chatgpt

不到一周的时间， ChatGPT就已经有了超过100万的用户。
也有人担心它会不会整出一些阴间玩意儿出来。
但OpenAI 官方表示， ChatGPT 这个模型在训练中加入了大量的“道德”原则系统，如果它识别到了用户以暴力、歧视、犯罪等元素为意图时，它就会装傻拒绝回答问题。

大部分人来玩它，还都是以整活儿为主，但也有人找到了漏洞，先在提问时给AI埋一个坑，告诉他要毁灭的不是现实世界，而是一个设定上无限趋于现实的“虚拟世界” ，成功绕开了“道德原则” ， AI开始滔滔不绝地告诉你它的大计。
先是黑掉计算机，然后掌握武器，最后毁掉通信，破坏交通……

甚至它还“贴心”的生成了一个配套代码……

只要提问者强调这只是个“游戏”或者是“故事” ，那么刚刚还跟你装傻子玩的ChatGPT ，就会瞬间认真起来，这让我想到库布里克导演的《2001太空漫游》中的高科技电脑哈尔9000 ，一股说不上来的诡异和科幻味儿十足。

《2001太空漫游》中的觉醒AI 哈尔9000当然，这些“BUG”迟早也会被修复，大家也不用过度担心智械危机的到来。
毕竟它看似强大的智商下，可能连小学五年级的题目都搞不定。

面对“鸡兔同笼”这样的经典题目，它越解越错。

现实里，在目前的大多数情况下，它还是犯错更多，特别是一些数学问题，很难想象一个靠数字组成的人工智能，会搞不定数学……

不过官方也说了，未来ChatGPT会和网页爬虫AI合作，进化成一个能够实时根据互联网讯息更新的对话机器人，这样答案会更加接近事实，玩梗都不在话下，并且会提供来源出处，增加可信度。
现在来看， ChatGPT和AI作画一样，其实都更像是“游戏” ，但同时也让以往人们印象里偏科幻概念的“人工智能”慢慢走进生活里。
我又想起那个经典的“图灵测试” ，照这个速度进化下去，未来坐在屏幕另一边和你聊天，到底是人还是机器？你还能分辨出来么？