“开源ChatGPT”来了:基于谷歌5400亿参数大模型,网友:玩不起

明敏发自凹非寺
量子位|公众号QbitAI
就说程序员的手速有多快吧 , 首个开源ChatGPT项目已经出现了!
“开源ChatGPT”来了:基于谷歌5400亿参数大模型,网友:玩不起
文章图片
基于谷歌语言大模型PaLM架构 , 以及使用从人类反馈中强化学习的方法(RLHF) , 华人小哥PhillipWang复刻了一个ChatGPT出来 。
项目GitHub星已经超过1.7k了 , 而且还在一路飙升ing 。
“开源ChatGPT”来了:基于谷歌5400亿参数大模型,网友:玩不起
文章图片
不过一反常态的是 , 网友们看到“开源ChatGPT”却没有火速开冲 , 反倒齐刷刷在发问:
这……有人能run?
“开源ChatGPT”来了:基于谷歌5400亿参数大模型,网友:玩不起
文章图片
开源了但没完全开?【“开源ChatGPT”来了:基于谷歌5400亿参数大模型,网友:玩不起】项目的核心内容 , 是在PaLM架构上实现基于人类反馈的强化学习 。
其中 , PaLM(PathwaysLanguageModel)是谷歌在今年4月发布的5400亿参数全能大模型 , 基于Pathways系统训练 , BERT之父JacobDevlin为主要贡献者之一 。
PaLM可以完成写代码、聊天、语言理解等任务 , 并且在大多数任务上实现了SOTA少样本学习性能 。