OpenAI允许开发者量身定制GPT-3,准确率可提升一倍以上

自然语言模型GPT-3现已允许开发者进行特别定制 。
GPT-3是由OpenAI于去年5月推出的有着1750亿个参数的AI模型 , 该模型可以生成类似人类编写的文本和代码 。 其生成的文本质量之高 , 让人很难分辨它和真实人类创作之间的区别 。
OpenAI允许开发者量身定制GPT-3,准确率可提升一倍以上
文章图片
(来源:OpenAI)
经定制后的GPT-3可以更好地服务于需要深入了解语言的各种应用 , 从而在任务和工作负载之间达成更高质量的内容输出 。
通过定制GPT-3 , 开发者可以使用几乎任何现有数据集 , 或者根据用户反馈递增地添加数据 。 数据显示 , 使用定制后的GPT-3模型 , 有用户的程序输出正确内容的概率可以由83%提升到95% , 而有的用户通过每周给产品添加新的数据 , 减少了50%的错误输出 。
OpenAI允许开发者量身定制GPT-3,准确率可提升一倍以上】OpenAI进一步表示 , 微调GPT-3的好处 , 只需不到100个示例就可以体现出来 , 并且随着添加数据的增多 , 其性能也会不断提高 。
微调GPT-3的方式也很简单快捷 , 只需要一行代码和一个文件 , 开发人员就能运行和训练基于特定数据集的自定义版本GPT-3模型 , 无需从头创建自己的AI系统 , 这为他们节省了大量的时间和金钱成本 。
今年3月 , OpenAI公布了一组数据 , “现有成上千万名的开发者在300多个不同的应用程序中使用GPT-3 , 每天可以产生大约45亿个单词 。 ”
OpenAI还举了几个例子 , 来说明定制版GPT-3功能的具体提升 。
例如 , 客户可以使用经过微调的GPT-3分析来自银行对账单的数据 , 以帮助查找可能免税的费用 。
OpenAI允许开发者量身定制GPT-3,准确率可提升一倍以上
文章图片
图|借助GPT-3管理税收(来源:OpenAI)
该客户根据他们产品在现实世界中的表现 , 每周用新数据微调GPT-3 , 重点关注模型低于某一特定性能阈值的示例 。 该客户声称 , 其每周使用大概500个新的训练示例来微调GPT-3 , 微调过程中可产生约1%的改善 。 这虽然听起来改善不多 , 但随着时间的推移 , 变化会越来越大 。
下面一家公司使用定制版本的GPT-3提高了其产品报告的可靠性 , 并突出显示了客户的请求和问题 , 对客户反馈情况总结的准确率也从66%提高到90% 。
OpenAI允许开发者量身定制GPT-3,准确率可提升一倍以上
文章图片
图|借助GPT-3总结报告(来源:OpenAI)
SanaLabs是一个开发和应用AI学习的平台 , 可为每个人和企业量身定制内容 , 提供个性化的学习体验 。
SanaLabs通过使用数据自定义GPT-3 , 给其平台的问题和内容生成带来了60%的改进 , 为学习者带来了更加个性化和有效的体验 。
OpenAI允许开发者量身定制GPT-3,准确率可提升一倍以上
文章图片
图|借助GPT-3提供更加个性化的学习体验(来源:OpenAI)
下图展示的是一个AI研究助理 。 该工具可以使用学术论文中的内容直接回答人们提出的研究问题 。 经过使用定制的GPT-3后 , 其在三个重要维度上得到了提升:结果更易理解(提升24%)、更准确(提升17%)和整体更好(提升33%) 。
OpenAI允许开发者量身定制GPT-3,准确率可提升一倍以上
文章图片
图|借助GPT-3解答问题(来源:OpenAI)
而在一个内部实验中 , OpenAI对来自小学数学问题的8000个例子(数据集来自OpenAI的“GradeSchoolMathproblems”)微调了两种大小的GPT-3(下图中的Curie和Davinci) 。
OpenAI声称 , 经过微调的模型在测试同一数据集的问题时 , 其准确度提高了一倍以上 , 能够正确回答类似这样的问题:卡拉需要在中午之前干洗80件衣服 。 如果她早上8点开始工作 , 每小时需要清洗多少件衣服?