Percy Liang、李飞飞等百余位学者联名发布：「基础模型」的机遇与挑战( 五 ) 撰文|赵言

（2）外在风险，即用户因基础模型在不同的应用领域不能泛化到全局导致领域特异性歧视。
基于上述危害产生的机制，需要进行重大改革，并有意识地处理和纠正这些潜在的风险,可采用的方案有：
（1）主动干预(例如采用数据为中心或以模型为中心的方案)；
（2）被动追溯，寻因改正(例如反馈和问责机制) 。
4.2滥用
本节论述了基础模型的滥用现象，即基础模型拥有的生成消息的能力，被有意地利用来对人群或个人造成损害的可能性。

文章图片
基础模型对人造虚假信息和恶意信息的生成过程，以及实际可能出现的漏检测现象。
科学技术是一把双刃剑。基础生成模型的生成能力可以被用于造假，但也可以用来判别滥用并去除滥用。基础模型的快速学习能力(例如，允许根据人的反馈调整新的防滥用策略），可用于遏制谣言传播，减小损害。
4.3环境
在使用基础模型之前，应评估成本和收益。评估基础模型所需的规模至关重要，在采取尽可能多的降本增效、控碳排放措施之后，仍无法摊销模型成本，则应考虑是否使用基础模型。

文章图片
部署基础模型的成本-收益的可视化分析
模型的总价值可以通过首先考虑模型的净正面社会效益以及所有环境效益，然后减去训练和部署模型的能源成本，减去训练模型所排放的碳社会成本，以及二次环境影响。如果净成本大于收益，那么基础模型开发者和大规模部署者应该考虑减少危害的策略。这将有助于模型优化或部署决策。
4.4合法性
本节强调了（1）模型训练；（2）模型预测可靠性；（3）模型输出的保护等相关问题。
制定法律，对基础模型至关重要，但法律不是评估基础模型训练、维护和使用的唯一评价尺度，社会伦理与道德约束也是必要途径。
4.5经济
基础模型在社会经济模式下，带来的影响主要体现在以下方面：
（1）技术创新改变生产力；
（2）新技术对社会职业和社会职责分工的冲击，就业与薪资分配不合理；
（3）竞争与垄断问题。
基础模型带来的经济效益，大幅提高了社会生产效率，有可能大幅度提高人们的生活水平，但同时也带来了不平等加剧和权力集中的风险。这些技术的经济影响不是预先确定的，而是取决于技术专家、决策者、管理者、工人和其他利益相关者如何应对挑战。
4.6道德尺度
作者指出，
（1）基础模型的研究人员应该遵循领域规范，个人使用者应当具有数据自主权，同时也有权决定是否参照基础模型输出结果做出决策。
（2）基础模型可能涉及的社会影响包含了社会生活的方方面面，希望未来的研究者能勇于拓荒，探索基础模型等新技术的涌现可能带来的文章中未提及的影响。

文章图片