希望该的工作能够为未来的研究打下坚实的基础 。
BiBERT即将基于百度飞桨开源深度学习模型压缩工具PaddleSlim开源 ， 尽情期待 。
PaddleSlim：https://github.com/PaddlePaddle/PaddleSlim
传送门
会议论文：https://openreview.net/forum?id=5xEgrl_5FAJ
Reference
[1]ShengShen,ZhenDong,JiayuYe,LinjianMa,ZheweiYao,AmirGholami,MichaelW.Mahoney,andKurtKeutzer.Q-BERT:hessianbasedultralowprecisionquantizationofBERT.InAAAI,2020.
[2]OfirZafrir,GuyBoudoukh,PeterIzsak,andMosheWasserblat.Q8BERT:quantized8bitBERT.InNeurIPS,2019.
[3]AliHadiZadeh,IsakEdo,OmarMohamedAwad,andAndreasMoshovos.GOBO:quantizingattention-basedNLPmodelsforlowlatencyandenergyefficientinference.InMICRO,2020.
[4]KelvinXu,JimmyBa,RyanKiros,KyunghyunCho,AaronCourville,RuslanSalakhudinov,RichZemel,andYoshuaBengio.Show,attendandtell:Neuralimagecaptiongenerationwithvisualattention.InICML,2015.
*本文系量子位获授权刊载 ， 观点仅为作者所有
—完—

• 显卡|2022年全球显卡市场争夺激烈 多家大厂将展开激战
• ！这些App被通报，你手机上有吗→
• 本文转自：新民网图说：基于北斗的精准时空雪上运动智慧服务系统 来源/采访对象提供2022...|地上运动“参北斗”高精度“导航”冬奥会
• 三星电子|苹果2022年新品iPhone14曝光：内存增加至8GB
• 相机|配置比较好的蓝牙耳机有哪些？2022超高品质蓝牙耳机推荐
• 淘宝|苹果2022 春季发布会神秘产品曝光！ 3款Mac现身EEC数据库
• 本文转自：北京晚报自2022年1月开业后|新疆首家人工智能体验餐厅！普渡机器人鼎力加持
• 济南市|打造5G先锋城市，2022年济南计划新建1万个5G基站
• 苹果|曝苹果2022春季发布会已在录制中：iPhone SE 3、iPad Air 5等新品是主角
• 苹果新款MacBook Pro 13英寸2022爆料汇总