SIGS科研|信息学部论文入选IEEE计算机与通信国际会议( 二 ) 近日

文章图片
图4：低成本机器学习云服务联合推理框架
随着深度学习技术的发展，主流云供应商和小型机器学习服务供应商开始向公众提供机器学习云服务，这些服务也被称为“机器学习即服务”（MachineLearningasaService ，以下简称MLaaS）。根据对MLaaS的测量，我们发现对于同一任务，来自不同供应商的MLaaS由于专有的数据集、模型等特征而具有不同的性能，将不同的MLaaS联合起来能够进一步提高分析性能。然而，直接将来自不同MLaaS的结果聚合在一起，不仅会产生巨大的成本，而且还可能引入假阳性结果，从而导致次优的性能增益。在本文中，我们提出了Armol——根据输入自适应选择一个或多个MLaaS供应商以实现最佳分析性能的框架。首先，我们设计了一个单词分组算法，以统一不同供应商的输出标签。其次，我们提出了一种基于深度组合强化学习的方法，在最大限度地提高准确性的同时最小化成本。最后，使用精心选择的聚合策略将来自所选供应商的预测汇总在一起。现实的跟踪评估进一步表明， Armol能够在推理成本降低67%的情况下达到相同的准确率。
文|解书照、薛原、谢国锐、洪明春
图|解书照、薛原、谢国锐
编辑|黄萧嘉
排版|姚诗诗
中文微信公众号：清华大学深圳国际研究生院
英文微信公众号：TsinghuaSIGS
新浪微博：@清华SIGS

文章图片
【来源：清华大学深圳研究生院】
版权归原作者所有，向原创致敬