大模型|人工智能大模型时代到来，光子计算或成下一个风口

文章插图

作者：AI商业评论来源：AI商业评论（ID：aibizweek）
本文已获授权，转载请联系原作者

文章插图

人工智能正加速驶向大模型时代。2020年6月，OpenAI发布GPT-3，具有1,750亿个参数的自然语言深度学习超大模型，是自AlphaGo之后人工智能领域最具突破性研究成果，能进行原始类比、生成配方、甚至完成基本代码编写。
仅半年后，2021年1月，这一记录被打破了。谷歌研究人员开发出一个新的语言模型Switch Transformer，包含超过 1.6 万亿个参数。
五个月后，本周，北京智源研究院发布了悟道2.0，达到1.75万亿参数，创下全球最大预训练模型纪录。
作为人工智能最具代表性企业，商汤科技也推出SenseCore商汤AI大装置，计算峰值速度将达到3740 Petaflops（1 petaflop等于每秒1千万亿次浮点运算），集大数据、大模型和超强算力三位一体，致力于如大科学装置粒子对撞机那般，“撞”出一个新的起点，实现跃迁式创新。
一个大模型时代滚滚而来。正如北京智源研究院理事长张宏江在刚刚落幕的第三届智源大会上所说：人工智能的大模型时代正在到来！超大数据+超大算力+超大模型，将如‘电网’一般，成为变革性产业基础建设设施，与驱动信息产业应用发展的核心动力。
那么，大模型时代又有怎样的创业风口与投资机会？
光芯片实现10000倍提速，数量级降低功耗
大模型时代，计算能力的需求呈指数增长。随着人工智能系统变得越来越复杂，需要更多的计算能力来满足他们的需求，而传统计算芯片很可能无法跟上。
在波士顿海港区的一个小实验室里，埋在一堆激光器、透镜、镜子和一团乱麻的电线中，是一个微小的芯片，它可能即将对传统电子芯片产生重大影响。
该实验室属于Lightelligence，这是一家正在开发一种全新的 AI 加速器芯片的初创公司。该公司的原型设备不是使用电子来执行机器学习所需的核心计算，而是使用光。

文章插图

与传统电子芯片架构相比，Lightelligence 制造的光芯片延迟最多可提高 10,000 倍，并且功耗要低“几个数量级”。电子芯片在计算时需组合数十个，有时数百个逻辑门，需电子芯片晶体管在多个时钟周期内关闭和开启。每次逻辑门晶体管开关时，它都会产生热量和功耗。
Lightelligence研发的芯片并非如此。
在光学领域，算术计算是用物理方式完成的，而不需要多个时钟的逻辑门晶体管——更多的时钟意味着获得结果的时间更长。
Lightelligence联合创始人兼首席执行官沈亦晨博士说：“我们精确地控制了芯片内部光子如何相互作用，并让它来做数学计算。”

文章插图

这种干扰过程产生的热量很少，沈亦晨的光学计算芯片的功耗比电子芯片低得多。“当电子通过铜线时，它们会产生热量，”该公司的创始人兼产品副总裁 Paul Xie 说，“就像在长途光纤通信中一样，光在传播时不会产生热量，损耗也很小。所以光学计算的主要好处是它更节能。”
业界普遍认为，摩尔定律将在 2025 年左右终结，沈亦晨相信他的光学驱动解决方案已准备好应对未来的许多计算挑战。“我们正在改变计算的基本方式，我认为我们正处于历史上正确的时间点。光学将成为下一个计算平台，至少对于像人工智能这样的线性运算来说是这样。”