从2022年下半年开始，随着深度学习的发展，以Diffusion、ChatGPT为代表的颠覆性AI应用破圈信息技术发展趋势，标志着人工智能领域的重大突破，引发全球共振。不少人将ChatGPT的问世比喻为“蒸汽机”，人工智能就此走向“工业时代”。
上海人工智能产业投资基金作为上海市级产业投资基金，根据建设人工智能“上海高地”的战略部署，始终密切跟踪技术带来的AI产业链技术及商业模式变迁。下面是近期我们对AI技术及产业发展趋势的思考：
核心观点：
1、ChatGPT展现了极强的语义理解、多轮沟通对话、推理演绎能力，代表了人工智能研究范式的改变。以Transformer为基础的软硬件标准化趋势的确立让我们有理由相信且为之振奋：我们正站在AI工业化革命爆发的拐点——与其说 ChatGPT证明了某一条AI研究路线的成功，倒不如说它更大的意义是证明了AI这些年不断收敛但依然存在多种选择的各类路线里，最终真的是会走出一条路：AI工业技术革命终将到来。
2、大语言模型使用自然语言交互，颠覆了原有的人机交互方式。从键盘鼠标、触摸屏、语音，人机交互方式的改变重塑了信息产业的形态。人工智能驱动的自然语言交换不仅加速虚拟世界的建立，带来了生产力的革命，也会重塑生产关系营销引流， 现实世界的下游应用都有望被重构。
3、伴随参数规模增速的不断提升，算力和训练成本仍存在瓶颈，大模型的性能天花板远未到来，甚至算法需要根据硬件优化，包括芯片级优化、数据中心架构优化、机器学习分布式框架在内的软硬件联合调优等算力创新将成为破局关键，转动起AI算力-AI应用的产业飞轮。
4、大模型参数是社会底层知识、学习资料的承载，具有极高的社会、经济和文化价值。考虑到全球政策环境、企业私有化部署的需求、数据跨境的合规风险等因素，中国独立自主大模型构建的迫切性呼之欲出。道阻且长，行之将至。如何利用好 AI工程化这一构建大模型的核心能力，以及利用中国的规模效应使大模型迅速普及并改进闭环，是破局的机会。
一、拐点将至：大模型研发范式的改变标志着AI真正走向了工业化生产道路
ChatGPT如何能力出众？
相比于之前的Chatbot，我们可以看到一个惊人的ChatGPT：极好的理解和把握用户意图，具有出良好的多轮沟通对话、记忆、归纳和演绎能力，会甄别高水准答案，知道如何一步一步解决用户问题，有逻辑和条理的输出回答结果。
ChatGPT背后的技术突围和能力养成？
任何AI技术都不是空中楼阁。在惊叹以ChatGPT、Diffusion为代表的AIGC所展现的惊人能力的同时， 我们看到的是一次深度学习算法、算力提升、数据积累三浪叠加后的“大力出奇迹”，以及背后长达几十年的酝酿。
二、革故立新，人机交互方式的改变引发生产力的工业化变革，产业链将被重构
回顾科技进步和产业变革的历史可以发现，历次科技革命和工业革命都带来了改变人类生产生活的技术、产品和服务。科技革命标志性的科学成就以及工业革命的主导技术往往具有颠覆性特征，无一不对解放生产力、推动人类文明演进产生了深远影响。
三、超越摩尔定律，算力瓶颈下的软硬件联合调优成为破局关键
新工业革命的主导技术和产业不再呈现单一性特征，很有可能演变为由多个交叉技术组成的技术簇群，不断同步、掣肘、叠加和“纠缠”。回看人工智能产业的发展历史，每一波大发展都是与算力提升和数据爆发相结合。软件与算力供需的失衡、能力的追赶不断催生创新技术需求，一旦关键技术迎来突破，将会带动整个产业群的发展。
– 芯片级优化。过去十年里芯片性能的提升，超过60%直接或间接受益于半导体工艺的提升，而只有17%来自于芯片架构的升级；而摩尔定律放缓，每100m栅极 的成本将持续增加(比如从28nm的1.3美元提升到7nm的1.52美元)，主要由制造这些芯片的复杂性增加所驱动——即制造步骤的增加，远远达不到经济效益。同时，制造难度增加，也将增加良率带来的损失，需要通过将大芯片分成更小的 Chiplet提高产量/良率，降低制造成本。
– 数据中心架构优化。据英伟达估计，到2030年数据中心能耗占全社会能耗3-13%，而数据中心架构也在演进中，从原先的CPU作为单一算力来源，引入软件架构定义，再到增加 GPU、DPU，GPU、DPU的引入使得数据中心三种计算芯片分工明确，从而提升整个数据中心的效率。
– 机器学习分布式框架。大模型大算力一定需要多机多卡训练，以ChatGPT为例，训练一次需要3.14×E23 FLOPS算力。但从训练到推理的过程，模型参数数量不 变， 分布式框架加速优化的帮助显著。以英伟达A100为例，A100早期训练效率只有20%，经过分布式框架的优化，效率可以提升30%~40%，整体效率提升至50%~100%。
四、时不我待：中国自主大模型的必然、机会和挑战
以OpenAI、微软等为代表的发达国家巨头对科技创新和产业升级新一轮密集投入的效果 逐步显现，科技革命和工业革命下新一轮“技术—经济范式”变迁也随之逐渐明朗。科技工业革命必然伴随理念、知识、制度，甚至社会价值观和国际话语权的深刻变革，引发新一轮 的国际和经济竞争。ChatGPT的出现意味着AI 产业水平化分工的条件基本成熟，世界上并 不需要很多个大模型，但大模型参数作为社会底层知识、学习资料的承载，具有极高的社会、经济和文化价值。基于全球政治环境、代表中国中大型企业私有化部署的需求、数据跨境的合规风险和安全考虑，我们认为，中国一定会有自己的LLM(大模型) 。
将构建中国自主的大模型视为在AI领域全方位军备竞赛并不为过。这需要超大规模智算平台对芯片、系统、网络、存储到数据进行全盘系统优化，需要一个能自主掌控更多环节从而实现全局调优的方案。虽然目前我们在算力、高质量数据集、顶尖人才资源、应用生态方面 与海外存在较大差距，但以百度、腾讯、阿里为代表的中国科技公司们在这个技术周期里所 生长出来云、数据、芯片和复杂系统，已初步拥有了参与这场ChatGPT竞争的“入场券”。即使目前各环节依然存在不小的代际差，但我们深信基于多年积累的建模、训练和调参，加大长期的资本和人才投入，深度融合的数据和场景，底层训练数据，我们自主独立的大模型依然存在商业闭环的机会。
如何追赶？核心能力在于工程化能力和应用规模。作为系统工程，AI 需要依靠庞大的团队 支撑。类比搜索引擎公司，搜索引擎壁垒不在于算法本身，而在于工程化的需求，例如谷歌 搜索引擎、头条推荐，都需要强大的工程能力。OpenAI 的 GPT-1 到 GPT-3 再到现在的 ChatGPT ，模型结构没有发生任何变化(transformer decoder)，单一产品仍需要几百名正式员工、上千名标注员打磨三年——AI工程化恰是中国的机会。同时信息技术发展趋势，中国基本上所有 的互联网公司都是AI公司，中国的规模效应，有望让大模型迅速普及化的改进闭环，成为中国企业迎头追赶的机会。
人工智能有助于经济的自动化、智能化，AI大模型的最终目标是AGI(通用人工智能) 。AI大模型对人类传达信息的载体有了更好的学习，在此基础上各个媒介之间的互通成为可能。当这一目标实现的时候，人类各种经济活动产生的信息的生产、传输、分发、消费可实现编程化，万物智能成本无限降低，人类的生产力与创造力得到进一步的解放。
相信长期的力量。上海人工智能基金秉持长期主义，助力人工智能从业者们这场系统战、持久战中保持定力。上海人工智能产业基金是经上海市政府批准同意，由国盛集团、临港集团联合市区两级财政及市属大型产业集团共同发起，由上海临港科创投资管理有限公司担任基金管理人，旨在贯彻落实世界人工智能大会成果，加快推进上海人工智能高质量发展。基金聚焦人工智能核心技术和关键应用，同时关注优秀创业者陪护和生态资源的持续积累，致力于打造人工智能产业发展各类要素联通的“一站式”平台，助力建设人工智能“上海高地”，同时为产业升级变革创造长期价值。
ChatGPT的能力展现为人工智能产业链注入了新活力，即使尚处于萌芽期，其展现的创造能力充满想象空间，有望带动AIGC类应用快速爆发。人工智能技术作为驱动数据经济的技术底层，有望迎来新的发展机遇，在数字时代赋能人类生产力与创造力进一步解放和革 新。上海人工智能基金将持续通过技术引领与场景赋能双轮驱动， 推动人工智能成为驱动新 一轮科技革命和产业变革的重要力量。
智慧和觉悟是无为之法 ，看不见摸不到 ，它可以帮助很多人 ，却丝毫没有利害换取的观念 。欢迎搜索公众号”科创行业研究”关注，也可以扫下方二维码关注，您的关注是我持续前行动力！ 声明：本公众号致力于好文推送（欢迎投稿），部分文章推送时未能与原作者取得联系。版权归属原作者所有！若涉及版权问题，敬请原作者联系我删除。
