刘德音：AI 改变人类生活和工作，也为半导体带来庞大商机
▼
台积电董事长刘德音在 SEMICON Taiwan 2023 大师论坛演讲时表示，十年内人工智慧（AI）会用于许多任务，如脸部辨识、语言翻译、电影和商品推荐。再下个十年，AI 进步到另个层次，能“汇整合成知识”。生成式 AI 如 ChatGPT 会创作诗词及艺术品、诊断疾病、撰写报告和电脑代码，甚至设计出积体电路类产品。AI 大大改变人类生活和工作，也为半导体产业带来庞大商机。
刘德音说 AI 突破性发展有三因素。一是高效深度学习演算法创新；二是网络大量训练资料；三是半导体发展提升节能运算。
AI 发展几个重要里程碑是由领先半导体技术达成，如 IBM 超级电脑采 0.13 微米，深度神经网络原始图像辨识采 45 奈米，知名 AlphaGo 采 28 奈米，最初训练用 ChatGPT 服务器采 5 奈米，最近 ChatGPT 采台积电 4 奈米晶片服务器。ChatGPT 广泛应用日常生活，展现 AI 高效能运算技术可助益每个人。
然过去五年，AI 训练运算能力和记忆体容量增加好几个等级，GPT-3 模型需超过 5,000 peta-FLOP-days（5E18 Flop-days）运算量和 3 兆位元组（3E12 位元组）记忆体。生成式 AI 运算能力和记忆体仍在增长，半导体技术要如何以同样快速发展？
刘德音表示，自从积体电路发明，半导体技术一直在微缩，试图将更多元件（或电晶体）置入指甲大小的晶片。现在整合技术又往上提升，可将许多晶片整合成一个紧密且大规模互连的系统，这是十多年来见证的半导体整合“典范转移”，超越 2D 微缩，进入 3D 系统。
人工智慧时代，系统能力与整合元件（或电晶体）数量成正比。可用中介层将整合系统尺寸扩展到曝光光罩尺寸以外，整合系统晶片比单晶片容纳更多元件。台积电基于 CoWoS 技术开发的超级载体中介层能容纳高达 6 个光罩曝光面积运算晶片，以及 12 个 HBM3 高频宽记忆体堆叠。
对人工智慧来说，3D SoIC 是另一项越来越重要的关键技术。现今传统的高频宽记忆体（HBM）依赖硅穿孔（TSV）和焊接凸块堆叠。台积电 3D SoIC 技术为现今 HBM 技术提供替代方案。HBM 测试结构有 12 层面对背堆叠（F2B）低温下接合，置于更大基础逻辑晶片上，总厚度仅 600 微米。
藉 CoWoS 或 SoIC 技术，系统整合晶片的总元件（电晶体）数量远大于一个单晶片可容纳量。AI 训练用 GPU 晶片已达光罩曝光面积限制，电晶体数量约 1,000 亿个。电晶体数量增加趋势的延续需要由多个与 2.5D 或 3D 整合互连的晶片执行运算。
十年内多晶片 GPU 将由超过 1 兆个电晶体组成。透过互连距离微缩，有足够空间容纳更多更大 SoIC 互连量。互连密度提高一个等级或更高并没有基本限制。
刘德音强调，创新硬件技术如何贡献系统效能？服务器 GPU 能源效率（EEP）趋势过去 15 年，半导体产业约每两年提高三次，此趋势必会延续，也会受许多创新驱动，包括新材料、元件和整合技术、极紫外光（EUV）和设计技术协同最佳化（DTCO）进步、电路设计和系统架构设计。特别的是，CoWoS 和 SoIC 发展协助提高能源效率，系统技术协同最佳化（STCO）等概念将越来越重要。
高效能运算系统由大量执行大型 AI 模型的晶片组成，高速有线通讯可能很快限制运算速度。而光互连已用于连接资料中心服务器机架，光学介面可望很快与 GPU /CPU 配在一起，为 GPU 到 GPU 的通讯提供能量和区域效率扩展频宽。因此，数百台服务器将成为具有统一 DRAM 的单一巨型 GPU。
台积电紧凑型通用光子引擎（Compact Universal Photonic Engine）技术将扮演重要角色，利用 SoIC 整合 GPU 和路由器交换器旁边的积体电路（EIC）及积体光路（PIC）。AI 应用推动下，硅光子技术将成为半导体产业的关键技术。
刘德音指出，1980 年加州理工学院卡弗米德教授（Prof. Carver Mead）和林恩康威教授（Prof. Lynn Conway）发明电脑辅助设计积体电路的方法，使用整套设计法则描述晶片微缩制程，因此电路设计人员无需具备太多制程知识即可轻松设计 VLSI 电路。
现今 3DIC 领域，设计包括 VLSI 设计、系统架构设计和软硬件最佳化。制程部分包括晶片微缩技术、3DIC 技术和先进封装。同样的，需要一种语言定义技术，并转为 EDA 技术文件，以便设计人员设计 3DIC 系统。
这正是最近台积电推出 3D Blox（硬件描述语言）的目的，使用通用解释标准描述各种 3DIC 技术。设计人员可自由设计 3DIC 系统，无需理会基本 3DIC 技术。3D Blox 已被多数科技公司和 EDA 公司接受。
人工智慧时代，半导体技术是新 AI 能力和应用的关键推动力。新半导体产品不再受限于晶片尺寸及新世代电晶体微缩。整合式 AI 系统涵盖数量最大化的节能电晶体、专为运算工作负载设计的高效系统架构、软件和硬件最佳化。
(首图来源：AI资源网)
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
