AI应用百花齐放，两大AI巨头英伟达（NVIDIA）、AMD全力冲刺高性能计算（HPC）市场，传出包下台积电今、明年CoWoS与SoIC先进封装产能。台积电高度看好AI相关应用带来的动能，总裁魏哲家于4月法说会上修AI订单能见度与营收占比，其中，订单能见度从原预期2027年拉长到2028年。台积电认为，服务器AI处理器今年贡献营收将增长超过一倍，占公司2024年总营收十位数低段（low-teens）百分比，预期未来5年服务器AI处理器年复合增长率达50%，2028年将占台积电营收超过20%。业界指出，AI需求强劲，亚马逊AWS、微软、Google、Meta等全球云端服务（CSP）四巨头积极投入AI服务器军备竞赛，使英伟达、AMD等AI芯片大厂产品出现供不应求盛况，并对台积电先进制程、先进封装全力下单，以应对云端服务大厂庞大订单需求，台积电2024与2025年CoWoS或SoIC等先进封装产能都已全数被包下。因应客户庞大需求，台积电正积极扩充先进封装产能。业界推估，今年底台积电CoWoS月产能上看4.5万~5万片，较2023年的1.5万片呈现倍数增长，2025年底CoWoS月产能更将攀上5万片新高峰。SoIC方面，预期今年底月产能可达五、六千片，同样较2023年底的2000片倍数增长，并于2025年底冲上单月1万片规模。由于大厂全数包下产能，台积电相关产能利用率将维持高档水平。据了解，英伟达目前量产出货主力H100芯片主要采用台积电4nm制程，并采用CoWoS先进封装，与SK海力士的高带宽内存（HBM）以2.5D封装形式供货客户。至于英伟达新一代的Blackwell架构AI芯片同样采用台积电4nm制程，是以加强版N4P生产，同时搭载更高容量及更新规格的HBM3e高带宽内存，因此计算能力将比H100系列倍数增长。另外，AMD的MI300系列AI加速器采用台积电5nm与6nm制程生产，与英伟达不同之处在于，AMD在先进封装上，先行采用台积电SoIC将CPU、GPU晶粒做垂直堆叠整合，再与HBM做CoWoS先进封装，因此制程良率多了一道先进封装难度较高的SoIC制程。知识力专家社群创办人曲博指出，晶体管越小，理论上芯片就越小，一片晶圆能做出来的芯片就会变多，所以理论上单位成本会随晶体管的缩小而降低。然而，先进制程发展到一个程度之后，技术复杂度大幅增加，特别是极紫外光（EUV）一旦用下去，成本立刻暴增，导致进入3nm，成本不但下不来，反而是增加，更遑论未来进入2nm甚至1nm。无论是晶体管缩小来到极限，抑或是成本因素的考量，未来半导体产业的重要发展，就是采用先进封装技术把不同的芯片堆起来，让晶体管的密度再增加。日前，台积电已推出其晶圆级系统（SoW）产品，该产品允许封装大量芯片（逻辑芯片、复合SoIC封装、HBM和其它芯片），以及在完整12英寸硅晶圆尺度上的电源和热模组。与CoWoS和3D SoIC相比，先进封装复杂性和能力的显著提升，因为整个计算系统可能会被封装在单一晶圆中。但曲博也提醒，台积电投入这一块虽然花了很多功夫，但是先进封装这个领域英特尔（Intel）其实技术也是很强的，大家一定要分清楚一件事，在「先进封装」上，台积电并没有绝对领先英特尔，台积电是在「先进制程」上领先英特尔。所以随着先进封装这个领域的重要性慢慢提高，台积电并没有放松的本钱。也可预见，中国台湾相关先进封装设备与技术的供应链厂商，未来应该会有不错的成长空间。生成式人工智能仰赖大型语言模型的训练，现在的做法是分三阶段，第一个阶段是“预训练”、第二个阶段是“微调”（Fine Tune）、最后一个阶段是「推理」。预训练需要大量的GPU运算，训练一个月的成本就要1000万美金。但是微调就不一样，微调是用大量的数据进行标注、微调参数而已，所以并不需要大量的算力，而是需要大量的高带宽内存（HBM）。顶级GPU太贵、中小企业想用却用不起。GPU决定算力、HBM则决定模型大小，群联董事长潘健成就曾指出，群联以SSD取代造价高昂的HBM系统，加上英伟达消费级GPU打造，将传统工作站升级为小规模AI服务器，硬件成本大幅降低;尽管运算速度仍不如大型CSP运端运算，不过相当具备成本优势;他打比方说道，例如台北到高雄坐飞机其实最快、但是高铁才是性价比最高的选择。
