亚马逊(Amazon)旗下Amazon Web Services(AWS)正式推出Trainium3 UltraServers,有望较上一代带来高出4.4倍运算效能,同时预告Trainium4正积极开发中,市场看好纬颖(6669)、鸿海(2317)等供应链营运将受惠。
大型法人机构表示,AWS正式推出Trainium3 UltraServers,同时预告Trainium4正在积极开发,其中,Trainium3 UltraServers将最多144颗Trainium3整合在单一系统中,提供高达362 FP8 PFLOPs的AI算力,较上一代Trainium2 UltraServers带来高出4.4倍运算效能,能以更快速度训练模型,同时支援更多推理需求。
其展示在使用OpenAI开放模型gpt-oss所测试下,Trainium3 UltraServers能在每颗晶片上达到3倍吞吐量,同时推理反应时间较Trainium2 UltraServers快上约4倍。
此外,Trainium3的能源效率大幅提升,与上一代相比节省约40%能耗;目前已有多家客户使用Trainium3和Trainium3 UltraServers,如专攻生成式AI影片的Decart使用Trainium3进行即时影片生成的推论速度提升约4倍,而成本仅为原先使用GPU加速运算的一半。而Anthropic 、Karakuri、Ricoh等客户也透过Trainium晶片运算能力成功降低约50%的训练与推论成本。
分析师认为,AWS预告正在开发下一代Trainium4晶片,预期效能将再提升6倍、记忆体频宽提高4倍、记忆体容量可扩增2倍,且此晶片将支援辉达NVLink Fusion高速互连技术中,看好纬颖、广达(2382)、鸿海、英业达(2356)、神达(3706)等供应链营运将受惠。 $(document).ready(function () {nstockStoryStockInfo();});