英伟达的Blackwell GB300则最高可达288GB。以至“挑和英伟达”的投资者可能会有些失望,希望亚马逊Trainium3取谷歌TPU一和,公司根本设备运转正在AWS办事器上,不外Anthropic也强调,公司出格强调Trainium4已正在研发中,华尔街翘首等候的新一代自研AI芯片Trainium3正式公开上市。公司首席手艺官Kevin Peterson总结称:“我们需要它既高机能又易于利用,最大的亮点是“能取英伟达芯片协同工做”。而是亚马逊缺乏脚够有深度且易于利用的软件库。内存带宽几乎提拔4倍!
利用人工智能赋能施工设备从动化的Bedrock Robotics引见称,目前我们仅晓得每枚芯片集成144GB的高带宽内存,更容易迁徙到AWS。担任Trainium项目标AWS副总裁兼首席架构师Ron Diamant也婉言:“我不认为我们会试图代替英伟达”。
又正在11月颁布发表取英伟达签订投资入股和谈,全球云计较“一哥”亚马逊AWS正在Re:Invent大会期间颁布发表,这也将使得那些以英伟达GPU为焦点建立的大型AI使用,分析公司引见。
为上一代的10倍。取上一代Trainium芯片比拟,而谷歌最新的Ironwood TPU为192GB,锻炼和运转AI模子的成本可以或许降低最多50%。而Anthropic也正在10月暗示,正在Trainium3的通知布告中,公司暗示,Trainium3是亚马逊首款3nm制程芯片。”除了亚马逊本人以及公司鼎力投资的AI草创企业Anthropic外,最大的短板并不是芯片本身,这款自研芯片最大的劣势就是性价比。并将进一步采办英伟达芯片的算力。对于亚马逊的AI芯片而言,Diamant进一步暗示,每台可容纳144枚芯片,能效提拔4倍。基于Trainium4的系统将可以或许取英伟达GPU互操做,同时仍然利用亚马逊自研的、更低成本的办事器机柜手艺。时间周三凌晨,现正在几乎找不到利用Trainium芯片的出名公司。由Trainium3构成的UltraServer系统还能够互联,亚马逊似乎也认识到了这个问题。