技術(shù)
導(dǎo)讀:亞馬遜有望于 12 月宣布其第二代自研 AI 模型訓(xùn)練芯片 Trainium2 的“廣泛可用”(widespread availability)。
11 月 12 日消息,英媒《金融時(shí)報(bào)》當(dāng)?shù)貢r(shí)間今日表示,亞馬遜有望于 12 月宣布其第二代自研 AI 模型訓(xùn)練芯片 Trainium2 的“廣泛可用”(widespread availability)。
Trainium2 芯片于去年末的 AWS 2023 re:Invent 全球大會(huì)上發(fā)布。亞馬遜表示與第一代產(chǎn)品相比該芯片訓(xùn)練速度提升多達(dá) 4 倍,能效提升多達(dá) 2 倍,內(nèi)存容量則達(dá)此前 3 倍,能在 EC2 UltraClusters 中擴(kuò)展至多達(dá) 10 萬(wàn)個(gè)芯片,可以在極短的時(shí)間內(nèi)訓(xùn)練基礎(chǔ)模型和大語(yǔ)言模型。
▲ ES 版本 Trainium2 芯片原型
可見(jiàn) Annapurna Labs 絲印
Trainium2 芯片由亞馬遜在 2015 年以 3500 萬(wàn)美元(IT之家備注:當(dāng)前約 2.53 億元人民幣)收購(gòu)的芯片設(shè)計(jì)部門 Annapurna Labs 牽頭負(fù)責(zé),據(jù)悉已在接受包括 Anthropic、Databricks、Stockmark 三家 AI 創(chuàng)企以及德國(guó)電信、日本理光在內(nèi)的多個(gè)客戶的測(cè)試。
除亞馬遜外,微軟、谷歌、Meta 等大型科技企業(yè)也在自行開(kāi)發(fā)各類 AI 推理或訓(xùn)練芯片,以減少對(duì)于英偉達(dá)硬件方案的依賴。