應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

消息稱亞馬遜第二代自研 AI 模型訓(xùn)練芯片 Trainium2 有望下月廣泛可用

2024-11-13 08:57 IT之家

導(dǎo)讀:亞馬遜有望于 12 月宣布其第二代自研 AI 模型訓(xùn)練芯片 Trainium2 的“廣泛可用”(widespread availability)。

  11 月 12 日消息,英媒《金融時(shí)報(bào)》當(dāng)?shù)貢r(shí)間今日表示,亞馬遜有望于 12 月宣布其第二代自研 AI 模型訓(xùn)練芯片 Trainium2 的“廣泛可用”(widespread availability)。

  Trainium2 芯片于去年末的 AWS 2023 re:Invent 全球大會(huì)上發(fā)布。亞馬遜表示與第一代產(chǎn)品相比該芯片訓(xùn)練速度提升多達(dá) 4 倍,能效提升多達(dá) 2 倍,內(nèi)存容量則達(dá)此前 3 倍,能在 EC2 UltraClusters 中擴(kuò)展至多達(dá) 10 萬(wàn)個(gè)芯片,可以在極短的時(shí)間內(nèi)訓(xùn)練基礎(chǔ)模型和大語(yǔ)言模型。


image.png

▲ ES 版本 Trainium2 芯片原型

可見(jiàn) Annapurna Labs 絲印

  Trainium2 芯片由亞馬遜在 2015 年以 3500 萬(wàn)美元(IT之家備注:當(dāng)前約 2.53 億元人民幣)收購(gòu)的芯片設(shè)計(jì)部門 Annapurna Labs 牽頭負(fù)責(zé),據(jù)悉已在接受包括 Anthropic、Databricks、Stockmark 三家 AI 創(chuàng)企以及德國(guó)電信、日本理光在內(nèi)的多個(gè)客戶的測(cè)試。

  除亞馬遜外,微軟、谷歌、Meta 等大型科技企業(yè)也在自行開(kāi)發(fā)各類 AI 推理或訓(xùn)練芯片,以減少對(duì)于英偉達(dá)硬件方案的依賴