應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

信通院MaaS系列標(biāo)準(zhǔn)正式發(fā)布,助力大模型工程化底座能力建設(shè)

2025-01-07 10:18 中國(guó)信通院

導(dǎo)讀:基座模型通過(guò)工程化開(kāi)發(fā)適配到專(zhuān)屬領(lǐng)域

隨著大模型向行業(yè)應(yīng)用的深入發(fā)展,如何將基座模型通過(guò)工程化開(kāi)發(fā)適配到專(zhuān)屬領(lǐng)域,并生產(chǎn)面向用戶的智能化應(yīng)用,成為大模型落地最后一公里的關(guān)鍵問(wèn)題。MaaS(Model as a service,模型即服務(wù))提供大模型服務(wù)、平臺(tái)工具、應(yīng)用開(kāi)發(fā)等能力,通過(guò)工程化方式提升大模型可用、可信和可靠等能力,為大模型工程化落地提供有力支撐。產(chǎn)業(yè)界逐漸涌現(xiàn)出各類(lèi)MaaS平臺(tái),但同時(shí)出現(xiàn)了模型服務(wù)質(zhì)量參差不齊、平臺(tái)選型難、行業(yè)定制需求復(fù)雜等問(wèn)題,從而亟需一套全面的標(biāo)準(zhǔn)體系助力MaaS行業(yè)健康有序發(fā)展。

中國(guó)信息通信研究院(簡(jiǎn)稱(chēng)“中國(guó)信通院”)緊跟MaaS領(lǐng)域最新發(fā)展趨勢(shì),依托中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟于2023年成立MaaS工作組,聯(lián)合產(chǎn)學(xué)研各界專(zhuān)家共同啟動(dòng)MaaS系列標(biāo)準(zhǔn)編制,經(jīng)過(guò)一年多的持續(xù)努力,現(xiàn)正式發(fā)布MaaS系列標(biāo)準(zhǔn)。本系列標(biāo)準(zhǔn)圍繞MaaS落地中遇到的問(wèn)題,聚焦大模型定制調(diào)優(yōu)、大模型服務(wù)部署和推理加速、模型管理、大模型應(yīng)用開(kāi)發(fā)等維度,提出能力要求,為大模型服務(wù)商和平臺(tái)供應(yīng)商提供能力建設(shè)參考,為應(yīng)用方提供技術(shù)選型依據(jù)。

《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求第1部分:模型服務(wù)協(xié)議要求》(AIIA/PG 0110-2024)(以下簡(jiǎn)稱(chēng)“協(xié)議要求”)標(biāo)準(zhǔn)針對(duì)大模型服務(wù)供需雙方簽訂服務(wù)協(xié)議(SLA)時(shí)涉及的模型推理性能、服務(wù)可用性、計(jì)量準(zhǔn)確性、權(quán)責(zé)條款等方面進(jìn)行了明確規(guī)范,為大模型服務(wù)提供商和使用方制定服務(wù)協(xié)議提供參考。

《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求第2部分 模型服務(wù)評(píng)估方法》(AIIA/PG 0173-2024)標(biāo)準(zhǔn),以協(xié)議要求標(biāo)準(zhǔn)中的要求為基礎(chǔ),明確了可落地的模型服務(wù)質(zhì)量評(píng)估方法,對(duì)大模型服務(wù)的質(zhì)量進(jìn)行多維度評(píng)估,為其是否滿足SLA提供符合性評(píng)價(jià)依據(jù),為應(yīng)用方提供選型參考和質(zhì)量保障。

《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求第3部分:模型平臺(tái)》(AIIA/PG 0134-2024)標(biāo)準(zhǔn)從數(shù)據(jù)工程、模型調(diào)優(yōu)、模型交付、服務(wù)運(yùn)營(yíng)、平臺(tái)能力等角度對(duì)利用基座大模型打造專(zhuān)屬領(lǐng)域模型的全棧能力進(jìn)行規(guī)范,降低大模型領(lǐng)域化的技術(shù)門(mén)檻,提升領(lǐng)域模型的定制調(diào)優(yōu)效率和能力。

《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求第4部分:模型服務(wù)平臺(tái)》(AIIA/PG 0137-2024)標(biāo)準(zhǔn)從大模型推理加速、服務(wù)部署、服務(wù)測(cè)試、服務(wù)管理、服務(wù)運(yùn)營(yíng)等角度對(duì)將大模型服務(wù)化成API等形式的全流程能力進(jìn)行規(guī)范,指導(dǎo)大模型服務(wù)平臺(tái)供應(yīng)商進(jìn)行能力建設(shè),提升大模型服務(wù)的部署效率與供給質(zhì)量。

《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求第5部分:模型管理平臺(tái)》(AIIA/PG 0193-2024)標(biāo)準(zhǔn)對(duì)企業(yè)內(nèi)部模型、數(shù)據(jù)等AI資產(chǎn)的管理運(yùn)營(yíng)進(jìn)行規(guī)范,同時(shí)通過(guò)使用說(shuō)明、適用場(chǎng)景、調(diào)用方法等模型卡片要素進(jìn)行明確,以促進(jìn)用戶使用大模型的活躍度,幫助企業(yè)以最大程度發(fā)揮大小模型協(xié)同效果。

《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求第6部分:模型應(yīng)用開(kāi)發(fā)平臺(tái)》(AIIA/T 0196-2024)標(biāo)準(zhǔn)圍繞基于大模型的AI應(yīng)用開(kāi)發(fā)全流程,從組件構(gòu)建、RAG構(gòu)建、智能體應(yīng)用構(gòu)建、應(yīng)用集成和管理以及平臺(tái)運(yùn)營(yíng)等橫向維度提出規(guī)范要求,縱向維度涉及模型服務(wù)調(diào)取、AI能力嵌入、流程編排等技術(shù)要求,幫助企業(yè)快速創(chuàng)建私域大模型應(yīng)用。