云財經(jīng)訊，阿里云與知名半導(dǎo)體公司MediaTek聯(lián)合宣布，通義千問18億、40億參數(shù)大模型已成功部署進天璣9300移動平臺。這意味著手機AI體驗將迎來重大提升，用戶可在手機上離線流暢運行即時且精準的多輪AI對話應(yīng)用。與此同時，連續(xù)推理功耗增量不到3W，顯示出了出色的能效表現(xiàn)。此舉標志著通義大模型首次完成芯片級的軟硬適配，僅依靠終端算力即可獲得優(yōu)異的推理性能和功耗表現(xiàn)。這一技術(shù)突破意味著Model-on-Chip(片上大模型)的商業(yè)化正式邁出了重要一步。