清華團(tuán)隊(duì)突破大模型算力瓶頸，4090顯卡可運(yùn)行DeepSeek-R1滿(mǎn)血版
2025-02-17 08:57
來(lái)源: 云財(cái)經(jīng)
影響力評(píng)估指數(shù)：15.55
相關(guān)股票：
云財(cái)經(jīng)訊，2025年2月17日，清華大學(xué)KVCache.AI團(tuán)隊(duì)聯(lián)合趨境科技發(fā)布的KTransformers開(kāi)源項(xiàng)目取得重大突破。該項(xiàng)目成功實(shí)現(xiàn)了在單張24GB顯存的RTX 4090顯卡上運(yùn)行DeepSeek-R1、V3的671B滿(mǎn)血版。預(yù)處理速度最高可達(dá)286 tokens/s，推理生成速度最高達(dá)14 tokens/s。這一創(chuàng)新顯著降低了大模型的運(yùn)行門(mén)檻，使普通用戶(hù)也能在本地實(shí)現(xiàn)AI大模型的高效運(yùn)行。A股上市公司中，科德教育(300192)參股的中吳芯英是國(guó)內(nèi)掌握TPU架構(gòu)訓(xùn)推一體AI芯片核心技術(shù)的公司，致力于打造“自研訓(xùn)練芯片+超算集群+預(yù)訓(xùn)練大模型”的產(chǎn)業(yè)價(jià)值鏈。亞康股份(301085)依托自身優(yōu)勢(shì)，積極圍繞下游客戶(hù)需求，為其提供AI訓(xùn)練與推理所需的算力基礎(chǔ)設(shè)施全產(chǎn)業(yè)鏈服務(wù)。
云財(cái)經(jīng)智能匹配相關(guān)概念
| 新聞標(biāo)題 | 時(shí)間 | 消息來(lái)源 | 新聞熱度 |
|---|---|---|---|
| 新預(yù)測(cè)：美國(guó)氣候政策轉(zhuǎn)向拖累全球氣候治理 | 今天 16:32 | 云財(cái)經(jīng) |
|
| 以媒：以色列對(duì)加沙城發(fā)動(dòng)地面進(jìn)攻 坦克已入城 | 今天 08:48 | 云財(cái)經(jīng) |
|
| 五洲交通：控股股東擬增持0.85億元-1.7億元公司股份 | 09-15 19:45 | 云財(cái)經(jīng) |
|
| 國(guó)家外匯管理局：取消境內(nèi)直接投資前期費(fèi)用基本信息登記 | 09-15 19:17 | 云財(cái)經(jīng) |
|
| 日本小泉進(jìn)次郎已決定參加自民黨總裁競(jìng)選 | 09-13 23:16 | 云財(cái)經(jīng) |
|
| 上海9月份拍牌下周六舉行，警示價(jià)92400元 | 09-13 12:10 | 云財(cái)經(jīng) |
|
