華為將發(fā)布AI推理創(chuàng)新技術UCM 實現(xiàn)高吞吐、低時延體驗
2025-08-12 13:28
來源: 云財經(jīng)
影響力評估指數(shù)：19.04
相關股票：
云財經(jīng)訊，8月12日，在2025金融A(150157)I推理應用落地與發(fā)展論壇上，華為將發(fā)布AI推理創(chuàng)新技術UCM(推理記憶數(shù)據(jù)管理器)。作為一款以KV Cache為中心的推理加速套件，其融合了多類型緩存加速算法工具，分級管理推理過程中產(chǎn)生的KV Cache記憶數(shù)據(jù)，擴大了推理上下文窗口，以實現(xiàn)高吞吐、低時延的推理體驗，降低每Tokenr的推理成本。(上證報)
云財經(jīng)智能匹配相關概念
| 新聞標題 | 時間 | 消息來源 | 新聞熱度 |
|---|---|---|---|
| 華潤電力等在定遠成立風力發(fā)電公司 注冊資本約4108萬 | 今天 15:34 | 云財經(jīng) |
|
| 港股內(nèi)房股盤初走強，佳兆業(yè)集團漲超34% | 今天 09:47 | 云財經(jīng) |
|
| 出海邏輯制造批量翻倍股 | 09-15 03:19 | 云財經(jīng) |
|
| 廣東新增報告201例基孔肯雅熱本地個案 大部分地區(qū)蚊媒仍活躍 | 09-14 13:47 | 云財經(jīng) |
|
| 湖南冷水江市通報磚廠利用疑似殘障人員務工 | 09-14 07:58 | 云財經(jīng) |
|
| 2025年服貿(mào)會今日迎首個公眾開放日，推出多項便民措施 | 09-13 13:08 | 云財經(jīng) |
|
