返回列表 回復 發帖

[手機情報] HUAWEI 全新壓縮 RAM 算法,AI 大模型可節省 70% RAM

近期,華為AI算法團隊表示在人工智能領域取得顯著突破,研究併發表一種創新的大模型 KV Cache 壓縮算法,稱為「RazorAttention」。
7 ]- H7 H1 G9 T5.39.217.76   
+ M: U- Y9 i4 t& ~, H2 ^公仔箱論壇公仔箱論壇4 p0 t0 M! G/ i& F2 e/ c

6 h; M; W8 P3 T' E5.39.217.76新算法具有卓越的性能表現,可以有效節省高達 70%的大模型推理 RAM 佔用,AI 大模型提供更多的空間,提供強有力的支援。
" {$ }6 {) c4 f$ H: h8 G  a8 S6 E目前相關論文《RazorAttention: Efficient KV Cache Compression Through Retrieval Heads》已被深度學習領域國際頂級會議 ICLR 2025 收錄,可見其重要性。公仔箱論壇7 j; s; ?" P0 y& i& g
華為表示,RazorAttention 是業界首個基於 Attention 可解釋性的離線靜態 KV Cache 壓縮算法,打破一直以來 AI 大模型長序列 KV Cache 壓縮不理想的硬傷,減少設備負擔,提高計算速度。
6 G( n: V3 d; ^4 z2 o/ D/ zRazorAttention 是通過檢索頭的設定,保證上下文中重要且主要的信息保留,且在保持高精度(誤差小於1%)的前提下,實現靜態有效壓縮最大70% 的 KV Cache RAM 佔用,大大減少 AI 大模型推理的成本。4 e9 Y9 S& D/ K1 B$ {2 V4 T
值得一提的是,目前 RazorAttention 算法已實現產品化,並集成在昇騰 MindIE/MindStudio,支援主流 8K~1M 長序列 KV Cache 壓縮,在 32K 以上場景增量吞吐提升20%+。
返回列表