（来源：上观新闻）
CPU还在大型语🔘言模型的"后🎼训练"（pos🔐🎾t-t📐rain🎰🧞♂️ing）阶🧹↖段发挥关🐬键作用——🏢🥖即在预训练完成后⛷🇿🇼，对模型进行面向🌅特定目标的精细🤡调优过程中，⬛😣CPU承担着重📥🧓要的计算职能🐏。于是我们设📂计并制造了一个9️⃣。随着执行成本被压🐆到很低🇦🇲，Anth🇰🇮ropic 内🌊部已经可以同时💱跑上百个产品原🇩🇯⏬型👮🔏。
与KV缓存不同😐🦸♂️，持久记忆需📨要存活数月、支持💗随机访问🆒、不能再😃生成——这🇲🇹些要求促使研🇸🇨🧗♂️究者做了三项关键🐵调整：预先计算🐉👠好随机正交🙍🤴旋转矩阵📽🚨并保存在🇧🇦🐾磁盘上（而非每🇻🇳次重算），支〰持2/🤶4/8/32比特🍿四种精度的🕉混合存储，以及通🐤⚾过倒数排名融合👩👩👧👧🔎（RRF）算法实🔛现跨精度🧮😽检索🏃♀️😸。
