（来源：上观新闻）
不少人🥞📘都知道😣，芯片、算力🇬🇾等的国🥴产化，我们回应不🌕🔭多↙。具体聊下模型🇲🇭👀。为了处理更长😌的上下文，🧴V4在▫🌐MoE（混🏈合专家）🤼♂️🎼架构上做了大幅👥🇨🇼调整，每层🧟♂️配置384个🚥专家，推理时激活🥭6个🔞。我不喜欢☑🇼🇸跟别人🎦抢着做事😿⛩，比如LLM🥢🧓很好，🐲那大家都一窝🍾👩❤️💋👩蜂去做，但🌊🕐我更在💸意某种使命感或🐚者责任感： 一件🧕🏊♀️事情，如果🚹🍀我去做🚑和我不🦗去做，对世界来🦕🍫说都没有差别，那🇲🇿我为什么🏘要做？ 所以，我🐙🌴选择换一🍕个领域👹。
两款模型🗃👞均支持100万⛪🎍词元toke👨🎤n的超长上下🤹♀️文窗口，与美国顶👑🎰尖模型👍💼（SOTA）持平🇧🇷🌩，但所需内存与👨👧👧⬅KV缓存大幅压👬🍲缩👨🔬😲。这句话的背景是🚱🎓，彼时⚔⛳的通用汽🔜💡车拥有上百万🚻工人，一个公⛅司就是一座底特律🏋城，整个美国制造🥓业的生🇲🇦👇态依托™于通用🐑📼汽车🔕。图注：Met🧾a员工和朋🚌友间发的搞笑哏图👑 扎克伯🇧🇱格花过🏈🤩百亿美✖🦠元造A🥋🧥I，员🦡🔢工花几十块⚓📿钱给AI提📧供模拟🎅鼠标的无♟️🌩规则抖动轨迹🗼🇦🇿。
ANP /🐞 ZU🇺🇾MA出版社🕔🎑 从长远来看，A👧🇸🇨SML正致🦜力于研发👞一种更强光源的♍产业化，这将显👴🔏著提高其机器的🌏生产效率🎻。ASML向👩🦲🛥更快增长的转👨🥍型步伐十分🙋♂️😝迅速🇹🇳。陈经分🥚析称，这意味着🇵🇱📕一套国6️⃣产软硬件协同📳⛪的AI研发生态📰正在逐💁♂️渐完善🚾。
