（来源：上观新闻）
Anth🏷🌊ropic先🇧🇱🤱搭建了🤚🇧🇼跨应用上下文🇵🇰层，再逐个填🇬🇫充应用🈷🖇。但这次转🦔型只是🔀一连串转型中最🌫🇲🇲近的一次♻。第一个从话🚀🏍语分析的角度📭🚜，研究人们是如何🎩🇲🇭理解和想象🛌🇦🇲“pr🕠ompti🕸💈ng（😷📄训练语👨🎨言模型来完成🇸🇪🏦特定任务的方法）👧”这个行为🇹🇳的🛄🆖。
但现在，Tran🇦🇴sformer 🍍🚶的 S 曲线似乎🔁摸到了天😁花板，而新🏂🇼🇫的范式正🇦🇮在边缘👩💼地带爆发，大家都🕵在同一条⏬🌭起跑线上，于是这💛🏫群叛逆者正🇱🇨🚭在做巨头因为🌸🧶沉没成本而不敢做🔱💰的三件事： 🥼1. 赌“后🎃Transfo🧤rmer时代”🗒的架构（🤶💭Beyon🐋d Att😁⚗ention👨👨👧👧） 让我们直🛫面那个房间里的大🍸象：At💕🌰tention 💕💰机制的 O(🌿🧟♂️N²)复杂度是不🕴🌅可持续🚡的，也🇩🇰🤦♀️就是说，当 C😷🚘ont🛀👮♀️ext Wi🇲🇹ndow（上下🚦🧰文窗口）扩👏展到无限长时🇱🇧，Tra🍑🤯nsfor🇧🇴mer 的计👊算成本将呈✈指数级爆炸，远🎅🇰🇼超当前硬件极🍆🤹♂️限🌷🛶。
