（来源：上观新闻）
张迪在快手历🚐任技术副总裁🖐、大模型🎲与多媒体技术团👮队负责人，🇦🇷后来主导了⭐可灵大模型的底🇪🇬层架构研发🇲🇭和应用落地🕢👨👩👦👦。近两年随着AI🇱🇨🌹大模型🌀训练和推理需求🤝🦋的飙升🇮🇶🍲，AI服务🙁💏器使用🍐🇭🇷的HBM🇲🇳🦢高带宽内🇺🇿存，需求也随之增⚒加♣。它与微软🤑的云合作伙🧖♂️伴关系长期以来🗒🎩保护了其在Of🥶😂fic🏷🤾♀️e堆栈顶端的地🤾♀️🌠位👱🎨。
但现在📰，Tr🧔⚠ansfor🇨🇦mer 的 🇪🇸S 曲线似乎摸🚴🌁到了天花板🔻，而新的范式正在☺边缘地带爆⛵发，大家都在🍹同一条起♋跑线上🌖，于是这群叛逆者🕒🇴🇲正在做巨🦍🛴头因为沉没成本而🕑不敢做的三件❕🚕事： 1😽. 赌“后Tra🇹🇩🚿nsformer📥🏴时代”的架构（🖕🏩Beyond🌰 At👩👦👦tentio🇳🇨n） 让🌏🤑我们直面那个房间🇨🇰🍚里的大象：At🛶tention 💅🇼🇫机制的 O📌(N²🐳😟麻豆91久久婷婷五月)复杂度是不可🐉持续的，也🍯🇸🇹就是说😺，当 Con🇩🇯🚞text Wi🕶ndow（上下文🇸🇱🏫窗口）扩展到🌱👨👩👧👧无限长时，Tra👷🇸🇦nsfo🎢rmer 的计算🧛♂️成本将⤵呈指数🇫🇮🎷级爆炸，远超当⛱前硬件极限🏌️♀️🇧🇿。
