（来源：上观新闻）
他10💚0%确信三到五🕑年内行业对Tra🌖🔩nsfor☯mer的依赖会大🌐幅降低，可能被👩💼👾状态模型或其他架🐳🇹🇹构替代🚏🚭。对此，李⛴子越也表🎳🌎达了相似🇧🇲🎀观点😂🇹🇭。为了适应这种👩🌾🚵♀️架构，研究团队🦕🚦对策略做↕🕍了相应调整：🎒🎙把MM🧙♀️🗾DiT😝🔸中视觉部分与🌰视觉部分之间的🐫注意力视为自⌚注意力，把文字部🇭🇷👸分与视🌿觉部分之间的注👄意力视为交叉注🖌🏥意力，🏨🌼然后沿用同样的选⚒头和引导逻😄辑🇨🇷🇰🇵。
Romain：是🏊♀️的，我们正在🇦🇽努力，以🇸🇭🗽后再跟你汇🌝☎报进展🙁🕜。当时，所有人都会♦把我们排🗾除在竞争名单📸之外🇸🇮。但当时GPU的❓应用场景不够丰富🖨💓，主流🥗场景是游戏应🤹♂️用，整个产业还处🤺于搭建基础设施🍼👩👩👧👧的阶段，黄晓👩👦💓煌于是有了自己创👩🎨👓业的想法🇨🇫✈。
