（来源：上观新闻）
GPU使🈸🇵🇱用的HBM读‼🏷写慢，是推理㊗过程中的根🧺本瓶颈🥪🛋，每生成📜一个token，🦜一个70🌾亿参数模型🍱👍需要搬运约14👨❤️👨☣0GB数据，频率🧘♂️极高，HBM跟不🐥上♎。
从效率角度看🎖，在第20步🇹🇩停止预生成、提取🏃信息，意味着🤗预生成🚄❎阶段只用走🎱完整50👦步中的40%🇬🇮🙆♂️，大幅节省了计🙇🇧🇫算量😑☹。毫无疑🇲🇫问，英伟达的⛔计算软件栈在👨🎓🇦🇶性能总拥有成本（🐖TCO🚴♀️）方面是世界上☕最优的⚔。
这些设计非常复🛏杂，而EDA（电😺🇭🇺子设计📆自动化）在其🇹🇱👩🍳中扮演着至关重要💀😒的角色🐓。Alexande👩🏫r：比如，咱们🔘🚼举个例子：在某个🌯👢领域，工🍇程师们♑🦋对此缺乏直😆🇦🇶观的把握👮。
