pytorch v2.7.0震撼发布!Blackwell GPU支持+编译性能狂飙,AI开发者必看10大升级
重点内容
测试版(Beta):
• Torch.Compile 支持 Torch 函数模式
• Mega 缓存
原型(Prototype):
• 支持 NVIDIA Blackwell 架构
• PyTorch 原生上下文并行
• 增强 Intel GPU 加速能力
• FlexAttention 大型语言模型(LLM)首个 token 在 X86 CPU 上的处理
• FlexAttention 大型语言模型(LLM)在 X86 CPU 上的吞吐量模式优化
• Foreach Map 操作
• 推理用 Flex Attention
• Inductor 中的 Prologue 融合支持
重点内容
测试版(Beta):
• Torch.Compile 支持 Torch 函数模式
• Mega 缓存
原型(Prototype):
• 支持 NVIDIA Blackwell 架构
• PyTorch 原生上下文并行
• 增强 Intel GPU 加速能力
• FlexAttention 大型语言模型(LLM)首个 token 在 X86 CPU 上的处理
• FlexAttention 大型语言模型(LLM)在 X86 CPU 上的吞吐量模式优化
• Foreach Map 操作
• 推理用 Flex Attention
• Inductor 中的 Prologue 融合支持