v0.17.6 Patch Release

DeepSpeedのv0.17.6パッチリリースでは、いくつかの重要な更新が行われました。主な変更点には、DeepSpeedのオフロードとリロード状態のサポート、Muonオプティマイザーの有効化、非ZeROモードの有効化、riscv64 CPUサポートの追加、エラーメッセージの改善、autocastテストの検証の簡素化などが含まれています。また、いくつかのバグ修正も行われ、特にDeepCompile Z1/2の勾配バッファアクセスの修正や、MoEの専門家並列グループサイズの誤用の修正が挙げられます。新しいコントリビューターも数名参加しており、コミュニティの活性化が見られます。 • DeepSpeedのオフロードとリロード状態のサポートが追加された。 • Muonオプティマイザーが有効化された。 • 非ZeROモードが有効化された。 • riscv64 CPUサポートが追加された。 • エラーメッセージの改善とautocastテストの検証の簡素化が行われた。 • DeepCompile Z1/2の勾配バッファアクセスのバグが修正された。 • MoEの専門家並列グループサイズの誤用が修正された。 • 新しいコントリビューターが参加した。