应用介绍
对于网络中的每个 n×m 矩阵参数（例如，设 m≤n），NS 迭代的每一步都需要 2 (2nm²+m³) 个矩阵乘法 FLOP，对于平方参数，最多为 6nm²。因此，与 SGD 相比，Muon 所需的额外 FLOP 最多为 6Tnm²，其中 T 是 NS 迭代次数（通常我们取 T=5）。
对于网络中的每个 n×m 矩阵参数（例如，设 m≤n），NS 迭代的每一步都需要 2 (2nm²+m³) 个矩阵乘法 FLOP，对于平方参数，最多为 6nm²。因此，与 SGD 相比，Muon 所需的额外 FLOP 最多为 6Tnm²，其中 T 是 NS 迭代次数（通常我们取 T=5）。
