更新历史
==========================================
* **V1.3.2**

  **更新时间**: 2025年01月09日

  **更新内容**:

- ``fused_layer_norm`` 与 ``fused_rms_norm`` 的输入和输出支持更多的 ``stride`` 组合。请参考 :ref:`torch_mlu_ops.fused_rms_norm`、:ref:`torch_mlu_ops.fused_layer_norm` 章节。

* **V1.3.1**

  **更新时间**: 2024年12月30日

  **更新内容**:

  - ``smooth_quant_group_gemm`` 与 ``fused_moe`` 算子支持w4w8混合量化。请参考 :ref:`torch_mlu_ops.smooth_quant_group_gemm` 和 :ref:`torch_mlu_ops.fused_moe` 章节。
  - 新增 ``dequant_from_paged_cache`` 算子，详细内容请参考 :ref:`torch_mlu_ops.dequant_from_paged_cache` 章节。
  - ``dequant_from_linear_cache`` 算子不再支持float32的 ``key`` 和 ``value``。
  - 新增 :ref:`gen_case` 功能。
  - 新增 :ref:`pt_example` 章节内容。

* **V1.3.0**

  **更新时间**: 2024年12月17日

  **更新内容**:

  - ``group_gemm`` 与 ``smooth_quant_group_gemm`` 算子的 ``max_m`` 参数由可选修改为必选。请参考 :ref:`torch_mlu_ops.group_gemm` 和 :ref:`torch_mlu_ops.smooth_quant_group_gemm` 章节。
  - ``moe_softmax_topk`` 支持mask功能，请参考 :ref:`torch_mlu_ops.moe_softmax_topk` 章节。
  - 新增 ``dequant_from_linear_cache`` 算子，详细内容请参考 :ref:`torch_mlu_ops.dequant_from_linear_cache` 章节。

* **V1.2.3**

  **更新时间**: 2024年12月09日

  **更新内容**:

  - ``single_query_cached_kv_attn`` 与 ``flash_attention`` 算子支持 ``head_size_qk != head_size_v``，请参考 :ref:`torch_mlu_ops.single_query_cached_kv_attn` 和 :ref:`torch_mlu_ops.flash_attention` 章节。
  - ``group_gemm`` 与 ``smooth_quant_group_gemm`` 算子支持bias，请参考 :ref:`torch_mlu_ops.group_gemm` 和 :ref:`torch_mlu_ops.smooth_quant_group_gemm` 章节。
  - ``matmul`` 删除原位输出参数，增加指定输出类型参数，请参考 :ref:`torch_mlu_ops.matmul` 章节。

* **V1.2.2**

  **更新时间**: 2024年11月08日

  **更新内容**:

  - ``smooth_quant_group_gemm`` 算子新增int4 group量化功能，请参考 :ref:`torch_mlu_ops.smooth_quant_group_gemm` 章节。
  - allreduce类算子删除act_mode，请参考 :ref:`torch_mlu_ops.smooth_quant_matmul_allreduce` 和 :ref:`torch_mlu_ops.matmul_allreduce` 章节。
  - ``weight_only_quant_matmul`` 与 ``smooth_quant_matmul`` 添加use_hp_active参数，控制激活计算方式， 请参考 :ref:`torch_mlu_ops.weight_only_quant_matmul` 和 :ref:`torch_mlu_ops.smooth_quant_matmul` 章节。
  - ``active`` 算子新增quick_gelu和swish激活模式，请参考 :ref:`torch_mlu_ops.active` 章节。

* **V1.2.1**

  **更新时间**: 2024年11月04日

  **更新内容**:

  - ``quant_to_linear_cache`` 算子新增group量化及int4量化功能，请参考 :ref:`torch_mlu_ops.quant_to_linear_cache` 章节。
  - 新增 ``moe_cast_gating`` 算子，请参考 :ref:`torch_mlu_ops.moe_cast_gating` 章节。
  - 新增 ``update_out_and_lse`` 算子，请参考 :ref:`torch_mlu_ops.update_out_and_lse` 章节。
  - ``fused_rope`` 算子支持int8/int4 kv cache。
  - ``matmul`` 与 ``batch_matmul`` 新增配置 ``trans_a``， ``trans_b`` 参数，请参考 :ref:`torch_mlu_ops.matmul` 和 :ref:`torch_mlu_ops.batch_matmul` 章节。
  - ``single_query_cached_kv_attn`` 支持int4 kv cache，支持返回lse。请参考 :ref:`torch_mlu_ops.single_query_cached_kv_attn` 章节。
  - 新增 ``single_query_mixed_cached_kv_attn`` 算子。
  - ``fused_layer_norm`` 与 ``fused_rms_norm`` 支持输出动态量化。请参考 :ref:`torch_mlu_ops.fused_rms_norm`、:ref:`torch_mlu_ops.fused_layer_norm` 章节。

* **V1.2.0**

  **更新时间**: 2024年10月24日

  **更新内容**:

  - ``moe_softmax_topk`` 算子新增grouped_topk功能，请参考 :ref:`torch_mlu_ops.moe_softmax_topk` 章节。
  - ``moe_softmax_topk`` 算子不再支持原位功能，请参考 :ref:`torch_mlu_ops.moe_softmax_topk` 章节。
  - ``moe_gen_idx`` 算子不再支持原位功能，请参考 :ref:`torch_mlu_ops.moe_gen_idx` 章节。
  - 新增 ``fused rope`` 算子，请参考 :ref:`torch_mlu_ops.fused_rope` 章节。
  - ``matmul`` 算子支持INT8输入，请参考 :ref:`torch_mlu_ops.matmul` 章节。
  - 新增 ``batch_matmul`` 算子，请参考 :ref:`torch_mlu_ops.batch_matmul` 章节。

* **V1.1.4**

  **更新时间**: 2024年09月30日

  **更新内容**:

  - 新增 ``offline_quant_to_paged_cache`` 算子，详见 :ref:`torch_mlu_ops.offline_quant_to_paged_cache` 章节。
  - 新增 ``moe_gen_idx`` 和 ``moe_expand_input`` 算子，详见 :ref:`torch_mlu_ops.moe_gen_idx` 和 `torch_mlu_ops.expand_input` 章节。
  - 新增 ``moe_combine_result`` 算子，详见 :ref:`torch_mlu_ops.moe_combine_result` 章节。
  - 新增 ``moe_gen_idx`` 算子，详见 :ref:`torch_mlu_ops.moe_gen_idx` 章节。
  - 删除 ``quant_matmul`` 算子，由 ``smooth_quant_matmul`` 和 ``weight_only_quant_matmul`` 实现其功能， 详见 :ref:`torch_mlu_ops.smooth_quant_matmul` 和 :ref:`torch_mlu_ops.weight_only_quant_matmul` 章节。
  - ``flash_attention`` 算子新增 ``block_tables`` 、 ``k/v_cache_quant_scale`` 参数。请参考 :ref:`torch_mlu_ops.flash_attention` 章节。
  - ``matmul`` 算子支持激活计算方式配置，请参考 :ref:`torch_mlu_ops.matmul` 章节。
  - FAQ章节新增对 ``flash_attention`` 算子的说明，请参考 :ref:`FAQ` 章节。
  - 新增 ``moe_active`` 算子，详见 :ref:`torch_mlu_ops.moe_active` 章节。

* **V1.1.3**

  **更新时间**: 2024年09月06日

  **更新内容**:

  - BangTransformer更名为Torch-MLU-Ops, 定位PyTorch第三方算子库。
  - 原BangTransformer网络评测相关文档请参考《寒武纪BangTransformer用户手册》v1.1.2版本。
  - bt_ops的命名空间变化为torch_mlu_ops, 请参考 :ref:`torch_mlu_ops`。
  - torch_mlu_ops.single_query_cached_kv_attn算子支持per_token量化和per_channel量化。
  - torch_mlu_ops.fused_moe算子在非量化情况下支持EP模式，内部支持group gemm和allreduce并行。
  - 提供flash_attn_sq_mm_allreduce、matmul_allreduce、smooth_quant_matmul_allreduce通算融合算子，fused_moe支持通算融合。请参考 :ref:`torch_mlu_ops.flash_attn_sq_mm_allreduce`、
    :ref:`torch_mlu_ops.matmul_allreduce`、:ref:`torch_mlu_ops.smooth_quant_matmul_allreduce`、:ref:`torch_mlu_ops.fused_moe`。
  - torch_mlu_ops.flash_attention、torch_mlu_ops.single_query_cached_kv_attn、torch_mlu_ops.fused_rms_norm、torch_mlu_ops.fused_layer_norm支持原位输出。请参考 :ref:`torch_mlu_ops.flash_attention`、
    :ref:`torch_mlu_ops.single_query_cached_kv_attn`、:ref:`torch_mlu_ops.fused_rms_norm`、:ref:`torch_mlu_ops.fused_layer_norm`。
