Files

ModelHub XC bad5b3a07d 初始化项目，由ModelHub XC社区提供模型

Model: nri-ai/Qwen3-14B-Ja-Fin-CPT
Source: Original Platform

2026-09-12 07:42:18 +08:00

5.2 KiB

Raw Permalink Blame History

license, library_name, pipeline_tag, language, base_model, base_model_relation, tags

license

library_name

pipeline_tag

language

base_model

base_model_relation

Qwen3-14B-Ja-Fin-CPT

Qwen3-14B-Base を日本語金融コーパスで継続事前学習した、日本語金融ドメインモデル。

モデル概要

日本語金融ドメインに適応したベースモデルで、金融タスクへのファインチューニングを前提としています。

ベースモデル: Qwen3-14B-Base
学習段階: 継続事前学習（CPT）
ドメイン: 日本語金融
言語: 日本語、英語

学習

継続事前学習

Common Crawlおよびその他の公開ソースから構築した日本語金融コーパスを使用し、ドメイン分類と品質フィルタリングを適用して学習を行いました。

学習インフラ:

ハードウェア: AWS p5en.48xlarge（NVIDIA H200 Tensor Core GPU × 8）

想定される用途

ファインチューニングの基盤モデルとしての利用を想定しています。指示追従・推論能力を備えたモデルは Qwen3-14B-Ja-Fin-Thinking をご参照ください。

主な用途

金融ドメインSFTのベースモデル
金融テキストの特徴量抽出
独自の金融データによる追加事前学習

制限事項

指示チューニング未実施: 教師ありファインチューニングが行われていないため、指示への追従性が低い場合があります
ドメインの限定性: 日本語金融ドメインに最適化されており、他のドメインでの性能は異なる場合があります
言語対応: 主に日本語と英語です

ライセンス

本モデルはApache 2.0ライセンスの下で公開されています。

プライバシーポリシー

個人情報の取り扱いについては、プライバシーポリシー（English）をご参照ください。

引用

@inproceedings{okochiDomainSpecificLLM2026,
  author    = {大河内 悠磨 and Sim, Fabio Milentiansen and 岡田 智靖},
  title     = {ドメイン特化LLMの推論能力向上を目的とした合成指示データセットの構築と金融ドメインにおける評価},
  booktitle = {言語処理学会第32回年次大会 (NLP2026) },
  year      = {2026},
  month     = mar,
  address   = {Utsunomiya, Tochigi, Japan},
  publisher = {言語処理学会},
  note      = {Paper ID: C7-2},
  url       = {https://www.anlp.jp/proceedings/annual_meeting/2026/pdf_dir/C7-2.pdf}
}

@misc{okochi2026constructingsyntheticinstructiondatasets,
  title     = {Constructing Synthetic Instruction Datasets for Improving Reasoning in Domain-Specific LLMs: A Case Study in the Japanese Financial Domain},
  author    = {Yuma Okochi and Fabio Milentiansen Sim and Tomoyasu Okada},
  year      = {2026},
  eprint    = {2603.01353},
  archivePrefix = {arXiv},
  primaryClass  = {cs.LG},
  url       = {https://arxiv.org/abs/2603.01353}
}

謝辞

本モデルの開発（本研究）は、経済産業省とＮＥＤＯが実施する、国内の生成 AI の開発力強化を目的としたプロジェクト「GENIAC（Generative AI Accelerator Challenge）」の支援を受けて実施したものです。

5.2 KiB Raw Permalink Blame History Unescape Escape