Hugging Face の急上昇に、日本語を扱えるモデルが2つ入っています(11月9日時点)。
NVIDIA の Nemotron 3.5 Transcribe は文字起こし用で、日本語を含む40言語に対応し、1時間までの録音を、誰が話したか付きで書き起こせます。そのままの重みで動かす目安は H100 80GB が1枚で、FP8 と NVFP4 で軽くした重みも出ています。
Liquid AI の LFM3-1.7B は、手元で動かすエージェント向けの小さなモデルです。4bit なら約1GB に収まり、スマホやノートPCにも載ります。込み入った推論やコーディングには向かない、と公式が書いています。
#
Nemotron# #
LFM3#