無料ライブキャプションサイトについて
言語日本語

SOV-Transcribe-1:対応言語・Mac対応・精度とライブキャプションの制限

Salesforceのオープンウェイト音声認識モデルSOV-Transcribe-1を解説。対応する7言語(日本語非対応)、80GB以上のGPU要件、クリーン音声と実通話の精度差、Macやリアルタイム字幕での制限をまとめました。

要点

  • SalesforceのApache 2.0音声認識モデルで、Whisper large-v3とGemma 4 26B A4B MoE(計26.6B)を結合しています。
  • 欧州7言語(英語、フランス語、ドイツ語、スペイン語、イタリア語、ポルトガル語、オランダ語)に対応し、最大30分の非ストリーミング一括処理を行います。
  • クリーンなArtificial Analysisのオープンウェイト部門では、2.28%のWERで首位を獲得しています。
  • 非量子化BF16モデルの実行には80GB以上のNVIDIA GPU(約53GBのVRAM)が必要で、MacやAppleシリコンには公式非対応です。

SalesforceのMissionforce Sovereign AIチームがApache 2.0ライセンスのもとでHugging Face上のSOV-Transcribe-1を公開すると、オープンウェイトの音声認識(Speech-to-Text)モデルの中で瞬く間に1位の座を獲得しました。会議の文字起こしやローカルの音声認識ワークフロー向けにモデルのウェイトをダウンロードする前に、押さえておくべき4つのポイントを解説します。

1つ目に、SOV-Transcribe-1は小規模な単体の音響モデルではありません。オーディオエンコーダの出力をlinear-GELUプロジェクタ経由でGoogleのGemma 4 26B A4B Mixture-of-Experts(MoE)デコーダに入力する、音声拡張言語モデルです。総パラメータ数は26.6B(ビリオン)で、オーディオエンコーダを含めて1トークンあたり4.6Bのアクティブパラメータが稼働します。

2つ目に、対応言語は英語、フランス語、ドイツ語、スペイン語、イタリア語、ポルトガル語、オランダ語の7言語のみです。中国語、日本語、韓国語、アラビア語などが含まれる通話には対応していません。

3つ目に、このモデルは最大30分までの録音データでテストされた、非ストリーミングのバッチ処理専用モデルです。ライブ音声ストリームではなく録音済みの音声チャンクを処理する仕組みのため、ZoomやTeamsの通話中にリアルタイムで流れるライブキャプションには使用できません。

4つ目に、公式ドキュメントで案内されているのは、ハイエンドなNVIDIA GPUを搭載したLinuxシステム上でHugging Face TransformersまたはvLLMプラグインを動かす構成のみです。Salesforceによる一般公開のホスト型APIはなく、Mac上でローカル実行するための公式ガイドも用意されていません。

このページの内容

クリーンなリーダーボードの数値と実際の通話・会議音声の比較

標準的な音声認識リーダーボードだけを見ると、上位のオープンウェイトモデルはどれもほぼ同等の性能に見えます。Artificial Analysisのワードエラー率(AA-WER)インデックスにおいて、SOV-Transcribe-1は2.28%(公開ボード上の表示は2.3%)を記録し、オープンウェイトモデルの中で1位、プロプライエタリおよびオープンな全44システム中で総合7位にランクインしています。

このクリーンなベンチマークでは、上位3つのオープンモデルが0.5パーセントポイント以内の僅差にひしめき合っています。MistralのVoxtral Smallは、SOV-Transcribe-1のトークンあたりアクティブ計算量の5倍以上にあたる約24Bのパラメータを稼働させて2.77%を記録し、NVIDIA Nemotron 3.5 Transcribeは同規模の4Bアクティブパラメータで2.81%を記録しています。Artificial Analysisの個別サブセットで見ると、SOV-Transcribe-1のWERはEarnings22で4.1%(Voxtral Smallは4.8%)、VoxPopuli議会演説で1.5%(同1.8%)、AA-AgentTalk音声エージェント会話で1.8%となっています。

しかし、クリーンな評価セットから、実際の決算説明会の録音の中でもノイズが多くハルシネーション(幻覚)が起きやすい箇所を抽出して人手でアノテーションしたベンチマーク「HALAS」に移ると、状況は一変します。

モデル アクティブ / 総パラメータ数 クリーンAA-WERインデックス ノイズの多い実通話(HALAS WER) 対応言語
Salesforce SOV-Transcribe-1 4.6B / 26.6B 2.28% (2.3%) 25.69% 7 (EN, FR, DE, ES, IT, PT, NL)
Mistral Voxtral Small ~24B / 24B 2.77% (2.8%) 27.35% 50+
NVIDIA Nemotron 3.5 Transcribe ~4B / 30B 2.81% (2.8%) 31.59% 40
Alibaba Qwen3-ASR 1.7B 1.7B / 1.7B N/A 26.01% 多言語対応
IBM Granite Speech 5.0 2B 2B / 2B N/A 34.51% 英語中心

HALASでは、SOV-Transcribe-1のワードエラー率は11倍以上の25.69%に跳ね上がります。数値だけ見ると厳しく思えますが、まったく同じ音声に対する他のモデルの結果を見ると見方が変わります。Qwen3-ASR 1.7Bは26.01%、Voxtral Smallは27.35%、Nemotron 3.5 Transcribeは31.59%、Granite Speech 5.0 2Bは34.51%まで悪化します。クリーンなベンチマークでは各モデルが0.5ポイントの差に収まっていたのに対し、実際の電話会議の音声では上位オープンモデル間に8.8ポイントもの差が開きます。MistralとNVIDIAがより幅広い多言語ワークロードや話者分離(ダイアライゼーション)をどのように処理しているかについては、Voxtral 3とNemotron 3.5の比較で詳しく解説しています。

一般的なワードエラー率だけでなく、会話の大意以上に正確なエンティティの書き起こしが求められる場面でも、SOV-Transcribe-1は高い精度を維持します。読み上げられた電話番号、メールアドレス、URLを正確に捉えられるかをテストするVoiceCodeBenchでは、エンティティの93.4%を復元し、タスク完全成功率76.3%を達成して、オープンモデルで1位、全23システム中2位となりました。また、14種類の英語アクセントを対象としたAppTekのコールセンター対話ベンチマークでは、平均8.21%のWERを記録し、インド、シンガポール、スコットランド、イギリス、オーストラリアの英語を含む8つのアクセントで最も低いエラー率を達成しています。

コンテキストバイアスとプロンプトによる固有名詞の補正

SOV-Transcribe-1はデコーダにGemma 4言語モデルを使用しているため、生の音声を入力して結果任せにするだけではありません。ユーザープロンプトで自然言語の指示を渡すことで、フォーマットの制御、フィラー(言い淀み)の除去、読み上げられた数値の算用数字への正規化(twenty twoではなく22)、あるいは特定の語彙へのデコーダのバイアス付けが可能です。

実際の会議では、役員の名前、社内プロジェクトのコードネーム、製品のSKUといった固有名詞が、音声認識モデルで最も誤変換されやすい対象です。企業名や人名が密集した15秒の音声クリップからなるContextual Earnings-22ベンチマークにおいて、プロンプトによるコンテキストを一切与えない場合、SOV-Transcribe-1のキーワードF1スコアは71.9にとどまります。

プロンプトにその15秒のクリップに対応する正確なキーワードを渡すと、キーワードF1は96.8まで跳ね上がります。さらに重要な点として、実際のワークフローでは、どの15秒間にどの固有名詞が登場するかを事前に把握できることはほとんどありません。そこで、1時間の決算説明会全体に登場するキーワードリストを丸ごとプロンプトに投入した場合(つまりリスト内の大半の語句がそのクリップには登場しないダミーとなる状態)でも、SOV-Transcribe-1は発言されていない名前をハルシネーションとして出力することなく、94.0のキーワードF1を維持します。

実際の通話音声でこのグローバルなキーワードバイアスを活用するには、ユーザープロンプトに以下の構造を渡します。

This audio may contain the following words or phrases (some may not be present in the clip): {keyword_list}. Transcribe the English audio into text, ensuring all punctuation marks are included.

デフォルトの逐語的な出力ではなく、「um」や「uh」などのフィラーを取り除いたクリーンな文字起こしが必要な場合は、プロンプトを次のように切り替えます。

Transcribe the audio, omitting fillers and accidental repetitions while preserving the remaining words. Use punctuation and capitalization. Output only the transcript.

GPU要件、vLLMのセットアップ、およびMac対応状況

SOV-Transcribe-1を一般的なノートPCで動かせないハードウェア上の理由がここにあります。各トークンでアクティブになるパラメータは4.6Bのみですが、GPUのメモリ上には全26.6Bのパラメータを保持する必要があります。モデルは16個のBF16 safetensorsシャードとして提供され、ディスク上の合計サイズは約53GBにのぼり、数値的安定性のためにMoEルーターはFP32で動作します。

そのため実際には、シングルGPUでのサービングにはNVIDIA A100 80GB、H100 80GB、あるいはSalesforceが公式ローンチベンチマークで使用した96GBのRTX PRO 6000 Blackwellなど、80GBまたは96GBのワークステーション/データセンター向けカードが必要です。RTX PRO 6000を1基使用し、Salesforceの投機的デコーディング(Speculative Decoding)用ドラフトモデル(一度に15トークンを提案し、単一リクエストの速度を2x〜3xに高めるSOV-Transcribe-1-DFlash)と組み合わせた場合、1秒あたり最大1,039秒分の音声を処理し、30秒のクリップを0.22秒で返します。

自前のLinuxサーバーにデプロイする場合は、モデルカードに記載されている3つの設定上の落とし穴に注意が必要です。

  • **プラグインのバージョン固定:**vLLMおよびTransformersのネイティブサポートは現在アップストリームへのマージ作業中です。現時点では、リポジトリからvllm_plugin/ディレクトリをインストールするか(vLLM 0.32.0に固定されます)、trust_remote_code=Trueを指定してtransformers>=5.19,<5.23を実行する必要があります(セキュリティポリシーでリモートコードがブロックされている場合は、モデルカードにあるスタンドアロンのtranscribe_hf関数を使用します)。
  • 10分での音声切り捨て上限:vllm serve salesforce-sovereign-intelligence/SOV-Transcribe-1 --max-model-len 32768でサーバーを起動すると、/v1/audio/transcriptionsエンドポイントはデフォルトで600秒を超える音声を切り捨てます。テスト済みの上限である30分まで文字起こしを行うには、サーバー起動前にVLLM_MAX_AUDIO_DECODE_DURATION_S=1800をエクスポートしておく必要があります。
  • **DFlashドラフトモデル使用時のCUDA OOM:**投機的デコーディングのためにSOV-Transcribe-1-DFlashをアタッチする場合、vLLMのデフォルト設定であるmax_num_seqs=1024のままではVRAMの上限を超えてクラッシュします。max_num_seqsを64まで下げてください。

MacおよびAppleシリコンでの動作は未確認

現時点では、Appleシリコンへの公式サポートはなく、MLXへの移植版、Core MLウェイト、llama.cpp向けの公式GGUF量子化モデルも存在しません。非量子化のウェイトだけで53GBを占めるため、標準的な16GB、24GB、または36GBのMacBook ProではBF16のままモデルを読み込むことは不可能です。64GB〜128GBのユニファイドメモリを搭載したMac StudioやMacBook Proであれば、理論上はウェイトを保持するのに十分なRAMがありますが、アップストリームのTransformersやMLXがこのオーディオアーキテクチャのネイティブサポートと4-bit量子化を追加するまでは、WhisperとGemma 4 MoEを組み合わせたカスタムプロジェクションパイプラインをmacOS上でローカル実行できるかは未確認の状態です。

既知の制限事項とライブキャプション向けの代替ツール

80GBのNVIDIAサーバーを用意できる場合でも、SOV-Transcribe-1には運用上考慮すべきいくつかの制限事項があります。

1つ目に、標準状態では話者分離ラベル(Speaker 1、Speaker 2)を出力しないため、30分を超える録音データはモデルに送信する前に無音区間を基準に分割しておく必要があります。

2つ目に、思考モードを明示的にオフ(enable_thinking=False)にし、max_new_tokens=8192を指定したうえで、グリーディデコーディング(temperature=0.0、do_sample=False)を実行する必要があります。グリーディデコーディングを使用していても、Gemma 4デコーダがまれに反復ループに陥り、8,192トークンの上限に達するまで短いフレーズを繰り返すことがあります。本番のパイプラインでは、末尾の繰り返された文字列を除去するために、後処理として正規表現やスクリプトによるパス(Qwen3-ASRツールキットのクリーンアップスクリプトのような処理)を組み込む必要があります。

最後に、SOV-Transcribe-1はバッチ処理専用でありデータセンター級のVRAMを必要とするため、会議中に画面上でライブキャプションや翻訳字幕を表示したい場合には適していません。MacやPCで今すぐ使えるキャプションが必要な場合は、ワークフローに応じて3つの実用的な選択肢があります。

Appleシリコン搭載のMacでシステム音声に対する基本的な英語キャプションだけが必要な場合は、「システム設定」からmacOS標準の「ライブキャプション」をオンにしてください。文字起こしの書き出しや他言語の翻訳はできませんが、完全に無料で利用できます。リアルタイムのストリーミングが不要で、録音済みの音声ファイルをMac上でオフライン文字起こしするだけであれば、ローカルのWhisperモデルやParakeetモデルを快適に動かせるMacWhisperが適しています(基本モデルは無料枠で利用でき、上位モデル向けに買い切りのProライセンスが用意されています)。

会議ボットを招待したり80GBのGPUをレンタルしたりすることなく、Zoom、Teams、またはブラウザでの通話中にリアルタイムのライブキャプション、ライブ2言語翻訳、文字起こしの保存が必要な場合は、Vocenaを活用してください。アクティブな会議ウインドウの上に、数十言語に対応したデスクトップキャプションと翻訳を即座に表示するために開発されたツールです。Vocenaの基本的なライブキャプション機能は無料で利用でき、有料プランでは翻訳時間の拡張や文字起こし全文の書き出しが解放されます。macOS向けのデスクトップツールの詳細な比較については、Mac向けライブキャプションアプリの比較を参照してください。

出典と確認