TAG

ストリーミング

13 記事

Gemini の TTS をストリーミングで受け取ると、音声は「ファイル」ではなく PCM の断片で届きます。チャンクごとに WAV ヘッダを付けた場合に何が起きるかを手元で測り、連結とヘッダの正しい順序を実装まで示します。

ストリーミング表示で日本語だけが静かに欠ける現象を、疑似 SSE サーバで実測して切り分けました。UTF-8 のバイト境界とイベント境界という二つの層の壊れ方、英語テストでは検出できない理由、CI に置く意地悪なサーバまで、再現手順つきで整理しています。

Expo と Gemini API で AI チャットアプリを作り、両ストアの審査を通すまでの実装記録です。ストリーミングの実測レイテンシ、画像入力の落とし穴、コスト上限の設計、リリース前チェックリストまでまとめました。

モバイル回線で Gemini のストリーミングが切れたとき、全部引き直すか続きから書かせるかで費用は大きく変わります。思考トークンの二重発生、受信トークン数で置く分岐条件、文末チェックポイント、継ぎ目に出る3つの壊れ方まで設計としてまとめました。

responseSchema でストリーミングすると、JSONが閉じるまで画面は真っ白なまま待たされます。不完全なJSONを安全に補完して読む部分パースと、一度出した値を後退させない逆流防止を組み、最初のフィールドまでの体感を実測とともに縮める設計を残します。

gemini-3.1-flash-tts-preview が streamGenerateContent に対応しました。最初の音が出るまで実測1.8秒の配信経路を、PCM境界処理・文単位の再開・preview停止フォールバックまで含めて設計します。

平均TTFTは速いのに、一定割合のユーザーだけ応答が固まる — これはテールレイテンシ（p95/p99）の問題です。計測の取り方からモデルルーティング・ストリーミング予算・キャッシュ会計・リトライ設計まで、本番で効いた防衛策をコード付きで共有します。

Node と Express で書いた Gemini バックエンドが、依存関係とビルド時間で重くなっていませんか。Bun と Hono に載せ替えて、ストリーミング・レート制限・コスト上限・セルフホストまでを一つの軽い実行環境にまとめた実装と判断軸を、現場で踏んだ落とし穴とあわせて整理します。

Gemini API を呼ぶ UI を毎回本物の API で確認していると、1 日に数百回の重複呼び出しが発生します。msw でフィクスチャを再生する仕組みを 6 サイトに導入したら、月の Gemini API 課金が想像以上に静かになりました。記録/再生の実装と運用ポリシーをまとめています。

iOS アプリで Gemini API のストリーミング応答を受け取っている最中にアプリを一旦バックグラウンドに送って戻ると、接続が切れて続きが返ってこない――そんな現象に遭遇したときの原因切り分けと、URLSession 周りの最小修正をまとめます。

チャットUIの『停止』ボタンを押したのに Gemini API のストリーミングが裏で動き続けている — そんな見落としを防ぐための、AbortController と asyncio.CancelledError を使った安全な中止処理の実装方法をまとめます。

公式 SDK が存在しない Rust から Gemini API を使うための入門記事です。reqwest クレートでのテキスト生成、システムインストラクション、ストリーミングレスポンス、画像を使ったマルチモーダル入力、マルチターン対話までコード例とともに実装します。