TAG

cost

4 記事

Gemini API 本番パフォーマンスチューニング — レイテンシ・スループット・コストの3軸最適化戦略

Gemini API の本番環境でレイテンシ・スループット・コストを同時に最適化する実装パターンを解説。Flex/Priority推論・Context Caching・モデルルーティング・非同期バッチ処理の統合戦略を、動作するコードとベンチマーク結果で示します。

⬡ Gemini 応用/2026-07-12上級

待ち時間を守りながら難問だけ深く考えさせる — Gemini の thinking_level をリクエストごとに振り分ける

アプリの AI 機能を全リクエスト high で回すと待ち時間と料金が膨らみ、全部 low にすると難問で精度が落ちます。Gemini 3.x の thinking_level をリクエストの難易度で振り分け、モバイルの待ち時間予算を守りながら深い推論を必要な場面だけに回すルーターを、実測値と動くコードで設計します。

◈ Gemini API/2026-06-14上級

Gemini 3 Deep Think を検証ステップに使ってコストが3倍になった話と、thinking_level で天井を作るまで

API 経由で開放された Gemini 3 Deep Think を出力検証に組み込んだところ、月のコストが想定の約3倍に膨らみました。thinking_level とコストガードレールで上限を作り、Flash との二段構えに落ち着くまでの実装記録です。

◈ Gemini API/2026-03-27上級

Gemini 3.1 Flash 高速推論APIの実装テクニック — ストリーミング・Function Calling・バッチ処理の最適化

Gemini 3.1 Flash の内部アーキテクチャと高速推論の仕組みを技術的に解説。ストリーミング・Function Calling・バッチ処理の実装パターン、Pro モデルとのコスト・性能比較に基づくモデル選定戦略まで、本番運用に必須の実践テクニックを習得できます。