関連タグ:
⬡ Gemini 応用/2026-07-12上級
待ち時間を守りながら難問だけ深く考えさせる — Gemini の thinking_level をリクエストごとに振り分ける
アプリの AI 機能を全リクエスト high で回すと待ち時間と料金が膨らみ、全部 low にすると難問で精度が落ちます。Gemini 3.x の thinking_level をリクエストの難易度で振り分け、モバイルの待ち時間予算を守りながら深い推論を必要な場面だけに回すルーターを、実測値と動くコードで設計します。
◈ Gemini API/2026-05-24上級
Gemini API のリクエスト Hedging で p99 レイテンシのテールを抑える設計
Gemini API のテールレイテンシ問題を、二重リクエスト方式の Hedging で攻略する設計記録です。個人開発の本番アプリ運用で得た p50/p95/p99 の実数値と、課金増を 18% に抑えた節度ある実装パターンを公開します。
◈ Gemini API/2026-04-12上級
Gemini API 本番パフォーマンスチューニング — レイテンシ・スループット・コストの3軸最適化戦略
Gemini API の本番環境でレイテンシ・スループット・コストを同時に最適化する実装パターンを解説。Flex/Priority推論・Context Caching・モデルルーティング・非同期バッチ処理の統合戦略を、動作するコードとベンチマーク結果で示します。