Gemini の生成は通ったのに公開が落ちた朝 — 高価な出力を取りこぼさない『生成アウトボックス』の設計
生成は成功したのに、公開処理の直前でプロセスが落ちる。すると高価な出力が消え、もう一度同じ生成に課金することになります。生成結果を先に永続化し、公開を冪等な後続処理に分離する『生成アウトボックス』の実装と、6月の障害下での運用記録をまとめました。
Gemini API の多段パイプラインに『残り時間予算』を伝播させる設計 — 4 秒 SLA を守りながら品質を段階的に落とす実装メモ
個人開発のヘルプ検索機能で多発した DEADLINE_EXCEEDED を、リクエスト単位の締め切り予算を埋め込み・検索・生成の各段に伝播させる設計で解消した記録です。残り時間に応じて maxOutputTokens を縮め、フォールバック予算を確保する実装を TypeScript でまとめています。
Gemini API の SLO と Error Budget を個人開発で運用する設計 — 4 サイトの可用性を Burn Rate 監視で守る
Gemini API を 4 サイトの本番運用に組み込んできた立場から、個人開発でも実装できる SLO と Error Budget の運用設計をまとめました。Cloudflare Workers と KV を使った Burn Rate 計算、Multi-Window アラート、エラー予算消費時の機能凍結ルールを動くコード付きで共有します。
Gemini API のセマンティックキャッシュ設計 — 埋め込みベース回答キャッシュで API コストを実用的に下げる
Gemini Embedding を使ったセマンティックキャッシュの設計と実装。完全一致キャッシュが効かない自由文プロンプトに対して、類似度しきい値・バージョン付きキー・TTL を組み合わせ、ヒット率と品質の両立を目指す実装パターンを Python と Cloudflare Vectorize のコード付きで解説します。
Gemini API のリクエスト Hedging で p99 レイテンシのテールを抑える設計
Gemini API のテールレイテンシ問題を、二重リクエスト方式の Hedging で攻略する設計記録です。個人開発の本番アプリ運用で得た p50/p95/p99 の実数値と、課金増を 18% に抑えた節度ある実装パターンを公開します。
Gemini API × Sentry でLLMエラー追跡とプロンプト失敗を観測する本番運用パイプライン
Sentry と Gemini API を組み合わせ、プロンプトの破綻や安全フィルタ発火、トークン超過といった LLM 特有の失敗を本番で観測するパイプラインを構築します。クライアントラッパー、成功に見える失敗を捕捉するインスペクタ、PII を守る before_send まで実装します。
Gemini API のストリーミングが本番で「途中で切れる」とき、私が試している原因切り分けの順序
Gemini API のストリーミング応答が本番で途中で切れる症状に対して、ネットワーク・SDK・サーバー側のどこから疑うべきかの順序を整理しました。まず確かめたい3つの事実、切り分けの記録テンプレート、切断を監視シグナルとして使う考え方まで共有します。
Gemini 2.0 Flash の廃止スケジュールに個人開発を振り回されないための運用設計 — 5 月時点のリスク分散ノート
Gemini 2.0 Flash の廃止に向けて個人開発の本番ジョブを設計し直した運用ノート。プロバイダ抽象・新旧モデルの差分バッチ・フォールバック率の計測・コスト試算、そして廃止日を過ぎた 8 月時点の答え合わせまでを実測値つきで残します。
Gemini API の冪等性キー設計 — 6サイト並行運用でリトライによる重複生成を防いだ実装パターン
個人で6サイトを並行運用してきた中で、Gemini API のリトライ嵐が原因の重複生成に悩まされました。SHA-256 ハッシュと Cloudflare Workers KV を組み合わせた冪等性キー設計の実装パターンと、5ヶ月分の運用知見をまとめました。
Gemini API の Recitation block が発火する条件と、応答が消えないためのプロンプト・ポストプロセス設計
Gemini API でリサーチや要約系のエージェントを長時間動かしていると、ある日突然 finishReason: 'RECITATION' が連発し始め、応答本文が空のままセッションが切れる症状に遭遇します。著作権保護のかかった長文の逐語引用と判定された時の安全機構ですが、回避するためのプロンプト設計とポストプロセスを、6サイトの自動投稿パイプラインで実装した内容ごと共有します。
Gemini APIでRAG評価フレームワークを構築する：RAGAS・LLM-as-Judge・カスタム指標の統合本番実装マスタークラス
RAGAS・LLM-as-Judge・カスタム評価指標を組み合わせてGemini APIベースのRAGシステムを定量評価するフレームワークの完全実装ガイド。CI/CD組み込みと本番モニタリングまで解説します。
Gemini 2.5 Pro 本番運用で学んだ落とし穴とその回避策
Gemini 2.5 Pro を本番環境で運用して気づいた落とし穴を体系的にまとめました。レート制限の設計・Thinking モードのコスト制御・長いコンテキストの品質管理・精度低下の診断まで、実装例とともに解説します。