TAG

production

108 記事

Gemini API の出力を完全自動運用するのが怖い、でも全件を人間が見るのは現実的ではありません。そんな現場のための Human-in-the-Loop（HITL）アーキテクチャを、信頼度ゲート・レビューキュー・フィードバックループの3層に分けて本番実装の粒度で解説します。

昨日まで動いていた Gemini API の画像/動画認識が、サーバー再起動後に急に動かなくなることがあります。原因は File API の48時間 TTL でした。検出方法と、TTL を前提にしたアプリ設計の組み立て方を実例で解説します。

Gemini Computer Use のブラウザ自動化を本番で運用すると、要素消失・モーダル割り込み・ネットワーク遅延で頻繁に失敗します。失敗を「自己修復」させる回復戦略を、検出・分類・リトライ・人間介入のレイヤーに分けて、Pythonの動くコードで設計します。

gemini-2.5-pro-latest を本番ワークロードで使うとき、性能だけでなく可用性・コスト・互換性まで含めた設計判断が必要です。私が複数のサービスで運用してきた経験から、押さえるべき5つの設計ポイントを実例ベースで整理しました。

Gemini API を本番投入したあと、ログだけでは追えなくなったコスト・レイテンシ・失敗の連鎖を OpenTelemetry の分散トレーシングで丸ごと可視化する方法を、Python・Node.js の実装からセマンティック規約、Grafana/Datadog 連携まで具体的に解説します。

Gemini 3 Pro と 2.5 Flash を組み合わせて自己批判するエージェントを構築する設計と本番運用ノウハウ。Reflection / Critic-Refiner パターンの実装、コスト上限、過剰修正の防ぎ方まで踏み込んで解説します。

Gemini のモデル移行を「デプロイしてみないと分からない」から卒業するためのシャドウトラフィック設計。本番入力をコピーして新モデルに流し、出力差分を定量評価してから段階的にカットオーバーする実装パターンを、Python と Cloud Tasks のコード付きで解説します。

Gemini API の Safety Settings だけに依存すると、正当な質問が誤ブロックされたり、プロンプトを工夫した悪意のある入力が通ったりします。本番で耐えられる 4 層モデレーション設計を解説します。

Gemini API を本番運用するチーム向けに、Langfuse を使った LLM オブザーバビリティの実装を体系的に解説します。トレース設計、コスト可視化、プロダクショントレースでの LLM-as-Judge 評価、PII マスキング、サンプリングまで動作コード付きで網羅します。

Gemini API を本番運用するなら避けて通れない Prompt Injection 攻撃に対し、入力サニタイズ・指示強化・構造化出力・モデレーター LLM の4層防御を動くコードで設計する実戦ガイドです。

Gemini API の本番運用で発生する 429・503・タイムアウト障害を乗り切るための耐障害性設計を実装レベルで解説します。Circuit Breaker、Bulkhead、フォールバックモデル切替、Graceful Degradation までコード付きで網羅します。

Gemini 2.5 / 3 の思考サマリー（thought summaries）を Next.js の UI に取り込み、AI の判断根拠をユーザーに伝える実装を解説します。SDK 設定・SSE・React の折り畳み表示・UX 設計・観測までを通しで扱う本番向けガイドです。