TAG

運用設計

12 記事

モデルの知識カットオフが前進すると、古くなるのはモデルではなくシステム命令に書いた断定の側でした。旧カットオフと新カットオフに挟まれた行だけが補足から矛盾へ反転する理由と、その窓を機械判定する監査ツールの実行結果をまとめています。

Vertex AI から Gemini Enterprise Agent Platform への改称を受けて、自前の運用ドキュメント検索を実測しました。順位はほとんど動かず、完全一致に依存した集計層だけが静かに欠落していました。

Managed Agents のサンドボックスは再生成されます。40分走った処理が振り出しに戻る前に、進捗を外部へ逃がすチェックポイントと、副作用を二度実行しない冪等リジュームを設計します。SQLite で動く実装つき。

Batch API の「完了」は「全件成功」ではありません。個人開発で夜間バッチを回し続けるなかで見えた、行単位の結果台帳・一時失敗と恒久失敗の切り分け・選択的リトライ・恒久失敗の無限リトライ防止を、SQLite で組んだ状態機械の動くコードとともに残します。

夜間バッチが朝の対話機能に 429 を連れてくる、同一プロジェクト内の Gemini クォータ競合を解消した記録です。機能タグつき計測で原因を特定し、優先度つきトークンバケットで RPM と TPM を制御。429 率 3.2%→0.03% の実測を含みます。

ユーザーが元データを削除しても、Gemini で生成した埋め込みやキャッシュにはテキストが残り続けます。生成時に由来を記録する provenance 台帳、シンク別の削除伝播ワーカー、取りこぼしを数える検証スイープまで、削除を派生データに追随させる設計をまとめました。

プロンプト改善後に残る旧世代の生成物を、全件再生成せずに予算と優先度で計画的に作り直すバックフィル設計を解説します。作り直す価値を点数化する選定スコアラー、人手編集を守るハッシュ検知、悪化を弾く置換前ゲート、再開可能なカーソルを実装します。

制限なしAPIキーの拒否、CLIのEOL、Interactions APIへの一本化。2026年後半のGemini基盤変更は、動いていた自動処理を無言で止めます。バッチ実行の手前で失敗を検出する事前検証ゲートを、実行可能なコードとともに設計します。

Gemini API の Project Spend Caps（月額ドル上限）と、ハード上限の手前で止まるアプリ側ソフトサーキットブレーカーを二段構えにする設計。Python と sqlite による日次コスト台帳の実装コードつき。

Gemini Batch API の完了監視を 60 秒間隔のポーリングから Webhook 駆動へ移行した実作業の記録です。static/dynamic の使い分け、署名検証、実測値をまとめました。

Gemini API を組み込んだ個人プロダクトで月末に「請求額を見て青ざめる」のは、ほぼ全員が一度は通る道です。私が壁紙アプリの AI 機能と、受託案件での Gemini 導入支援で繰り返し組み込んでいる、コスト暴走を未然に防ぐためのガードレール設計を実装込みで整理しました。

Gemini API の月額費用を52,000円から8,400円まで下げた実装と運用の記録です。暗黙・明示キャッシュの使い分け、Flash/Pro の自動ルーティング、Batch API への移行、usage_metadata による実測まで、本番で動かしているコードとともに整理します。