TAG

アーキテクチャ

13 記事

Managed Agents のサンドボックスは再生成されます。40分走った処理が振り出しに戻る前に、進捗を外部へ逃がすチェックポイントと、副作用を二度実行しない冪等リジュームを設計します。SQLite で動く実装つき。

レート制限は秒あたりを守りますが、月末の請求は守ってくれません。広告収益から一人あたりのトークン予算を逆算し、呼び出しラッパー一か所で台帳を作り、ソフトキャップで段階的に降格させ、上位1%の消費比率で濫用を検知するまでを、動くコードとともにまとめます。

Managed Agents の自律実行中に File Search ストアが更新されると、同じ実行の中で古い根拠と新しい根拠が混ざります。MVCCに倣った実行エポックの固定で、エージェント1回分の根拠を一貫させる設計と実装をまとめました。

画像生成モデルの停止通知が届いた朝、依存が散らばっていると差し替えは半日仕事になります。Gemini 依存を一枚のポート層に閉じ込め、フォールバックと廃止期限のCI監視まで含めた個人アプリ設計を、動くコードとともに残します。

同一プロジェクトの RPM/TPM をバルク処理と対話機能が奪い合う問題を、機能タグつき計測と優先度つきトークンバケットで解消した設計と実測を記録します。429率3.2%→0.03%。

Project Spend Caps はプロジェクト全体を一度に止めます。無料ユーザーの暴走が有料ユーザーを巻き込まないよう、上限の影響範囲をティア別プロジェクトで分離し、約10分の遅延を埋めるソフト予算ゲートを実装する設計メモです。

数万件をGemini APIに流すバルク処理で、固定並行度はほぼ必ず429と取りこぼしを生みます。429のフィードバックで並行度を自動調整するAIMD方式を、有界ワーカープールとデッドレター、再開可能なチェックポイントのコード付きで本番設計します。

埋め込みモデルを新しくすると、過去に作った全ベクトルが使えなくなります。サービスを止めずに数十万件のベクトルを作り直す二重インデックス方式を、再開可能な再生成ジョブとクエリ側の抽象化層のコード付きで設計します。

個人開発で運用しているプッシュ通知後の同時アクセスを Cloudflare Durable Objects でリクエスト coalescing と SSE fan-out に分離し、API コストを 92% 削減した実測ログと設計判断の記録。

SwiftData で Gemini API レスポンスを永続化し、機内モードや低速回線でも前回の結果を再利用できる iOS アプリ向けのキャッシュ層を設計します。@Model 設計、無効化戦略、サイズ管理、移行手順までを実装ベースで整理しました。

壁紙・癒し・引き寄せ系を含む複数アプリで Gemini API を運用していると、いつの間にかキーが散らばり、コスト按分が分からなくなります。中央管理層を一枚挟む設計を、12ヶ月運用で見えた落とし穴とともに整理しました。

個人アプリで Gemini API を本番運用していると、月に数回は確実に外部要因で詰まります。サーキットブレーカーと段階的縮退をどう設計するか、実装の骨組みと運用で詰まりやすい所を所感としてまとめます。