Gemini で「このモデルは現在過負荷です」と表示されたときにできること

import google.generativeai as genai
import time
import random
 
def generate_with_retry(model, prompt, max_retries=5):
    """
    過負荷・レート制限エラー時に指数バックオフでリトライするラッパー関数。
    503 (UNAVAILABLE) と 429 (RESOURCE_EXHAUSTED) の両方に対応。
    """
    for attempt in range(max_retries):
        try:
            response = model.generate_content(prompt)
            return response  # 成功したらそのまま返す
 
        except Exception as e:
            error_str = str(e).lower()
 
            # 過負荷または レート制限エラーか判定
            is_retryable = (
                "503" in error_str or
                "unavailable" in error_str or
                "overloaded" in error_str or
                "429" in error_str or
                "resource_exhausted" in error_str or
                "quota" in error_str
            )
 
            if not is_retryable:
                # リトライ対象外のエラー（400 Invalid argument 等）はそのまま raise
                raise
 
            if attempt == max_retries - 1:
                # 最大リトライ回数に達したら諦めて raise
                print(f"最大リトライ回数 ({max_retries}回) に達しました。")
                raise
 
            # 指数バックオフ: 2^attempt 秒 + ランダムジッター（最大60秒）
            wait_seconds = min(60, (2 ** attempt) + random.uniform(0, 1))
            print(f"Attempt {attempt + 1}: {e}")
            print(f"  → {wait_seconds:.1f}秒後にリトライします...")
            time.sleep(wait_seconds)
 
# 使い方
genai.configure(api_key="YOUR_GEMINI_API_KEY")
model = genai.GenerativeModel("gemini-2.5-flash")
 
response = generate_with_retry(
    model,
    "Pythonで二分探索を実装してください。コメント付きで。"
)
print(response.text)
 
# 期待される動作:
# - 正常時: 即座にレスポンスが返る
# - 過負荷時: Attempt 1 → 待機1秒 → Attempt 2 → 待機2秒 → ... と徐々に間隔を広げてリトライ

import { GoogleGenerativeAI } from "@google/generative-ai";
 
const genai = new GoogleGenerativeAI("YOUR_GEMINI_API_KEY");
 
async function generateWithRetry(prompt, maxRetries = 5) {
  const model = genai.getGenerativeModel({ model: "gemini-2.5-flash" });
 
  for (let attempt = 0; attempt < maxRetries; attempt++) {
    try {
      const result = await model.generateContent(prompt);
      return result.response.text();
 
    } catch (error) {
      const message = error.message?.toLowerCase() ?? "";
      const isRetryable =
        message.includes("503") ||
        message.includes("unavailable") ||
        message.includes("overloaded") ||
        message.includes("429") ||
        message.includes("resource_exhausted");
 
      if (!isRetryable || attempt === maxRetries - 1) {
        throw error;
      }
 
      // 指数バックオフ + ジッター
      const waitMs = Math.min(60000, Math.pow(2, attempt) * 1000 + Math.random() * 1000);
      console.log(`Attempt ${attempt + 1} failed. Retrying in ${(waitMs / 1000).toFixed(1)}s...`);
      await new Promise((resolve) => setTimeout(resolve, waitMs));
    }
  }
}
 
// 使い方
generateWithRetry("JavaScriptで非同期処理を10行で説明してください")
  .then(console.log)
  .catch(console.error);