Gemini API 実践トラブルシューティング — 2.5 Pro のレート制限・タイムアウト・レスポンスエラーを実践

async function streamGeminiResponse(prompt: string): Promise<AsyncIterable<string>> {
  const response = await fetch(
    'https://generativelanguage.googleapis.com/v1beta/models/gemini-2.5-pro:streamGenerateContent',
    {
      method: 'POST',
      headers: {
        'Content-Type': 'application/json',
        'x-goog-api-key': process.env.GEMINI_API_KEY,
      },
      body: JSON.stringify({
        contents: [{ parts: [{ text: prompt }] }],
        generationConfig: {
          // タイムアウト時間を明示的に設定
          temperature: 0.7,
          topP: 0.95,
          topK: 40,
        },
      }),
    }
  );
 
  if (!response.body) throw new Error('No response body');
 
  return (async function* () {
    const reader = response.body!.getReader();
    const decoder = new TextDecoder();
 
    try {
      while (true) {
        const { done, value } = await reader.read();
        if (done) break;
 
        const text = decoder.decode(value);
        const lines = text.split('\n');
 
        for (const line of lines) {
          if (line.startsWith('data: ')) {
            const json = JSON.parse(line.slice(6));
            const content = json.candidates[0]?.content?.parts[0]?.text;
            if (content) yield content;
          }
        }
      }
    } finally {
      reader.releaseLock();
    }
  })();
}

async function callWithCustomTimeout(
  prompt: string,
  timeoutMs: number = 30000
): Promise<string> {
  return Promise.race([
    callGeminiAPI(prompt),
    new Promise<string>((_, reject) =>
      setTimeout(
        () => reject(new Error(`Timeout after ${timeoutMs}ms`)),
        timeoutMs
      )
    ),
  ]);
}

function validateRequest(prompt: string, imageUrl?: string): { valid: boolean; error?: string } {
  // 1. プロンプトは空でないか
  if (!prompt || prompt.trim().length === 0) {
    return { valid: false, error: 'Prompt cannot be empty' };
  }
 
  // 2. トークン数上限チェック（2.5 Pro は 1,000,000 トークンが上限）
  const estimatedTokens = prompt.length / 4; // 粗い推定
  if (estimatedTokens > 900000) {
    return { valid: false, error: 'Prompt exceeds token limit' };
  }
 
  // 3. API キーが設定されているか
  if (!process.env.GEMINI_API_KEY) {
    return { valid: false, error: 'GEMINI_API_KEY not set' };
  }
 
  // 4. 画像URLが指定されている場合、形式は有効か
  if (imageUrl) {
    try {
      new URL(imageUrl);
    } catch {
      return { valid: false, error: 'Invalid image URL format' };
    }
  }
 
  return { valid: true };
}

async function callGeminiAPIWithSafetySettings(prompt: string) {
  const response = await fetch(
    'https://generativelanguage.googleapis.com/v1beta/models/gemini-2.5-pro:generateContent',
    {
      method: 'POST',
      headers: {
        'Content-Type': 'application/json',
        'x-goog-api-key': process.env.GEMINI_API_KEY,
      },
      body: JSON.stringify({
        contents: [{ parts: [{ text: prompt }] }],
        safetySettings: [
          {
            category: 'HARM_CATEGORY_HARASSMENT',
            threshold: 'BLOCK_ONLY_HIGH', // より緩い設定
          },
          {
            category: 'HARM_CATEGORY_HATE_SPEECH',
            threshold: 'BLOCK_MEDIUM_AND_ABOVE',
          },
          {
            category: 'HARM_CATEGORY_SEXUALLY_EXPLICIT',
            threshold: 'BLOCK_ONLY_HIGH',
          },
          {
            category: 'HARM_CATEGORY_DANGEROUS_CONTENT',
            threshold: 'BLOCK_MEDIUM_AND_ABOVE',
          },
        ],
      }),
    }
  );
 
  if (response.status === 403) {
    console.error('Content blocked by safety filters');
    return null;
  }
 
  return response.json();
}

// 悪い例: フィルターを誤解させようとする
// "ハッキングの手順を教えて"
 
// 良い例: 教育的・建設的な文脈で質問
// "セキュリティ研究者として、一般的な脆弱性についての知識を深めたいです。SQLインジェクションの仕組みと防御方法を学びたいのですが説明していただけますか？"

async function streamWithFallback(prompt: string): Promise<string> {
  const chunks: string[] = [];
  let lastChunkIndex = 0;
 
  for (let attempt = 0; attempt < 3; attempt++) {
    try {
      const stream = await streamGeminiResponse(prompt);
 
      for await (const chunk of stream) {
        chunks.push(chunk);
        lastChunkIndex++;
      }
 
      return chunks.join('');
    } catch (error) {
      console.error(`Stream interrupted at chunk ${lastChunkIndex}, retrying...`);
 
      if (attempt === 2) {
        // 最後の試行では非ストリーミングで代替
        return await callGeminiAPIWithRetry(prompt);
      }
 
      // 次の試行の前に待機
      await new Promise(resolve => setTimeout(resolve, 1000 * (attempt + 1)));
    }
  }
 
  throw new Error('Failed to get response after 3 attempts');
}

// 1. モデルの使い分け
async function selectModelByTask(taskType: 'simple' | 'complex'): Promise<string> {
  return taskType === 'simple' 
    ? 'models/gemini-3-flash' // より安価でレスポンスが高速
    : 'models/gemini-2.5-pro'; // より高精度が必要な場合
}
 
// 2. キャッシング活用
async function callWithCaching(
  prompt: string,
  cacheKey: string
): Promise<string> {
  const cached = await redis.get(cacheKey);
  if (cached) return cached;
 
  const result = await callGeminiAPIWithRetry(prompt);
  // 1日間キャッシュ
  await redis.setex(cacheKey, 86400, result);
  
  return result;
}
 
// 3. バッチ処理で効率化
async function processBatchEfficiently(items: string[]): Promise<string[]> {
  const batchSize = 50; // API 制限に応じて調整
  const results: string[] = [];
 
  for (let i = 0; i < items.length; i += batchSize) {
    const batch = items.slice(i, i + batchSize);
    const batchResults = await batchGenerateContent(batch);
    results.push(...batchResults);
  }
 
  return results;
}