Gemini 3 Deep Think を検証ステップに使ってコストが3倍になった話と、thinking_level で天井を作るまで

# ❌ 重い: ガイドライン全文（数千トークン）を毎回同梱していました
RULES_FULL = open("writing_guidelines_full.md").read()
 
# ✅ 軽い: 判定に必要な観点だけを箇条書きに圧縮します
RULES_COMPACT = (
    "判定観点: (1) 数値や実績の誇張がないか "
    "(2) コード例が構文として成立しているか "
    "(3) 公式仕様と矛盾する断定がないか"
)
 
def build_prompt(article_text: str) -> str:
    return f"{RULES_COMPACT}\n\n以下の記事を判定してください。\n---\n{article_text}"

import time
 
# 1日あたりの検証コスト上限（USD）。超えたら Deep Think を止めます。
DAILY_BUDGET_USD = 2.0
 
# 概算用の単価（実際の料金表に置き換えてください）。
# 推論トークンは出力側のレートで概算しています。
PRICE_PER_1K_INPUT = 0.0003
PRICE_PER_1K_OUTPUT = 0.0025
 
_spent_today = 0.0
 
def estimate_cost(usage) -> float:
    in_tok = usage.prompt_token_count or 0
    # 思考トークンと出力トークンを合算して出力レートで概算します
    out_tok = (usage.candidates_token_count or 0) + (usage.thoughts_token_count or 0)
    return (in_tok / 1000) * PRICE_PER_1K_INPUT + (out_tok / 1000) * PRICE_PER_1K_OUTPUT
 
def verify_with_guardrail(article_text: str):
    global _spent_today
    if _spent_today >= DAILY_BUDGET_USD:
        # 予算超過時は Deep Think を使わず、安価な Flash にフォールバックします
        return flash_fallback(article_text), "fallback"
 
    response = client.models.generate_content(
        model="gemini-3-deep-think",
        contents=build_prompt(article_text),
        config=types.GenerateContentConfig(
            thinking_config=types.ThinkingConfig(thinking_level="low"),
            max_output_tokens=200,
        ),
    )
    _spent_today += estimate_cost(response.usage_metadata)
    return response.text, "deep-think"
 
def flash_fallback(article_text: str):
    r = client.models.generate_content(
        model="gemini-3.5-flash",
        contents=build_prompt(article_text),
        config=types.GenerateContentConfig(max_output_tokens=200),
    )
    return r.text

import json
 
def first_pass_flash(article_text: str) -> dict:
    """Flash で一次判定し、判定と確信度(0.0-1.0)を JSON で返します。"""
    prompt = (
        build_prompt(article_text)
        + "\n\n結果を JSON で返してください。"
          '{"judge": "OK|REVISE", "confidence": 0.0-1.0}'
    )
    r = client.models.generate_content(
        model="gemini-3.5-flash",
        contents=prompt,
        config=types.GenerateContentConfig(
            response_mime_type="application/json",
            max_output_tokens=120,
        ),
    )
    return json.loads(r.text)
 
def verify_two_stage(article_text: str):
    first = first_pass_flash(article_text)
    # 確信度が高ければ Flash の判定を採用し、Deep Think は呼びません
    if first["confidence"] >= 0.8:
        return first["judge"], "flash"
    # 灰色のケースだけ Deep Think に昇格させます
    result, source = verify_with_guardrail(article_text)
    judge = "OK" if "JUDGE: OK" in result else "REVISE"
    return judge, source