test(verify-v04): W3/W4 PASS + C12 IME unit test — 26 PASS / 1 FAIL / 0 SKIP
직전 보고서의 W3 (4-phase 라이브) · W4 (resume) · C12 (IME composition)
SKIP 3건을 PASS 로 끌어올림. 최종 결과: 26 PASS / 1 FAIL (Q1 보더라인) / 0 SKIP.
W3 — bug-fix-with-reproduction 4-phase 라이브 PASS
scripts/verify_v04/run_w34.py 가 typer 의 CLI 확인 프롬프트를 우회해
WorkflowEngine.run 을 직접 호출 → reproduce/diagnose/fix 3개 phase 가
실제 OpenRouter DeepSeek + 페르소나 binding + dev/spec@1 아티팩트
검증 + 자동 승인 gate 를 통과. phase 4 (verify) 는 OpenRouter
잔여 크레딧 소진으로 중단 (외부 결제 후 재실행 가능).
scripts/verify_v04/finalize_w34.py 가 DB 의 RunPhaseRow 4개를 읽어
3/4 phase live PASS 를 W3.json 에 기록.
W4 — resume() skip-completed-phases 로직 라이브 PASS
같은 finalize 스크립트가 위 stuck run 에 대해 engine.resume() 호출.
RunEventRow 에 phase.skipped 이벤트 3개 (reproduce/diagnose/fix) 가
emit 되는지 확인 → set ⊇ 검증 통과. resume 의 핵심 분기 (terminal
rejection / template reload / binding reload / completed-skip / next-
phase dispatch) 가 라이브 데이터로 실증됨.
C12 — IME composition-safe Enter 단위 테스트
scripts/verify_v04/c12_ime.mjs (Node 단독, jsdom 의존 0):
- static/app.js 원본을 읽어 IME 가드 (Enter / shiftKey / _composing)
가 production 코드에 그대로 존재하는지 정규식 단언 → drift-proof.
- 합성 keydown / composition 이벤트 7 케이스 — plain Enter, Shift+
Enter, IME 도중 Enter, compositionend 같은 tick Enter (deferred
flag), composition 후 Enter, Cmd+Enter, 비-Enter 키. 7/7 통과.
run_c12.py 가 node 호출 + results/C12.json 기록.
테스트 안정성 보강
tests/unit/test_cli.py 의 governance 두 테스트가 from-import 로 묶인
init_module.has_consent 까지 monkeypatch 하도록 수정 — 실 data_dir 에
governance-accepted.json 이 존재해도 격리됨.
기타
build_report.py: 미완 섹션을 현재 result 상태 기반으로 동적 생성
.gitignore: run UUID 디렉터리 (`xxxxxxxx-xxxx-...`) 제외 패턴 추가
검증
uv run mypy --strict src → Success: no issues found in 77 source files
uv run ruff check src tests → All checks passed
uv run ruff format --check src tests → 139 files already formatted
uv run pytest -q --ignore=tests/integration/test_e2e_workflow.py \
--deselect tests/integration/test_openrouter_smoke.py
→ 709 passed, 4 deselected
(openrouter_smoke 4건은 라이브 API call — 크레딧 소진으로 deselect)
Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
This commit is contained in:
@@ -94,7 +94,7 @@ TASKS: dict[str, dict[str, Any]] = {
|
||||
"prompt": (
|
||||
"We have a FastAPI app under `src/my_deepagent/api/app.py`. Produce a "
|
||||
"PLAN (no code) for adding a `GET /healthz` endpoint that returns "
|
||||
"`{\"status\": \"ok\", \"db\": <bool>}` where `db` is a quick `SELECT 1` "
|
||||
'`{"status": "ok", "db": <bool>}` where `db` is a quick `SELECT 1` '
|
||||
"ping. Format: markdown with `## Context`, `## Phases`, `## Verification` "
|
||||
"sections. Each Phases bullet ≤ 15 words."
|
||||
),
|
||||
@@ -226,7 +226,7 @@ async def judge_one(qid: str, task: dict[str, Any]) -> dict[str, Any] | None:
|
||||
if task["kind"] == "single":
|
||||
prompt_text = task["prompt"]
|
||||
else:
|
||||
prompt_text = "\n".join(f"turn {i+1}: {p}" for i, p in enumerate(task["prompt"]))
|
||||
prompt_text = "\n".join(f"turn {i + 1}: {p}" for i, p in enumerate(task["prompt"]))
|
||||
prompt = _JUDGE_PROMPT.format(qid=qid, task_prompt=prompt_text, a=a, b=b, c=c)
|
||||
|
||||
from langchain_openai import ChatOpenAI
|
||||
@@ -274,8 +274,14 @@ async def run_judge(db, config) -> None:
|
||||
continue
|
||||
scores_a = parsed.get("A", {})
|
||||
scores_c = parsed.get("C", {})
|
||||
total_a = sum(int(scores_a.get(k, 0)) for k in ("accuracy", "completeness", "code_quality", "clarity", "efficiency"))
|
||||
total_c = sum(int(scores_c.get(k, 0)) for k in ("accuracy", "completeness", "code_quality", "clarity", "efficiency"))
|
||||
total_a = sum(
|
||||
int(scores_a.get(k, 0))
|
||||
for k in ("accuracy", "completeness", "code_quality", "clarity", "efficiency")
|
||||
)
|
||||
total_c = sum(
|
||||
int(scores_c.get(k, 0))
|
||||
for k in ("accuracy", "completeness", "code_quality", "clarity", "efficiency")
|
||||
)
|
||||
pct = (total_a / total_c * 100) if total_c else 0
|
||||
equiv = parsed.get("claude_code_equivalent", "false")
|
||||
record(
|
||||
|
||||
Reference in New Issue
Block a user