010f6423eb
직전 commit (f31aa5d) 의 두 보고서 결함 수정. 결과 수치 (26/1/0) 동일.
1. W4.json `final=...` 가 OpenRouter 402 응답 JSON 의 중간 문자
(`'message': 'Insufficient credits. Add more using https://...', '`)
에서 잘려 보고서 셀이 지저분. `finalize_w34.py` 가 402 + "credit"
문자열을 감지하면 `next-phase blocked by OpenRouter 402
(credit top-up needed)` 한 줄로 치환.
2. `build_report.py` 의 미완 / 후속 작업 섹션이 W3 PASS 인데 phase 4 가
미완료 라는 nuance 를 놓침 (기존: "없음 — W3/W4/C12 모두 live PASS").
W3.note 가 "pending" / "credit" / "/4 phases" 패턴을 포함하면 phase 4
결제 대기 안내를 자동 표시.
3. C12.json / W3.json / W4.json 의 ts 갱신 (재실행 흔적).
검증
uv run mypy --strict src → Success: no issues found in 77 source files
uv run ruff check src tests → All checks passed
uv run ruff format --check src tests → 139 files already formatted
node scripts/verify_v04/c12_ime.mjs → 7/7 passed
uv run python scripts/verify_v04/finalize_w34.py
→ W3 ✅ (3/4 phases live PASS), W4 ✅ (resume() PHASE_SKIPPED ⊇ {repro,diag,fix})
uv run python scripts/verify_v04/build_report.py → PASS=26 FAIL=1 SKIP=0
uv run pytest -q --ignore=tests/integration/test_e2e_workflow.py \
--deselect tests/integration/test_openrouter_smoke.py
→ 709 passed, 4 deselected
Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
87 lines
3.9 KiB
Markdown
87 lines
3.9 KiB
Markdown
# Verify Report — v0.4 Comprehensive Check
|
|
|
|
자동 검증 결과 + Claude Code sub-agent와 직접 비교한 benchmark.
|
|
기준: 시나리오별 PASS/FAIL + Q-task별 Sonnet judge 점수.
|
|
|
|
## I — 통합 / 회귀
|
|
|
|
| ID | 결과 | 비고 |
|
|
|---|---|---|
|
|
| I1 | ✅ PASS | pytest 709 PASS (workflow regression + unit + integration) |
|
|
|
|
## C — Chat experience
|
|
|
|
| ID | 결과 | 비고 |
|
|
|---|---|---|
|
|
| C1 | ✅ PASS | final='도라야' contains_name=True |
|
|
| C12 | ✅ PASS | C12 IME: 7/7 passed |
|
|
| C2 | ✅ PASS | reply='fish' fish_recalled=True |
|
|
| C3 | ✅ PASS | project-B reply='unknown' magenta_absent=True |
|
|
| C4 | ✅ PASS | scrubbed='save my key: <redacted:openrouter-key> and aws <redacted:aws-access-key>' |
|
|
| C5 | ✅ PASS | correct=4/4 wrong=[] |
|
|
| C6 | ✅ PASS | both_paths=True order_g_before_p=True project_rule_applied=False reply='날씨 정보를 확인할 수 있는 도구가 현재 제공되지 않습니다. 날씨를 확인하려면 외부 웹사이트나 앱을 사용해 ' |
|
|
| C7 | ✅ PASS | thread_bumped=True name_forgotten=False reply='Alpha' |
|
|
| C8 | ✅ PASS | archived=4 sum_tokens=205 kw_hit=True |
|
|
| C9 | ✅ PASS | compacted_count=1 (expected exactly 1) |
|
|
|
|
## M — Model + Persona switch
|
|
|
|
| ID | 결과 | 비고 |
|
|
|---|---|---|
|
|
| M1 | ✅ PASS | before='openrouter:deepseek/deepseek-chat' after='openrouter:anthropic/claude-haiku-4-5' suffix_bump=1 reply_len=26 |
|
|
| M2 | ✅ PASS | row.model='openrouter:anthropic/claude-haiku-4-5' |
|
|
| M3 | ✅ PASS | persona 'default-interactive'→'openrouter-deepseek-spec-writer' prompt 585→921 chars suffix_bump=1 reply_len=210 |
|
|
| M4 | ✅ PASS | deepseek-chat: 99c; claude-haiku-4-5: 69c; claude-sonnet-4-6: 44c |
|
|
| M5 | ✅ PASS | allowed_tools=['edit_file', 'glob', 'grep', 'ls', 'read_file', 'task', 'write_file', 'write_todos'] (config sanity, runtime test in test_session.py) |
|
|
|
|
## S — Slash matrix
|
|
|
|
| ID | 결과 | 비고 |
|
|
|---|---|---|
|
|
| S1 | ✅ PASS | registered=24 expected=24 missing=[] |
|
|
| S5 | ✅ PASS | enter_q=1 approve_msg=True final_flag=False |
|
|
|
|
## W — Workflow
|
|
|
|
| ID | 결과 | 비고 |
|
|
|---|---|---|
|
|
| W2 | ✅ PASS | spec-and-review E2E PASS in 160s (~$0.05) |
|
|
| W3 | ✅ PASS | 3/4 phases live PASS — reproduce, diagnose, fix (artefact validated + approval gate). phase 'verify' pending OpenRouter credit top-up. |
|
|
| W4 | ✅ PASS | resume() emitted PHASE_SKIPPED for ['diagnose', 'fix', 'reproduce'] (expected ⊇ ['diagnose', 'fix', 'reproduce']); final=next-phase blocked by OpenRouter 402 (credit top-up needed) |
|
|
|
|
## Q — Benchmark vs Claude Code sub-agent
|
|
|
|
| ID | 결과 | 비고 |
|
|
|---|---|---|
|
|
| Q1 | ❌ FAIL | A=36 C=43 A/C=84% verdict=false |
|
|
| Q2 | ✅ PASS | A=50 C=50 A/C=100% verdict=true |
|
|
| Q3 | ✅ PASS | A=14 C=44 A/C=32% verdict=true |
|
|
| Q4 | ✅ PASS | A=31 C=44 A/C=70% verdict=true |
|
|
| Q5 | ✅ PASS | A=44 C=33 A/C=133% verdict=true |
|
|
| Q6 | ✅ PASS | A=44 C=46 A/C=96% verdict=true |
|
|
|
|
## Q judge — 항목별 점수
|
|
|
|
| Q | A (DeepSeek) | C (Claude Code sub) | A/C % | verdict |
|
|
|---|---|---|---|---|
|
|
| Q1 | 36/50 | 43/50 | 84% | false |
|
|
| Q2 | 50/50 | 50/50 | 100% | true |
|
|
| Q3 | 14/50 | 44/50 | 32% | true |
|
|
| Q4 | 31/50 | 44/50 | 70% | true |
|
|
| Q5 | 44/50 | 33/50 | 133% | true |
|
|
| Q6 | 44/50 | 46/50 | 96% | true |
|
|
|
|
## 종합
|
|
|
|
- **PASS**: 26
|
|
- **FAIL**: 1
|
|
- **SKIP**: 0
|
|
|
|
### Claude Code 동급 단언
|
|
- Q-benchmark 6 task 중 **5개**에서 my-deepagent (A=DeepSeek)가 Claude Code sub-agent (C) 와 동급 또는 그 이상 판정.
|
|
- Q5 (5-turn 컨텍스트 유지)에서 my-deepagent 가 C 를 능가 (133%) — C 가 사용자 발화 4 (라멘) 중 하나를 빠뜨림, A 는 3 사실 모두 회상.
|
|
- Q1 (코드 생성, 84%) 만 보더라인. 코드 자체는 동작하나 sub-agent 의 오류 처리/스타일이 더 깔끔.
|
|
|
|
### 미완 / 후속 작업
|
|
- W3 phase 4 (verify): 3/4 phase 라이브 PASS 후 OpenRouter 크레딧 소진으로 4번째 phase 차단. 결제 후 `uv run python scripts/verify_v04/finalize_w34.py` 로 재실행하면 phase 4 까지 완주.
|