핵심 내용
평가는 결과를 명시한 요구와 비교하며 유리한 예뿐 아니라 현실적인 실패도 포함합니다.

진행 방식
대표 입력과 어려운 입력을 모아 기준을 정하고 참조 시험을 프롬프트 조정에서 분리합니다. 정확성, 완전성, 브랜드 적합성을 평가하고 버전, 비용, 개입 지점을 기록합니다.
진행 상황 평가
평가 불일치와 반복 실패를 확인합니다. 평균은 허용할 수 없는 오류를 숨길 수 있습니다. 업무, 모델, 출처, 과정이 바뀌면 다시 평가합니다.
의사 결정
허용할 수 없는 오류와 검토자가 수정할 수 있는 결함을 구분합니다. 잘못된 제품 주장은 문체와 완성도가 좋아도 배포를 막을 수 있습니다. 사례나 구성을 고르기 전에 차단 기준을 작성합니다.
실습
일반 과제 12개, 어려운 과제 여섯 개, 확인 질문이나 응답 보류가 필요한 사례 여섯 개를 만듭니다. 두 검토자가 구성 이름을 모른 채 일부를 독립 채점합니다. 전체 비교 전에 이견과 모호한 기준을 해결하고 별도 사례는 변경 완료까지 보관합니다.
제공 산출물
입력 사례, 필요 근거, 점수 기준, 차단 오류, 결과표를 평가 묶음으로 만듭니다. 구성, 날짜, 검토 노력, 완료 여부, 실패 유형을 기록합니다. 평균이 심각한 오류를 숨기지 않도록 전체 성과와 중요한 실패를 모두 제시합니다.
주의할 오류
모델이 자기 답을 평가하면 오류를 만든 가정을 또 놓칠 수 있습니다. 사실과 계산은 독립적으로 확인하고 중요한 판단에는 사람을 참여시킵니다. 검토자들이 올바른 결과에 합의하지 못하면 점수보다 과제 정의를 먼저 고칩니다.
기술과 실무 활용.
공식 출처
Anthropic · Building effective agents데모
가상의 캠페인 네 개와 길이가 같은 두 기간의 CSV 데이터로 입력 검증, 지표 재계산, 분석문 작성을 보여 줍니다.
자세히 보기팀을 위한 이 워크플로를 구축하고 싶으신가요?
AI 솔루션, 워크플로, 도구와 실무 교육을 통해 마케팅팀의 시간을 절약하고 생산성과 비즈니스 성과를 높입니다.
AI 워크플로 상담하기