다리오 아모데이Dario Amodei · 분석 관점DA-P04PRODUCT ADVISORY COUNCIL
독립 평가 신호 지키기
다리오 아모데이Dario Amodei · 분석 관점DA-P04방법 뒷면
독립 평가 신호 지키기
같은 정답에 반복 최적화하면 평가의 진단 가치가 줄어듭니다.
사용할 때
- 반복적인 프롬프트 조정, 학습, 출시 평가.
먼저 물어보기
- 점수는 오르는데 왜 불만은 계속될까?
실행 방법
- 평가 노출을 기록하고 독립 문제를 보호하며, 새 실패 사례와 외부 시험으로 교차 확인합니다.
주의할 경계
- 독립 평가도 모든 미지의 위험을 덮지는 못합니다. 탐색 연구와 정식 출시 평가를 구분합니다.