다리오 아모데이Dario Amodei · 분석 관점DA-P03PRODUCT ADVISORY COUNCIL
능력과 함께 안전 기준 갱신하기
다리오 아모데이Dario Amodei · 분석 관점DA-P03방법 뒷면
능력과 함께 안전 기준 갱신하기
행동 능력이 늘면 새로운 실패 피해도 생깁니다.
사용할 때
- 도구 사용이나 자율 실행 기능의 확대.
먼저 물어보기
- Agent가 더 많은 일을 하면 바로 출시할까?
실행 방법
- 변화한 능력, 위험, 시험, 권한 제한, 되돌림 조건을 정리한 후 공개 범위를 정합니다.
주의할 경계
- 모든 앱에 첨단 연구소 기준을 적용하지 말고 사업 위험에 맞게 조정합니다.