ダリオ・アモデイDario Amodei · 分析視点DA-P04PRODUCT ADVISORY COUNCIL
独立した評価信号を守る
ダリオ・アモデイDario Amodei · 分析視点DA-P04方法の裏面
独立した評価信号を守る
同じ答えに繰り返し最適化すると、評価の診断力が下がります。
使う場面
- 指示調整、学習、公開評価を繰り返すとき。
自分に問う
- 点数が上がるのに不満が続くのはなぜ？
行動に移す
- 評価への接触を記録し、独立した問題を保護し、新しい失敗や外部の試験で確かめます。
適用の限界
- 独立評価も未知のリスクをすべて覆うわけではありません。探索と公開判断を分けます。