安德烈·卡帕西Andrej Karpathy · 分析視角AK-P04PRODUCT ADVISORY COUNCIL
不要把無報錯當作正確
安德烈·卡帕西Andrej Karpathy · 分析視角AK-P04方法背面
不要把無報錯當作正確
AI系統可以正常運行卻持續產生邏輯錯誤，必須驗證輸入、輸出及依賴關係。
什麼時候用
- 系統能運行但質量或穩定性異常
先問自己
- 有沒有一種錯誤會被系統部分補償，從而長期隱藏？
可以怎麼做
- 設計能暴露錯誤的簡單案例和對照
- 觀察中間資料與輸出變化，確認系統真正使用了所需資訊
別忽略這些邊界
- 診斷應針對具體失敗模式，不能靠增加無關測試製造可信感。