安德烈·卡帕西Andrej Karpathy · 分析视角AK-P04PRODUCT ADVISORY COUNCIL
不要把无报错当作正确
安德烈·卡帕西Andrej Karpathy · 分析视角AK-P04方法背面
不要把无报错当作正确
AI系统可以正常运行却持续产生逻辑错误，必须验证输入、输出及依赖关系。
什么时候用
- 系统能运行但质量或稳定性异常
先问自己
- 有没有一种错误会被系统部分补偿，从而长期隐藏？
可以怎么做
- 设计能暴露错误的简单案例和对照
- 观察中间数据与输出变化，确认系统真正使用了所需信息
别忽略这些边界
- 诊断应针对具体失败模式，不能靠增加无关测试制造可信感。