Daniel Botha

首页

AIAI 落地

插画:一个人与一台机器之间放着天平,两侧分别是过度信任与信任不足

给 AI 软件从业者的信任校准

信任校准的意思是让人对 AI 的信任程度匹配它真实的能力。文章梳理 1000 多篇论文后指出:过度信任和信任不足同样有害,做 AI 产品的人应该主动设计这种校准。

AI AgentAI

插画:一个机器人把手臂伸进另一个密封的箱子里干活,箱体与本体分隔开

让 agent 别把自己弄坏

让 agent 跑 shell 很危险,但只读沙箱又不够用。Fly 的做法是用 Sprite 隔离高风险操作:先打检查点,出错就回滚,让 agent 在不必小心的地方干活。