Claude Code team's Addy Osmani on how to retain critical thinking when using Agents
English text is being prepared.
Addy Osmani of the Claude Code team shares his view that the stronger the model and the more polished its output, the easier it is for people to skip thinking it through again, and that critical thinking needs to be actively built into daily habits. He divides usage patterns into three layers: cognitive offloading, deferring judgment, and cognitive surrender, and warns that a green test can make the same mistake as the feature itself. He suggests establishing a hypothesis before starting, asking how it could be proven wrong, looking at what commands and outputs the Agent ran before looking at the summary, and not shipping if it doesn't meet the standard for putting your name on it.
Why read this
AI score 53
The article breaks down the cognitive risks of deep Agent use into three layers—offloading, procrastination, and surrender—and provides actionable verification and questioning checklists.
Topics
View original posthttps://t.co/2gyp2Erpxx
View original
https://t.co/2gyp2Erpxx
Body
Agent 把活干完了,批判性思考还得你自己留住
来自 Claude Code 团队 @addyosmani 的分享,他不主张少用 Agent,而是提醒:模型越好、输出越顺眼,就越没人逼你再想一遍;批判性思考不会自动发生,得自己放进日常习惯 -- 事情可以交给工具来做,对结果负责这件事交不出去。
问题出在哪 以前,很多思考发生在「刚问完」到「答案出来」之间;现在这段空档只剩几秒。并行开很多会话,盯结果的也还是你这一双眼睛。模型变强以后,一眼就能看出的错变少了,多数结果写得像样、大体正确,反而更少触发「再看一眼」。流程又舒服,忙起来最容易松懈。
作者说得很清楚:他喜欢这些工具,写这篇文章不是为了劝人少用,而是帮已经深度用上 Agent 的人,在「什么都能丢出去」的环境里,把独立判断留住。
三种用法:卸载、往后拖、投降 最上是认知卸载:活交给 AI,结果仍归你;他自己整天这么干,也建议别人这么干。中间是把判断往后拖:工具的输出直接变成下一步输入,不再当假设。最下是沃顿学者提出的认知投降:AI 说的悄悄变成你自己的话,也不想再核。
滑坡往往一步步都显得合理:上次认真读了,这次略读,再下次只扫骨架,直到被人问起某一行,连带着 Agent 也说不清。团队里会表现为对共同系统理解越来越薄;代码里则是理解债,测试是绿的、代码看起来干净,真要改系统才发现没人懂。
Claude Code 团队公开说过,他们是用到哪一块就让 Claude 解释哪一块,而不是脑中常驻整仓模型;关键是清楚自己缺哪一块。低风险的事(比如从三家差不多的酒店里选录课场地)可以全权交给 AI;投资、给孩子择业建议,以及工作里做什么产品、改动影响哪些用户、能不能上线,推理还得留在自己手里。错了代价低的可以放手,会影响别人的,推理别交出去。
动手前先问自己几句 他现在常问自己: · 动手之前有没有先立一个哪怕很差的假设(否则读完漂亮回答,就很难再想象别的可能) · 是在请它帮你想,还是替你想 · 怎样才能证明它是错的 · 有没有让别的模型唱反调 · 能不能当着维护者的面为结果担保 · 自己故意不再练哪些技能
没有方向时,也可以先做一次「盲区扫描」:把已知交给模型,让它帮你找不知道自己不知道的地方。
核验要成习惯,别迷信绿灯 核验已经从「写代码」变成瓶颈:给 Agent 端到端测试、属性测试或真机交互,让它改完就测、读结果、再改。但绿灯也可能是假安心,测试和功能犯同一错就会一起过,一个指标也不等于全覆盖。
所以先约定「怎样才算验证过」,先看它跑了什么命令、输出是什么,再看摘要;可以用新开的子代理自检,并习惯问「还漏了什么」。Claude Code 团队有一条经验:说不清这些检查会漏什么,就别急着点批准。客户访谈摘要、竞品分析也一样,抽查原文和关键数字。
真看产出,别只扫结构 面对几百行 PR,别只盯你本来就觉得会出错的地方:把 diff 当人写的来读,再追问 Agent 替你做了哪些默认选择、划了哪些范围、需求冲突时怎么取舍;可以让它列出决策和假设,甚至出个小测,答对再合并。
产出速度快过你敢署名的速度,就是他所说的编排成本,再开一轮会话帮不上,要么把检查收紧,要么放慢。敢署名的量跟不上时,你已经不是在审,而是在赌。
输入和品味仍在两端 人的心力移到两端:前端把任务、受众、范围外、怎样算做完写清楚;后端按自己的标准把关。
人会追问模糊需求,Agent 常会直接补洞,形成意图债,意图只能来自你。提示词写不清楚,往往说明问题在自己脑子里也不清楚;改了两轮还不对,别只微调,重写需求。排版自信不再等于质量,不敢署上自己名字的就不发出去。不达标的原因记进共享配置、钩子或测试,品味才会一点点攒起来。
模型更强,也交不出问责 模型以后也许更会抓错,但「做什么、为什么值得、影响谁、愿意牺牲什么」仍是人的。Anthropic 研究也点过监督悖论:监督 Claude 需要的,正是可能因过度依赖而萎缩的编码能力。
活和大量核验可以卸掉,对结果负责这件事卸不掉。
日常可以怎么做 每周亲手做一件忘了会疼的事;每月盘点停练了什么、哪些可以接受;把认真核验当成正经工作排进时间。停练的技能会掉,而且可能掉得比你想的快。
现在就开始执行起来:有意设置检查;诚实看待自己有没有还在扛结果;先假设;绿灯只证明一件事;先证据后摘要;看清它替你做的决策;提示词反映你对问题的理解;达不到署名标准就不发出。