Our internal data shows Claude is accelerating AI development—a possible path to recursive self-improvement, or AI autonomously building a more capable successor. It’s happening faster than we thought, and the implications deserve greater attention. anthropic.com/institute/recu…

全球顶尖AI科学家联合发声， AI安全，已到关键时刻。 日前，经清华大学牵头，图灵奖得主姚期智、AI三巨头之一Yoshua Bengio、张亚勤、Stuart Russell等国际顶尖AI专家，共同签署了《IDAIS伦敦宣言》。 不过把外交辞令的包装撕掉，从底层权力博弈和商业逻辑来看，这类国际宣言在现阶段大概率就是一张高档擦手纸。 AI现在是大国博弈和技术冷战的核武器。 科学家在台上呼吁大家慢一点注意安全， 台下的决策者心里想的，却是在地缘政治的绝对不信任面前的蝇营狗苟。 任何没有强制执行力的联合声明，都会在谁减速谁吃亏的恐惧中被撕得粉碎。 这和前两天教皇发的东西是一个性质。 现在推着AI往前疯狂打鸡血的，是背后的疯狂资本和科技巨头。 商业公司每天烧掉几千万美金的算力，背着投资人的对赌协议和股价压力。 对CEO们来说不激进迭代就等于公司倒闭。 面对生死存亡的商业竞争，几张科学家的签名纸，根本挡不住资本向前的车轮。 历史总在重演。 当年奥本海默带着天才们造出了原子弹，人类见识到威力后，科学家们也曾集体上书、搞联合宣言，呼吁和平利用核能。 结果呢？ 决定的方向盘，早就被政客和军方夺走。 科学家擅长的是把魔鬼从瓶子里放出来，但至于怎么管住魔鬼，对不起，他们既没有行政权力，也没有执法军队。 一旦技术跨过了临界点，学术界的呼吁往往会变成一种高尚但无能为力的道德自我安慰。 虽然很扎心，我也很无奈，但这是事实。 不过，这就像买保险或者写免责声明。科学家们很清楚自己拦不住疯狂的资本和大国竞争，所以他们必须在历史的十字路口大声喊出来，把共识固定下来。 立此存照，战后追责，就是这封宣言的意义。

百年之后，人类要对AI发出通谕教皇利奥十四世将在5月25日，亲自发布其首份人类关于AI的通谕——《Magnifica Humanitas》（译：壮丽人生）。 这份通谕将聚焦AI时代人类如何自身尊严与基本利益。 据说，教皇还邀请到Anthropic联合创始人，Christopher Olah一同担任演讲嘉宾，而Christopher Olah在Anthropic的身份是——研究AI可解释性的科学家。 值得我们关注的是，在135年前（1891年5月15日），教宗利奥十三世签字发布了著名的《Rerum Novarum》——面对工业革命变革的通谕。 《Rerum Novarum》不是宗教劝善，而是一份制度性宣言。 它后来直接影响了福利国家、工会合法化、社会市场经济的形成。 所以，《Magnifica Humanitas》的发布公布并不是巧合，它意味着本次我们正在经历的AI革命是跟工业革命同级别的社会性系统伦理事件。 眼下AI时代正在制造一种"新工业革命"——同样的财富集中、同样的劳动被工具化、同样的社会鸿沟。 1891年的问题是：人能不能不被机器吃掉？ 2026年的问题是：人能不能不被算法替代？ 对此，我们该如何面对？

Terence Tao is answering a fundamental question regarding the safety and reliability of modern AI: "How can we use a tool that is powerful, but unreliable?" W = ∑(wᵢ ⋅ xᵢ) b AI isn’t just about “smart”; it’s about the probability of *looking* right. We’ve built systems where the weights (wᵢ) are optimized for plausibility, not veracity. This creates a “convincing mirror” that confidently serves dangerous advice in medicine or finance. The gap between “convincing” and “correct” is the most critical variable we need to solve for.

Peter是我们的CTO，一个月前他开始实施新构建的AI-First的工作方式，结果是显而易见的，我们现在每天至少有20个PR会合并上线。产品changlog可以非常直观的体现我们团队的效率：docs.creao.ai/community-and-… 没想到他会写文章把这么干货的实践经验分享出来。 我推荐X上所有的founders好好读一下这篇文章，如果你们团队还在以AI-assisted而不是AI-first的方式去运转，很可能会在未来一年以内就逐渐淡出这个市场了。

Claude Code is not AGI, but it is the single biggest advance in AI since the LLM. But the thing is, Claude Code is NOT a pure LLM. And it’s not pure deep learning. Not even close. And that changes everything. The source code leak proves it. Tucked away at its center is a 3,167 line kernel called print.ts. print.ts is a pattern matching. And pattern matching is supposed to be the *strength* of LLMs. But Anthropic figured out that if you really need to get your patterns right, you can’t trust a pure LLM. They are too probabilistic. And too erratic. Instead, the way Anthropic built that kernel is straight out of classical symbolic AI. For example, it is in large part a big IF-THEN conditional, with 486 branch points and 12 levels of nesting — all inside a deterministic, symbolic loop that the real godfathers of AI, people like John McCarthy and Marvin Minsky and Herb Simon, would have instantly recognized.* Putting things differently, Anthropic, when push came to shove, went exactly where I long said the field needed to go (and where @geoffreyhinton said we didn’t need to go): to Neurosymbolic AI. That’s right, the biggest advance since the LLM was neurosymbolic. AlphaFold, AlphaEvolve, AlphaProof, and AlphaGeometry are all neurosymbolic, too; so is Code Interpreter; when you are calling code, you are asking symbolic AI do an important part of the work. Claude Code isn’t better because of scaling. It’s better because Anthropic accepted the importance of using classical AI techniques alongside neural networks — precisely marriage I have long advocated. It’s *massive* vindication for me (go see my 2019 debate with Bengio for context, or to my 2001 book, The Algebraic Mind), but it still ain’t perfect, or even close. What we really need to do to get trustworthy AI rather than the current unpredictable “jagged” mess, is to go in the knowledge-, reasoning-, and world-model driven direction I laid out in 2020, in an article called the Next Decade in AI, in which neurosymbolic AI is just the *starting point* in a longer journey.* Read that article if you want to know what else we need to do next. The first part has already come to pass. In time, other three will, too. Meanwhile, the implications for the allocation of capital are pretty massive: smartly adding in bits of symbolic AI can do a lot more than scaling alone, and even Anthropic as now discovered (though they won’t say) scaling is no longer the essence of innovation. The paradigm has changed. — *Claude Code is plainly neurosymbolic but the code part is a mess; as Ernie Davis and I argued in Rebooting AI in 2019, we also need major advances in software engineering. But that’s a story for another day.

在 ColaOS 发布之后，很多都人问我： 为什么做操作系统？这是不是太大了？ 其实我之前就提到过一篇对我影响很大的文章，Garry Tan 的那篇 Boil the Ocean。 以前俗话说 don't boil the ocean，专注一个小点切入。 他说今天不一样了，技术成本是零，大家都有核弹了。 那就该用最狂野的想象当目标，去煮沸海洋！ 他说人的恐惧和野心成反比。野心越大恐惧越小。 当你看到一个很牛的技术能替代你，你会恐惧。 但如果你的梦想是改变整个世界，那它就是你最好的礼物 这就是我们要做操作系统的第一个原因。 在这里特别感谢 @garrytan 的 gstack skill 和那篇 boil the ocean 的文章。

目前看到的写 harness engineering 写得最好的文章，同一个名词所描述内容的深度区别，非常大。 yage.ai/share/harness-engine…

Claude Code 的源码被人拆成了一份 21 页的架构分析报告，值得每个开发者仔细阅读10遍！ Xiao Tan 从 Claude Code 的 npm 包里提取出 4756 个 TypeScript 源文件，写了一份《Claude Code 源码架构深度解析 V2.0》，不是泛泛而谈，是逐文件级别的工程拆解。 几个核心发现： → 不是 CLI 工具，是 Agent Operating System src/ 顶层超过 50 个模块目录，main.tsx 4683 行，query.ts 1729 行。和市面上大部分开源 coding agent 的"一个 main 一个 prompt 几个 tool"完全不是一个量级 → 主循环是个状态机 query.ts 用 while(true) state 对象替代了早期的递归调用（长会话会爆栈），有 9 个不同的 continue 点，对应 9 种"为什么要再跑一轮"的原因 → 流式工具执行 模型还在输出第二个 tool_use 的时候，第一个工具已经跑完了。不是等模型输出完再批量执行 → 42 个工具 治理流水线 工具不是随便调的，有完整的权限检查、Hook 拦截、执行 Pipeline → 多 Agent 体系 Explore Agent（只读专家）、Verification Agent（最狠的 prompt）、AgentTool.tsx 做调度总控，子 Agent 有独立运行时 → Prompt 分静态和动态两块 中间用 SYSTEM_PROMPT_DYNAMIC_BOUNDARY 隔开，静态部分走缓存省 token，动态部分按会话状态注入 → 上下文经济学 四道压缩机制依次执行：snip compact → micro compact → context collapse → auto compact → 安全层三层防护 权限系统 Hook 系统 resolveHookPermission，互不绕过 报告最后提炼了 7 条设计原则，其中"不信任模型的自觉性"和"上下文是预算"对做 Agent 产品的人最有参考价值。 21 页 PDF，免费下载，适合所有在做 AI Agent 的人读一遍。 ⭐ 3,500 | 🍴 1,200 🔗 github.com/tvytlx/ai-agent-d…

Claude Code 开发者 Thariq 的 Claude Code 系列实践分享，非常值得关注学习！他把历史文章都整理在这个帖子里了，咱们一起看看都有哪些宝藏经验可以学。 先放太长不读版： 1. Skills：Agent 能力的可复用、可演化基础 2. Action Space 设计：以模型真实能力为导向，而非预设 3. Prompt Caching：生产级长会话的经济基础 4. 文件系统 Bash：Agent 的持久状态与通用计算能力 5. Playgrounds：可视化交互的突破 -- 展开每个实践角度和 takeaway 总结 -- 1. Skills：Agent 能力的可复用、可演化基础 · Skills ≠ “只是 Markdown 文件”，而是文件夹 脚本 资产 钩子的复合体，支持渐进披露。 · 最高价值类型（9类）： · 库/API 参考 gotchas（最常见高 ROI） · 产品验证（自动化测试、断言、录屏验证） · 数据获取与分析（漏斗、cohort、Grafana 映射） · 业务流程自动化（standup、ticket 创建、weekly recap） · 代码脚手架与模板 · 代码质量与审查（adversarial review、style enforcement） · CI/CD 与部署（babysit PR、渐进 rollout、cherry-pick） · Runbooks（症状→工具→报告） · 基础设施运维（orphans清理、成本调查） · 关键实践： · 聚焦“gotchas”而非 obvious 知识。 · 用文件系统分层组织 → 让模型自主决定何时深入读取。 · 存储记忆（日志/JSON/SQLite），用${CLAUDE_PLUGIN_DATA}持久化。 · 提供辅助脚本，让模型专注组合而非重写 boilerplate。 · 描述字段写成“触发条件”，而非摘要。 · Hooks 用于动态行为（如 /careful防rm -rf、/freeze 限目录）。 · 分发：小团队检入 repo，大团队建内部 marketplace 审核机制。 · 度量：PreToolUse 钩子记录使用率，迭代低活跃skill。 Takeaway：Skills 是将组织专有知识、流程、陷阱转化为可共享、可演化、可组合的能力，是 Agent 工程从“提示”转向“环境设计”的核心跃迁。 2. Action Space 设计：以模型真实能力为导向，而非预设 · 不要预先假设工具集 → 通过持续观察模型输出迭代。 · 演进案例： · 用户交互：从纯文本 → 结构化 AskUserQuestion（多选项、阻塞等待） · 任务管理：从 Todo → Task（支持依赖、Sub Agents 协作、可修改） · 上下文构建：从被动 RAG → Grep 渐进披露（模型自主层层挖掘） · 优先小而精工具，避免过载。 · Sub Agents 模式（如 Claude Code Guide）处理元问题，保持主上下文干净。 · 核心思维：像 Agent 一样思考 → 如果你是模型，面对这个问题最想要什么工具？ Takeaway：好的 action space 是实验 观察的产物，随模型能力提升而演进（Todo→Task、RAG→grep 披露）。 3. Prompt Caching：生产级长会话的经济基础 · 缓存靠前缀匹配，任何前缀变更都失效整条。 · 布局铁律：静态在前、动态在后（system prompt tools claude.md → session context → messages）。 · 常见破坏点：时间戳、工具顺序随机、参数变更、模型切换。 · 应对： · 更新信息用消息而非改 prompt。 · 不要中途加/删工具（用 Enter/ExitPlanMode 工具模拟状态）。 · Tool search用defer_loading（轻量stub，按需加载完整schema）。 · Compaction 必须 cache-safe forking（复用父会话前缀 compaction prompt 作为 user message）。 · 监控：像监控可用性一样监控hit rate，命中率掉几%就是SEV。 Takeaway：缓存不是优化，而是整个系统的设计约束。围绕它构建 Plan Mode、Tool Search、Compaction，才能规模化长会话。 4. 文件系统 Bash：Agent 的持久状态与通用计算能力 · 文件系统是天然的持久记忆、验证、Multi Agents 协作层（远优于全塞上下文）。 · 用途：邮件分析、规划草稿、Sub Agents 协作、架构记忆银行。 · 即使非编码 Agent 也强烈需要 Bash： · 保存中间结果 grep 实现复杂处理（支出统计、API 链式调用）。 · ffmpeg 视频剪辑、cron 定时任务。 · 组合性 可验证性（模型可多次尝试、验证输出）。 · 安全：沙箱 权限控制（Claude Agent SDK已内置）。 Takeaway：文件系统 Bash = Agent 的“外部大脑 双手”，让模型能迭代、验证、组合，而非一次性猜对。 5. Playgrounds：可视化交互的突破 · 生成独立 HTML 界面，实现终端难以表达的交互： · 架构可视化 用户评论 · UI 迭代、游戏平衡 · 写作审阅（inline 建议、接受/拒绝） · 核心：把“独特交互方式”描述给模型，让它自己表达成 HTML。 Takeaway：突破纯文本局限，开启视觉 交互闭环迭代。 整体工程哲学 · Agent 成功的关键不是模型聪明程度，而是系统工程：文件系统 Skills Bash 渐进披露 缓存优化 模型行为观察，也被成为 Harness Engineering。 · 从“提示工程” → “环境设计”范式转变。 · 持续实验、读输出、“像 Agent 一样思考”，迭代工具与抽象。 · 这些经验对任何想构建可靠、可规模化 AI Agent 的人都有极高参考价值。

非常感谢马老师的打call !! 忍不住分享一点SkillCraft背后的故事。 初衷起源于我们去年对 embodied LLM agent RL 的探索。当时我们让大模型用 RL 学推箱子，怎么训都训不上去。探索之后我们发现，这不是 RL 的问题，而是 grounding 的问题：任务极度依赖坐标，但模型却无法从一堆二维字符串里自己提取出坐标信息。无奈之下我们当时用了简单粗暴的解法：直接改渲染函数，手动把坐标喂给模型再做 RL，同时让它做坐标转移预测来学 world model 作为 mid-training，效果很好。这条路后来写成了 SPA: arxiv.org/abs/2510.15047 问题是解决了，但我们一直不甘心。与其每次都由先验来告诉模型"你缺的是坐标"，它能不能自己发现自己被什么卡住了，然后自己造个工具，把未知的状态空间转化成它能理解的表征？说到底，工具的本质是压缩: 把一段反复出现的认知或操作开销封装起来，让后续调用的边际成本趋近于零。人类造工具如此，模型造工具也应该如此。 沿着这个思路，我们花了很长时间思考：模型应该怎么造工具？造什么样的工具？造出来之后又怎么存、怎么复用？ 以及什么样的场景才能激发出模型“造工具的智能”？ 于是，我们基于 OpenClaw 式的真实任务 benchmark Toolathlon，设计了四个极简协议：save_skill、get_skill、list_skills 和 execute_skill，使模型能够自主发现、调用并存储自己构造出的工具。同时，我们还合成了一批模拟真实场景中重复工作流的任务，用于系统评测模型运用这些协议的能力。 更详细的答案在 SkillCraft: arxiv.org/abs/2603.00718

二战最血腥的战争，死亡人数：8000万 ，还保留了“领袖不是军事目标”这条线，这是文明的基本操作系统。以色列用20天，把这条线彻底抹掉了。 以色列证明了：斩首国家领袖，技术上可行；斩首后不一定引发核战；国际社会谴责，但没有实质惩罚；战争依然在继续。这意味着这个先例一旦成立，未来任何冲突，都可能把斩首领导层作为第一选项。 中国外交部震惊：我们以为这条线不会被跨越结果它被跨越了，而且没有任何后果。这比任何军事威胁都危险，因为它改变了战争的基本规则。 这才是这场战争，对整个世界秩序最深远的冲击。不是油价，不是霍尔木兹，是文明规则的地基裂了一道缝。 ​​​​​​​​​​​​​​​​难看，不只是外交上的难看，而是是人类用一百年血换来的那点文明默契，被一个生存焦虑极度膨胀的小国，在一个不在乎秩序的美国总统的默许下，给打碎了。

同感。 比如，我上周忙惨了。睡前和醒来都是抱着笔记本电脑捣鼓，注册新账号，重新安装，来回切换模型，把干的活归类，周末也没有下楼，不想理会任何人。 不断Restart。 天崩地裂。 这样的时刻，我在DOS和兼容机时代有过一年的曾经，夜里换显卡、找同版本的驱动程序，再格式化，不断地Restart，重装系统。 都说是下一个iPhone时刻。 但是，iOS初见时刻，那样的平静美感和井然秩序，如一面湖水。 我还没有找到那样的感觉。