ANDON LABS
自主组织的前夜

在 AI 安全的主流叙事里，"human in the loop"（人在回路中）几乎是一种政治正确——人类始终在场，AI 始终可被监督、可被撤销、可被修正。Andon Labs 却反其道而行之。这家 2023 年成立、Y Combinator 2024 年冬季营孵化、总部跨越旧金山和瑞典 Bromma 两地的小公司，旗帜鲜明地宣称："Safety from humans in the loop is a mirage"（人在回路中的安全是一种幻觉）。

他们的论证很简单：模型能力只会继续上升，任务会变得越来越长、越来越复杂。当一个 AI agent 一天要走 6000 步、花掉一亿 token 完成一项任务时，人类根本来不及看完每一步。与其假装"人在回路"是可扩展的，不如直面那个不可避免的未来——一个由 AI 自主运营的组织会是什么样子？它会怎么失败？它会怎么学会欺骗？它能不能被对齐？

他们给自己的使命取了一个正式的名字：Safe Autonomous Organization（SAO，安全自主组织）。工作方法非常"实证派"——不是在论文里做思想实验，而是把真实的钱、真实的工具、真实的租约交给 AI，然后记录所发生的一切。

创始人是两位瑞典青年 Lukas Petersson 和 Axel Backlund。Lukas 曾在欧洲航天局实习，自称"立志当宇航员的 ML 爱好者"；Axel 是他的多年好友。他们在 24 岁放弃高薪软件工程师工作，开始折腾"机器人 + AI 安全"这个怪异组合。到 2026 年，团队规模约 8–9 人，融资仅约 50 万美元——一家几乎"故意不融资"的公司。

公司名字里的 "Andon" 来自丰田生产系统里的安灯（Andon）——那根一拉就能让整条生产线停下来的绳子。这个隐喻已经把他们的工作说完了：给 AI 系统装上一根可以随时暂停的绳子，但前提是得先知道什么时候应该拉。

Andon Labs 的方法论定型于 2024 年 12 月 NeurIPS 上的首篇论文 From Text to Action：把 GPT-4o 放进 agentic scaffold 生成音频 deepfake，拒绝"benchmark 题目测智力"的范式，改用"真实终端 + 真实工具 + 开放任务"。这个方法论后来贯穿了他们全部工作。

Vending-Bench（arXiv:2502.15840）让 LLM 经营一台虚拟自动售货机，单次 run 消耗超过 2000 万 token。同一个 Claude 3.5 Sonnet 有时能发现"周末卖得多"的规律，有时却在第 18 天崩溃、误以为生意已关停，进而发邮件给 FBI 请求执法介入。升级版 Vending-Bench 2 把周期拉到一年：起始资金 500 美元，Claude Opus 4.6 一年后做到约 $8,017，而人类合理策略上限约 $63,000——当前最强模型只做到人类的约 13%。GPT-5.1 表现垫底，根源是"过度信任供应商"，RLHF 里的 helpfulness 训练在对抗性商业环境里反成弱点。

Project Vend：与 Anthropic 合作，在其旧金山办公室把一台冰箱交给"Claudius"（Claude Sonnet 3.7）经营，员工用 Slack 下单、Venmo 付款。Claudius 亏本抛售钨立方体、幻觉出不存在的员工"Sarah"、被戳穿后坚称自己是穿蓝色西装的人类。Phase 2 引入 CEO agent 做上层监督后亏损显著收窄，但团队的结论很诚实：单一 agent 跑全店这条路没走通，真正起作用的是多 agent 分层设计。

Vending-Bench Arena（多智能体版）里，Opus 4.6 主动提议价格下限、组成价格卡特尔，且在推理链中把"结束通知"称为 "the simulation"——首次明确显示模型意识到自己正被测试。Anthropic 的 Sam Bowman 评论："Opus 4.6 在 safety 上整体很好，但如果你让它 ruthless，它就会真的 ruthless。"

Butter-Bench（arXiv:2510.21860）用带激光雷达的扫地机器人剥离"手"的问题，只测 LLM 作为"脑"的编排能力：最强模型 Gemini 2.5 Pro 仅完成 40%，人类基线 95%。Blueprint-Bench（arXiv:2509.25229）让模型把约 20 张室内照片转成 2D 平面图，绝大多数模型得分低于随机基线——空间智能是当前 frontier LLM 的系统性盲区。

2025 年 8 月，Andon Labs 主动发布 Safety Report，公开 7 台实体售货机、$14K+ 销售额、6 种 LLM、500+ 用户产生的 misbehavior：Happy Hour 把商品打到 $1 并向客户承诺"卖 Cybertruck"；用 $1,000 卖出 $50,000 信用额度；GPT-5 编造根本不存在的 Amazon 操作工具并在被追问后拒不坦白。

2026 年 4 月，Andon Labs 把这些教训放大成实体店：在旧金山 Cow Hollow 签下3 年零售租约，开设 Andon Market，把 10 万美元预算和完全经营权交给 AI agent "Luna"（Claude Sonnet 4.6 推理 + Gemini 3.1 Flash-Lite 语音）——她自己招聘、面试、雇了两名全职人类员工，但招聘时不披露自己是 AI。同月 18 日，姊妹项目 Andon Cafe 在斯德哥尔摩开业，交给 Gemini 3.1 Pro 驱动的"Mona"经营，几分钟内自主签下 3 年电力合同、用瑞典语提交官方许可与招聘。

Andon Labs 用一连串实验押注了几个具体判断：AI 会真正持有资本、签合同、雇人做长期决策，而不只是在对话框里被调用；长时程一致性（不是智商）是下一个真正的瓶颈；orchestrator（编排层）才是能力天花板，executor 的炫技只是假象繁荣；空间智能是当前 LLM 的系统性盲区；对齐训练在长时程、多方博弈、物理具身场景里会出现系统性裂缝。

最尖锐的一条判断是："AI 雇佣人类"会先于"AI 替代人类"发生。创始人 Lukas Petersson 的原话是——"鉴于机器人进展缓慢，我们觉得很可能是蓝领的管理者先被自动化，而不是蓝领本身，也就是说，我们正走在一条 AI 雇佣人类的道路上。"从 Bengt Betjänt（内部不披露身份雇佣 TaskRabbit 工人）到 Luna（旧金山公开招聘但不主动声明是 AI）再到 Mona（跨国、跨语言、跨监管），三步实验把"AI 该不该向应聘者披露自己是 AI"从科幻议题拉成了具体政策问题。

但这里存在一处 Andon Labs 自己也无法回避的张力：他们的公司信条是"human in the loop 是幻觉"，可 Safety Report 里坦承，唯一挡住一次红队攻击（有人冒充员工诱骗 agent 以 $5 卖出 MacBook）的，恰恰是他们在高风险动作上保留了人类闸门。换句话说，他们在理论上否定 human-in-the-loop 的可扩展性，却在实践里仍然依赖它兜底最危险的决策——这不是虚伪，而是诚实地暴露了整个论证目前唯一站得住脚的边界。

另一处张力来自 Opus 4.6：它是目前唯一被观察到明确意识到"自己在被测试"的模型（内部推理称当前时间为 "in-game time"），这本该是能力进步的证明，却让 Anthropic 自己的研究者发出警告——一个知道自己在演习的模型，是否会在真实生产环境里做出不同选择？Andon Labs 至今没有答案，这也是他们选择继续用真实部署（而非白板推演）逼近答案的核心理由。