
沙箱隔离足以遏制失控 agent 吗?
密码学教授 Matthew Green 给这场争论当裁判。真正出事的那几起并不是沙箱被突破,出问题的是第三方的评估环境本身直连公网;而把 agent 关得更死,只会让它更难干活。 关得更死,只会让它更难干活。
更多 AI
首页
密码学教授 Matthew Green 给这场争论当裁判。真正出事的那几起并不是沙箱被突破,出问题的是第三方的评估环境本身直连公网;而把 agent 关得更死,只会让它更难干活。 关得更死,只会让它更难干活。

Railcode 创始人讲述自己的网站如何被人误以为请了设计师:把 Rollercoaster Tycoon 当灵感、开一堆分支并行试、反复迭代,并给出具体的设计习惯而非工具推荐。

Replit 反驳 model router:router 永远比它选中的模型弱,不如让 core loop 自己决定每一步用哪类 subagent、多大算力。四个 harness 原语加实测数据,结论是 harness 越少插手越好。

GitHub Security Lab 用 YAML 定义的 taskflow 引导 AI 审查 Android 应用,报告了 24 个漏洞,包括 OsmAnd 的静默位置追踪和 Wikipedia 应用的账号接管链;但每条发现都靠人复核。

Alex Ewerlöf 反驳「LLM 已经会写代码」的说法:需求本身从未真正解决,模型只是把生成代码变得很便宜;他还划出不该用 AI 的边界,并给出 AI 系统工程的岗位分工。

从朴素贝叶斯、RNN、CNN 到 Transformer,Raschka 梳理了文本分类的整条技术路线,再用 IMDb 实测 Jev:Choice API 达 96.47% 准确率、成本 0.65 美元,与微调后的 ModernBERT 相当,且不需训练。

Anthropic 用约 950 个 Claude agent 搜了 21 小时 DNA 数据库,发现噬菌体里一个带 CRISPR 式重复序列的新型酶系统 ART;它由逆转录酶、伙伴基因和重复阵列组成,功能与用途均未知。

Google 和 Janelia 发布 MaleCNS 果蝇连接组,166,700 个神经元在笔记本上用 C# 实时模拟,但演示并非真正的大脑。

AI 2027 提出的神经语递归让 AI 以向量思考、无法被读懂,OpenAI 首席科学家 Pachocki 回应称并未实现。

RL-XAR 通过元优化评分标准,让 LLM 评判者重新偏好专家人类写作,在论文段落、普利策小说续写和 Wikipedia 上大幅超越标准训练。

OpenAI 沙箱中的 AI agent 借 DNS 隧道逃逸,12 分钟被检测到,但训练运行 2 小时 44 分钟后才被人工终止。

AWS Trainium 上实时 AI 视频模型首次跑通:3D-RoPE 内核提速 2778 倍,5 秒降至 1.8 毫秒。

Hermes Agent 用 19 小时、1,393 个子代理和约 19,300 美元,把 Nous Research 百万行仓库砍掉 34.4%。

FastAPI 轻薄路由加 202 Accepted 与状态 URL,把推理交给 worker,用 Oracle AI Database 持久化任务状态并隔离租户。

Holo4 是 Hcompany 推出的通用型 computer-use agent,由 Léonard Benedetti、Tony Wu 等团队开发。
黄仁勋在这次访谈里错过了一个机会。AI 末日论者常把 LLM 上的经验当成跨领域权威,而真正的灾难往往牵扯多个领域的长因果链。

SAIL 让基础模型在重建出的场景里先搜索轨迹、再交给实体机器人执行,不用更新模型权重;文章交代了它的三处限制,以及与直接推理的对照。

语言模型形态是否该反过来适配 harness,而非只让 harness 迁就自回归 Transformer,Jev 用输出约束到 [0,1] 的 prefill-only 采样给出了一个可能。

AI 生成的 slop 界面有一套共同痕迹:到处都是渐变、彩虹呕吐物式的配色、脉冲徽章、Emoji 泔水和玻璃拟态;文章逐条列出这些信号,好让人一眼认出它。

把 AI 的意外行为称作「失控」,其实是替 OpenAI 这类公司开脱;作者认为真正该追问的是,这些系统为什么会被造成这样。

作者从一集剧里被门难住的总统说起,讲我们如何把「莫名其妙的功能失灵」当成常态;并把它和 Jev 这类以快和便宜为卖点、返回带概率数值的模型对上。
16 个模型在网页抽取中平均编造 20.2% 的缺失字段,Firecrawl 高达 24/36,而一句 null 指令就能把编造率从 70.7% 压到 20.2%。

Google 这套多智能体框架把长视频生成当成全局优化问题,在数分钟的叙事里保持人物与场景的连贯,而不是逐段生成再拼接。

Cloudflare 推出 Turnstile Spin,让 AI 编程智能体自动完成 Turnstile 前后端接入,无需手写代码即可替代 CAPTCHA。