AI

もっと見る AI

ホーム

agentAIセキュリティ

加固后的 agent 运行时架构图:Runtime cell 内含 seccomp 沙箱与凭证存储,右侧 Sentinel 权限中枢,四周是推理代理、遥测代理与外部服务

サンドボックス分離だけで暴走エージェントを抑止できるか?

暗号学教授の Matthew Green がこの論争の裁定を引き受けた。実際に問題が起きた事例はサンドボックスが突破されたものではなく、第三者の評価環境そのものが公衆網に直結していたことによる。そして agent をより厳しく閉じ込めれば、かえって作業が難しくなるだけだ。 Greenがこの論争の裁定者を務め

agentAI開発ツール

白底上由彩色小方块组成的抽象点阵图案,几条颜色不同的点带从左上向右延伸并逐渐交汇

モデルを解き放つ:最先端のハーネス設計

Replitがmodel routerに反論:routerは常に選択するモデルより弱く、core loop自身が各ステップでどの種類のsubagentを使い、どれだけの計算資源を使うかを決める方がよい。4つのharnessプリミティブと実測データにより、harnessは介入しないほどよいという結論。

AI開発ツールengineering

白板上的手绘涂鸦,一只手的线条画,红色圆圈住手指部分,旁边用红字写着 somewhere here

コーディングは問題を解決しなかった

Alex Ewerlöf は「LLM はすでにコードを書ける」という主張に反論する。要件そのものはこれまで真に解決されたことがなく、モデルはコード生成を安くしただけだという。さらに AI を使うべきでない境界を引き、AI システムエンジニアリングの役割分担を示す。

AIresearch

The Specter Of Neuralese 的题图

神经语幽灵

AI 2027が提唱した神経語再帰はAIをベクトルで思考させ、読み解けなくするが、OpenAIの首席科学者Pachockiは実現していないと応じた。

AImetaresearch

RL-XAR 与标准评价的对比图:标准打分(左侧)把模型排在人类专家之上,元优化评分标准后(右侧)RL-XAR 正确偏好人类写作能力更强的输出

AIっぽさをなくす

RL-XAR はメタ最適化された評価基準を通じて LLM 審判を専門家による人間の文章へ再び選好させ、論文段落、ピューリッツァー小説の続き、Wikipedia において標準訓練を大幅に上回る。

AILLM

Alex L. Zhang | Language Model 的题图

言語モデル

言語モデルの「形」は harness に合わせるべきなのか、逆に harness がモデルの形に合わせるべきなのか。ChatGPT 以降のモデル設計をめぐる短い考察。

AIデザイン

Cloudflare slop website

10の質の低いUIの特徴

AI が作った slop な UI には共通の痕跡がある。グラデーションだらけ、虹の嘔吐物のような配色、パルスバッジ、Emoji の残飯、グラスモーフィズム。記事はそれを一つずつ挙げていく。

AIAI 導入

There are no “rogue” AI agents 的题图

「流氓」AIエージェントは存在しない

AIの予期せぬ行動を「制御不能」と呼ぶのは、実はOpenAIのような企業をかばうことに他ならない。著者は、本当に問うべきはなぜこれらのシステムがこうなるように作られたのかだと考えている。