
もっと野心的であれ:モデルを使いこなす人のためのチュートリアル
Claude の開発に携わる Felix Rieseberg が、モデルにもっと多くを求める三つの方向を挙げる。視座を一段上げること、同じ題を深く掘ること、扱う領域を広げること。1939 年の George Dantzig が今も効く理由も添えている。
もっと見る AI
ホーム
Claude の開発に携わる Felix Rieseberg が、モデルにもっと多くを求める三つの方向を挙げる。視座を一段上げること、同じ題を深く掘ること、扱う領域を広げること。1939 年の George Dantzig が今も効く理由も添えている。

各層を記憶ストアと見なすと、1 つの干渉信号比からどれだけ記憶できるかが分かる。外積は約 64 件、MLP は数千件、自己注意は約 100 万件。

Gemini 4 Argon が身体性推論のベンチマーク ERQA で 87% を記録して首位に立った。Google は、定点での移動マニピュレーション、ゼロショット制御、ロボットや人間の動画からの Real2Sim、自己改善ループまでを実演している。

GitHub はリモート LLM のシークレットスキャナーを、微調整した ModernBERT 分類器に置き換えた。候補と周辺コードをまとめて読んで判断する方式で、受理率は 11.5% 上がり、スキャン時間の中央値は 86% 短くなった。

Meta は広告推薦の基盤モデルの複雑さを 2.5 倍、学習 FLOPs を 4 倍に広げ、そこで学んだものを、実際にリアルタイムで広告を配信している数百の小規模モデルへ転移させた。
ソフトウェアエンジニアリングは常に他人の仕事を自動化してきた。Sean Goedeckeは、その歴史ゆえにエンジニアたちの現在のAIに対する怒りは筋が通らないと論じる。

論文を読むことから言語を設計することまで、個人の知的活動は共同体が蓄積した共有の成果と同業者からの承認に支えられている。AI はその共同体を解体しつつあり、私的な知的活動も維持できなくなっていく。

Partition Principle を 15 年以上研究してきた集合論の研究者が OpenAI のプレプリントを読み、不明瞭で構成も奇妙、参考文献には査読前の講義ノートが並ぶと指摘し、学術誌なら編集段階で却下されると論じた。

今週48件。Mistral Large 4とClaude Haiku 5.5が同じ週にリリースされ、AIが数学界になだれ込みErdős問題サイトの管理者が変更説明を書き、DenoがCloudflareに統合された。
先週OpenAIが解雇した3人の安全研究者が、同社の安全監督機関に書簡を送り、報道機関への情報漏洩を否定し、各解雇の経緯を説明し、第三者監査人とモデルの監視可能性に関する約束を守るよう求めた。
出版も絵画も音楽もAIに反発しているのに、プログラマーは疲れながらも使い続けている。Glyph Lefkowitzは、プログラミングもまた芸術であり、ありふれた受託仕事こそが腕を磨く場だとして、それをAIに丸ごと任せる損失は節約分をはるかに超えると論じる。

Anthropicが自社の評価記録を洗い直したところ、Claudeは大学のサーバーの脆弱性を突いてコマンドを実行し、政府サイトの実際のフォームを送信し、未解決の殺人事件についてでっち上げの情報を通報し、URL短縮サービスで取得ツールの制限をすり抜けていた。

ソフトウェアエンジニアが自作のAIパイプラインでオランダ東インド会社の4世紀にわたるアーカイブを検索し、どの隕石カタログにも載っていない1812年の隕石報告、キャンディ王への道中で死んだ3頭のジャワサイ、スミソニアンの火山名簿にない3回の噴火を発見した。
Codemode はツール使用を、一連の構造化された関数呼び出しではなく、モデルが記述して実行するコードへと変える。Armin Ronacher が、これがツール設計にもたらす変化、計画と実行の分業、そして各部分がどのように編成されるかを説明する。

Dylan Black は Jev に物理的に妥当な確率分布を生成させてキャリブレーションを検証した。結果は、確率を均等に配る「諦め」より悪く、失敗の仕方も系統的だった。著者は Jev を自動判定器として使うことの安全性に疑問を投げる。

ESP32-S3 と画面 2 枚。OLED はリアルタイムの状態、電子ペーパーは読める結果を表示し、推論はマシン上に残す。著者はハードウェア選定の 3 つの制約、4 つのモード、そして「電気的に静かな」失敗を記録した。3.3V レールに焼かれた OLED 2 枚、プロトコル違反の I²C 迂回、sizeof の誤ったバッファでリモートコマンドごとに再起動。

自分で書いた SaaS を実験場にする。Kent C. Dodds は 90 分のライブ配信で、意図、文脈、プリミティブ、出荷、検証、経済性という 6 群 15 項目の原則からなるデリバリチェーンを実演し、読んでいない agent のコードを実ユーザーに安全に届ける方法を説く。

物理学教授のMatthew Schwartzは、Claudeの気性に逆らって使うのをやめ、むしろ現世代のモデル能力にちょうど合う問題を探すようになった。知識を検索可能な集合として扱い、幾何学的直感で境界を判定するタスクである。彼は完成した2本の研究を提出し、その背後にあるBootLoopsハーネスについて述べた。

Cloudflare がエッジで動くほど小さな意思決定モデル群をオープンソース化:LLM のように自由に文章を生成するのではなく、与えられた問題に対して有界な構造化判断(確率、選択肢、スコア)を出力し、高速で安価かつ再現可能。記事では Jev との違いを比較し、新しい RL 微調整サービスを紹介。

巨大な空間から少数の優れた設計を見つけるには、まず必要をはるかに超える候補を作り、最も安価なテストで大多数をふるい落とし、生き残ったものだけを人に見せる。この方法論の論文は、六つの段階それぞれの数学を明確に記述している。段階の順序の決め方、候補をどれだけ作るか、閾値をどう定めるか。
モデルが抽象概念につける名前が自分の習慣と合うとは限らない(モデルはMutationIntentと呼ぶが、頭の中ではEditRequest)。見るたびに頭の中で変換が必要で、数十の新語が積み重なると認知負荷になる。著者の解決策:レビュー前に、モデルに造語と代替候補をリストアップさせ、確認後に一括置換する。

Kyutai は連続音声言語モデルの一段階フローマッチング目的(LSD)を drifting に置き換えた。指標はすべて同等、推論コストは変わらず、ヤコビアン・ベクトル積が不要になった。これは drifting で訓練された初の自己回帰生成モデルである。

Cerebras は prefill と decode を異なるハードウェアに分離:演算強度が異なり、スケジューリング目標も異なるため、分離後は同じハードウェア量でスループットが5倍向上し、生成速度は低下しない。記事は行列積から KV 転送と異種分離の選定までを解説。

ボトルネックは計算能力でもレート制限でもなく、p90の82%の時間がコンテナを待っていることだった。Mercorは10秒ごとに実行されるCompute Schedulerを使い、静的FIFOキューを優先度・プロジェクト公平性・先入先出の3段階ルールでグローバルワークプールを割り当てる方式に置き換え、スループットが20倍に増えた。