ネットが切れても動くAI、150万記事とローカルモデルを1台のノートPCに
Survival LLM は無料のオープンソースのデスクトップアプリ。ローカルモデルが約93万件のWikipedia、FEMAとCDCのガイド、応急処置マニュアルなど150万件のオフライン資料を検索し、回答ごとに根拠の段落を示す。作者はメモリ別の正答率表も公開している。
オンデバイス
もっと見る オンデバイス
ホーム
Liquid AI が LFM3 を発表、2B クラスの 6 モデルを 1 つのバックボーンで
LFM3-1.7B は 22T トークンで事前学習し、24 層のうち 13 層がゲート付き短畳み込み、5 層がスライディングウィンドウ注意、6 層がグローバル注意。4bit で約 1 GB、128K コンテキストの KV キャッシュは 1.6 GB に収まる。視覚・音声・オムニ・判断の各モデルも同じ骨格から派生した。
WorldTUI：360Mモデルを訓練してターミナルのふりをさせた
Simon Edwardsson は 360M パラメータのモデルを微調整し、シェルなしでキー入力ごとにターミナル画面の内容を予測した。並列デコードにより、完全な再描画が 6.7 秒から 0.87 秒に短縮され、システム全体は現在 208 MB でブラウザタブ内で動作している。
8 ドルのチップで LLM を動かす：ESP32-S3 で 10.3 から 22.6 tok/s へ
Mark Bartlett は esp32-ai の TinyStories モデルを再現し、律速は PSRAM の帯域で CPU は余っていたと特定した。出力を変えない 5 つの変更で 1 トークンあたり 94.7 ms を 43.3 ms に短縮した。
6 台の防犯カメラに野鳥観察を教える
自前の BirdNET-Go に 6 台の UniFi カメラのマイクを繋ぐと、夜はハリネズミやキツネまで検出できた。ただしカメラの音声は 16 kHz までしかなく、高く鳴くミソサザイはそもそも録れていない。
ESP32-S3でNeedle 2を動かす：ステップバイステップDIYガイド
Needle 2 は 13.7 MB のツール呼び出しモデルで、ESP32-S3 N16R8 に焼き込めばオフラインで動く。ただし 16MB フラッシュと 8MB octal PSRAM が必須で、応答は約 25 秒かかる。
Mistral x Mozilla：プライベートで多言語対応のAIブラウジング
MistralがMozillaと提携し、MistralモデルでFirefoxのスマートウィンドウ（ベータ版）を支え、フランスと北米のユーザーに先駆けてプライベートな多言語AIブラウジング体験を提供。
Gemma 4とRaspberry Piでデスクトップコンパニオンロボットをどう作るか
LEGO デスクトップロボット DinoDesk AI は、Raspberry Pi とローカルゲートウェイで Gemma 4 と Gemini Flash を切り替え、カメラなし、ローカル会話はゼロコスト。
Ternary Bonsai 2 27B：体積 9 分の 1、ベンチマーク性能の 98.2% を保持
Qwen3.8 27B をベースに三値重みで 5.9GB（重みあたり 1.76 実効ビット）まで圧縮し、総合ベンチマークの 98.2% を保持。RTX 5090 で 143 トークン/秒、Apache 2.0 で公開。
スマホでオフライン動作するローカルモデル6選：パラメータ数、サイズ、それぞれの得意分野
2026年のローカルAIモデル6選：データをデバイス外に出さずに実行でき、プライバシーとオフライン能力を両立。