インフラ

もっと見る インフラ

ホーム

GPUインフラnvidia

一台 NVL72 机柜,顶部搁着一顶机长帽,右侧是渐变的浅色背景

Grace Blackwell には新しいスケジューラが要る、同じラックで使える GPU が 27% 増える

NVL72 はラック内の 72 基の GPU を 1 つの NVLink ファブリックにつなぐが、その帯域を使えるのは同じラックに収まったジョブだけだ。SkyPilot はトポロジーを意識した配置、故障時のインプレース交換、自動デフラグでマルチノードの学習と推論を NVLink 上に留める。

認証インフラセキュリティ

攻击路径示意图:互联网上的攻击者经 PHP2Shell 与 Fragnesia 拿下边界防火墙,再通过反向 SSH 隧道抵达内部防火墙管理服务器,最终连到域控制器

PHP2Shell とカーネル特権昇格を連結し、PAN-OS ファイアウォール 25 台を掌握

Dream Research が復元した作戦では、攻撃者は認証なしの HTTPS リクエスト 1 本で PHP2Shell のコード実行とカーネル特権昇格を連結し、PAN-OS の root を取った。公開されていた 19,000 台から 240 台に絞り、24 台に webshell を仕込み、うち 2 台は同じ米政府関連機関のものだった。

containersGoインフラ

Docker は変だ

著者は遊びでコンテナランタイムを自作し、Docker の奇妙な点を 6 つ挙げている。コンテナは VM でもカーネル機能でもない、イメージはただのフォルダ、runc は Go に fork がないため /proc/self/exe を exec して fork を装う、しかも root が要る。

CloudflareインフラPostgreSQLSQL

Cloudflare 博客的分享卡片:左侧是文章标题,右侧一颗橙色地球,球面上下散布着一摞摞数据库图标,周围飘着几朵云

内部の仕組み、ホットパスを迂回する:D1 はいかにして数百万データベースまでスケールするか

Cloudflare は D1 のコントロールプレーンを書き直し、クエリパスに一切の関連作業を入れずに数百万のデータベースを管理できるようにした。Durable Objects、ハートビート、キュー、事前集計した使用量表、Quicksilver で複製したレートリミッターを使っている。

コミュニティインフラオープンソースセキュリティ

深紫色底上的浅色大字标题「Open Source Maintainers Are Holding Up the Internet, and Many of Them Work Alone」,右侧是一个地球加鼠标指针的图标

23 の中核オープンソースプロジェクトのうち 11 は 1~2 人だけで運営されている

スマホやサーバーが依存する 23 のライブラリについて、直近一年のコミット履歴を全部落として保守者を数えたところ、11 は日常の作業が一~二人だった。四つの公開助成のどれからも資金を得ていないプロジェクトは八つある。

cloudインフラnetworking

Hetzner Cloud 的 VM 主机网络栈示意图

Hetzner Cloud ネットワークスタック

Hetznerがクラウド仮想マシンを支えるネットワークスタックを詳しく解説し、Open vSwitchと自社開発のFlusskrebsオーケストレーション層を採用した理由から、各ホスト上のパケットフィルタリングルールまでを説明し、このアーキテクチャがどのように進化してきたかを明らかにしている。

Cloudflareインフラオブザーバビリティ

Cloudflare 官方题图:左侧是文章标题,右侧是橙色放大镜里一个正用望远镜观察的机器人,背景是浏览器窗口与图标

Cloudflare Traces の紹介:プラットフォーム全体でリクエストを追跡

エッジにリクエストが入ると、インターセプトされ、書き換えられ、Worker に引き継がれ、キャッシュにヒットする。これらの判断はこれまでそれぞれのログに散在していた。Traces はその経路全体をエクスポート可能な OpenTelemetry トレースとしてつなぎ、agent に調査させることもできる。

Cloudflare開発ツールインフラ

Cloudflare 风格的插画:橙色放大镜里是一座雪山,四周有数据流线条、彩色方块与节点

Cloudflare、K2を発表:サーバーレスイベントストリーミング

K2はプロデューサーとコンシューマーをスケールと時間の両面で分離します。エッジでの永続バッファリング、複数コンシューマーによる独立した読み取り、キー単位の順序保証、Kafkaクライアントとの互換性を備えます。本記事ではQueuesやPipelinesとの役割分担と適用範囲を解説します。

AIengineeringインフラ

柱状图「Trajectories run per day」,2025 年 10 月到 2026 年 7 月的月均值,从近零一路涨到 45 万,末月高亮为深紫色

LLM評価のスループットを20倍に向上させた方法

ボトルネックは計算能力でもレート制限でもなく、p90の82%の時間がコンテナを待っていることだった。Mercorは10秒ごとに実行されるCompute Schedulerを使い、静的FIFOキューを優先度・プロジェクト公平性・先入先出の3段階ルールでグローバルワークプールを割り当てる方式に置き換え、スループットが20倍に増えた。

AI エージェントインフラ

插画:一排装着容器的服务器机架,其中一台被单独拎出来启动

精霊の設計と実装

Sprites は Docker を使わない Linux 仮想マシンです。作成はわずか1~2秒、100GB の永続ルートファイルシステムを備え、アイドル時は自動でスリープし、ほとんどコストがかかりません。記事ではそれを支える3つの重要な決定を解説します。

インフラSQL

插画:一台服务器把数据库文件同步到对象存储的示意图

Litestream の書き込み可能な VFS

Litestream の作者 Ben Johnson が、SQLite を S3 互換のオブジェクトストレージに同期する Unix 流のツールと、それが Sprites の中核部品になった経緯を語る。今回の新要素は書き込み可能な VFS。

読み込み中…もっと見る