Janelle Cai

兆パラメータのコーディング agent に兆単位のトークンを供給する方法

Modal のエンジニアチームが、兆パラメータ級のコーディング agent に兆単位のトークンを供給する方法を解説する。推論基盤、トークンキャッシュ、スケジューリングまでを層ごとに分解する。