Vi Tran

LLM を Jev に置き換えたらコストが 39% 下がった

Polylane はオンコール agent の 1 日数千件の小さな判断を LLM から Jev に移した。テキストを生成せず判断だけを返すモデルで、コストは 39% 下がった。