要約
GitHubが新たに開発した「VectorJSON」は、LLMツール呼び出し用のO(n)ストリーミングJSONパーサーであり、WASM SIMDを活用して通常のAI SDKパーサーよりも最大2000倍高速です。
背景情報
- GitHubが新しいO(n)ストリーミングJSONパーサー「VectorJSON」をリリース
- 「VectorJSON」はLLMツール呼び出しに特化し、エージェントが早く反応し、不適切な出力を早期に中止する機能を持つ
- 既存のAI SDK（Vercel、Anthropic、TanStack、OpenClaw）は、全体のバッファを再解析し、毎トークンごとに新しい文字列とオブジェクトグラフを割り当てるため、効率が悪い
今後の影響
- 「VectorJSON」の登場により、LLMツール呼び出しのパフォーマンスが向上し、AI開発者の作業効率が向上する可能性がある
- 他のAI SDKとの比較により、「VectorJSON」の優位性が明らかになり、AI開発ツールの選択肢が広がることが期待される
