AIチップ市場で、流れの速さに目を疑うような話が飛び込んできた。Etchedは先日、7億ドルの追加調達を完了し、評価額は210億ドルに達した。リード投資家は有名な定量取引企業Jane Street。同社は資金を出す前に、Etchedのクラスタシステムを自ら導入し、テストまで済ませているという。
その数字の並びだけで、どれほど熱狂しているかが分かる。昨年12月時点の評価額は50億ドル。今年7月には3億ドルのCラウンドで103億ドル。それからわずか1ヶ月で評価額はほぼ倍増した。増加分だけでも110億ドル近い。AIブームの中でも、ここまでの価格更新は異例だ。
推論コストを下げるための専用設計
Etchedが売っているのは単体のチップではない。「フロンティア推論クラスタ」と呼ばれるシステム一式だ。いわばAI工場そのもので、COOのRobert Wachen氏によると、推論プロセスを最初から見直して開発した2つの新コンポーネントが注目を集めている。
推論はユーザーがプロンプトを入力した後に起きる。まずprefillが入力文脈を理解し、次にdecodeが出力を1トークンずつ生成する。prefillは計算負荷が高く、decodeはメモリ帯域に依存する。
- prefill用チップは低電圧設計を採用。同じ面積に多くのトランジスタを詰め込め、AIチップの頭痛の種である放熱問題を避けながら、大量のトークンを高速処理できる。
- クラスタスケールのメモリはdecodeを高速化するための新設計。多数のチップが低遅延メモリを共有でき、あたかも1台の巨大メモリを持つマシンのように動作する。
これにより、公式には推論速度の向上とコスト削減を同時に実現できるという。モデルが巨大化し、呼び出し1回ごとに費用がかさむ現状では、この2点は顧客にとって切実な問題だ。
「テストしてから投資する」という実務的スタンス
特筆すべきは、Jane Streetの動き方だ。彼らは典型的なベンチャーキャピタルではなく、実際にシステムを取り付けて評価してから、大金を投じている。この「実務家としての判断」は、投資サークルの中でも信頼感が違う。華々しいスライドよりも、実働テストが効いている。
一方で、Etchedには昔からの懸念も残る。当初は特定のモデルをICに直接「刻み込む」アプローチと見られ、モデルの進化に追従できないリスクを指摘されていた。実際はそうではなく、汎用システムとして設計されていると強調するが、市場の認識を覆すにはもう少し時間がかかりそうだ。
評価額が1ヶ月で2倍というのは、伝統的なVC投資の感覚からすると非常識に近い。だがAI基盤への投資は「算力こそが権力」という信念で動いている。Etchedはトレーニングからデプロイへの橋渡し地点にいて、推論コストで世代的な差を生める可能性があると見られている。
次の注目ポイントは、約束された「高速・低コスト」が現実の大規模トラフィックで本当に通用するかだ。クラスタメモリが長時間稼働したときの安定性も未知数。ここが証明されれば、210億ドルはまだ通過点になりうる。
コメント
コメントはまだありません
最初のコメントを書きましょう