英国の企業 Fractile は本日、AI 用の次世代推論ハードウェアの構築を継続するため、シリーズ B で 2 億 2,000 万ドルを調達しました。
このラウンドは、Accel、Factorial Funds、Founders Fund が主導し、Conviction、Gigascale、O1A、Felicis、Buckley Ventures、8VC が参加しました。
2022 年に設立された Fractile は、フロンティア AI 向けの次世代推論ハードウェアを構築しています。その主張は、AI の進歩に対する次の大きな制限は、有用な成果を大規模に生成するために必要な時間とコストである、というものです。
高度な AI システムが、生成に数千万のトークンを必要とする、より困難で長時間実行されるタスクに取り組む中、Fractile は、AI 研究、チップ マイクロアーキテクチャ、ファウンドリ プロセスのイノベーションにまたがる、より高速な推論を経済的に実行可能にするように設計されたチップとシステムを開発しています。
Fractile の CEO 兼創設者である Walter Goodwin 氏の投稿によると、Fractile は、最終的には世界で最も有能な AI システムであっても、有用な出力を生成するのにかかる時間によってその影響が制限されるだろうという賭けに基づいて設立されました。
「私たちは論理的な結論にすべてを賭けています。つまり、この潜在的な価値を真に解き放ち、大規模なスピードを可能にする唯一の方法は、フロンティア AI モデルを実行するハードウェアを根本的に再発明することです。
それ以来、私たちはこの問題に取り組むチップとシステムを構築してきました。」
それ以来、生の AI 機能はすでに、クエリから出力までの時間がフロンティア機能の重要な制限となる時点に達していると彼は主張します。モデルが改良されるにつれて、ますます長い出力シーケンスにわたって調整できる機能も向上しました。
しかし、推論のユニットエコノミクスは残酷な制約となっています。
「推論は AI 業界の収益源であると同時に、AI 業界の拡大を制限する要因でもあります。」
同氏はさらに、今日のLLMは困難な問題への取り組みを求めてすでに最大1億トークンを生産していると主張している。
「これらのモデルが既存のチップで実行される傾向にある 1 秒あたり約 40 トークン程度では、この長さの 1 つの出力が完了するまでに 1 か月かかります。
推論速度の技術的および経済的制限、特に現在のアーキテクチャでは拡張できないメモリ帯域幅が、進歩を制限しているものです。
これはまさに、Fractile が取り組むためにゼロから構築してきた問題です。」
今後を見据えて、グッドウィン氏は、今日のワークロードを加速するのではなく、Fractile のようなハードウェアが可能にするまったく新しいワークロードに価値があると考えています。
同社はロンドン、ブリストル、サンフランシスコ、台北で人材を募集しています。