北欧の小規模チームが小型言語モデル (SLM) をユーザーのデバイスに直接導入することでビッグテックのクラウド LLM の優位性に挑戦しているため、AI ではデビッド対ゴリアテの変化が生じています。
コペンハーゲンを拠点とするオープンソースのスタートアップ NobodyWho は、プレシード資金として 200 万ユーロを調達した。
同社は、今日の大規模なクラウドベースの LLM に代わる、コスト効率が高く、データが安全で、気候に合わせた代替手段として小型言語モデルを擁護することで、グローバル AI におけるヨーロッパの地位を強化することを目指しています。
そのすべてについて学ぶために、創設者兼 CEO の Cecilie Wagner Falkenstrom に話を聞きました。
NobodyWho は、受賞歴のある起業家でアーティストの Cecilie Wagner Falkenstrom によって設立されました。そのインタラクティブ AI に関する先駆的な取り組みは 2016 年に遡ります。彼女は、共同創設者兼 CTO の Asbjørn Olling およびソフトウェア エンジニアのチームとともに、国連の委託プロジェクトから NASA の国際宇宙ステーションでの 2021 年のエッジ AI 実験に至るまで、ローカル AI テクノロジーの進歩に 10 年近くを費やしてきました。
今日のクラウドベースの LLM は、少数の非欧州ハイテク大手によって管理されており、膨大な計算リソース、常時インターネット アクセス、サードパーティ サーバーへの大量のデータの転送が必要です。これにより、高コスト、ロックイン、およびヨーロッパのデータ セキュリティの構造的損失が生じます。
NobodyWho は根本的に異なるアプローチを採用しています。そのエンジンにより、小型言語モデル (SLM) をラップトップや携帯電話上でローカルに実行できるため、組織や個人はデータを完全に制御できます。デバイスファーストのアーキテクチャにより、データがデバイスから流出する必要がなく、設計により真のデータ主権とプライバシーが実現します。
ワーグナー・ファルケンストロムは次のように説明します。
「これらのモデルは、ほとんどの標準から見て依然として大きいですが、ChatGPT のようなシステムよりもはるかに小さいです。これらは、前世代の大型モデルに匹敵し、実際の多くのユースケースに対して十分以上の能力を備えています。」
セキュリティとプライバシーの利点としてのローカル推論
モデルをローカルで実行すると、プライバシーとセキュリティに即座に影響が出ます。セキュリティの観点からも、これにより、より回復力のあるアーキテクチャが作成されます。
対象となる単一の集中型クラウド サーバーに依存するのではなく、計算は数千、さらには数百万のデバイスに分散されます。さらに、ローカル推論により、コストの負担がクラウド インフラストラクチャから完全に移行されます。
ユーザーは独自のハードウェアを持ち込むため、推論コストを増加させることなくシステムを拡張できます。アプリケーションが 10 人のユーザーにサービスを提供するか、1,000 万人のユーザーにサービスを提供するかに関係なく、クラウドの料金が高騰することはありません。これにより、NGO、公共部門団体、初期段階のスタートアップ企業など、通常は価格が高くつくはずの組織が高度な AI を利用できるようになります。
AI の二酸化炭素排出量を 500 分の 1 に削減
NobodyWho のローカルファースト SLM アーキテクチャは、モデルを縮小し、使用される場所の近くに移動することで、このフットプリントを大幅に削減します。
初期のベンチマークでは、トレーニング フットプリントが最大 100 分の 1、推論フットプリントが最大 500 分の 1 低いことが示されています。したがって、このアプローチはより安くて速いだけでなく、劇的に持続可能でもあります。
デフォルトでオープンソース
推論エンジンや推論ライブラリから開発者統合に至るまで、NobodyWho の中核となるものはすべてオープンソースであり、それは今後も変わりません。 NobodyWho は、独自の言語モデルを構築するのではなく、既存のオープンソース モデルを実際の製品で使用できるようにするインフラストラクチャ層に焦点を当てています。そのエンジンにより、10,000 を超えるオープンソース言語モデルをデバイスやオペレーティング システム間で効率的に実行できます。
「私たちの信念は単純です。モデルはすでに存在しているのです」と創業者兼 CEO のセシリー・ワーグナー・ファルケンストロムは言います。
「本当のボトルネックは、特に機械学習の専門知識を持たない開発者にとって、導入を現実的にすることです。」
ほとんどの開発者は ML の専門家ではない、と彼女は説明します。 NobodyWho の目標は、他のソフトウェアの依存関係を統合するのと同じくらい簡単にローカル言語モデルを実行できるようにすることです。
「アプリ開発者は 2 行のコードでローカル モデルを実行できる必要があります」と彼女は言います。
「AI を出荷するのに機械学習の博士号は必要ありません。」
これを実現するために、NobodyWho は主要な開発者フレームワークと直接統合します。
同社は最近 Python のサポートを開始し、追加のエコシステムにも拡大しており、開発者は ML の深い知識やカスタム インフラストラクチャの作業がなくても NobodyWho を既存のプロジェクトに組み込むことができます。
同社はオープンコア ビジネス モデルで運営されています。すべてのコアコンポーネントはオープンソースのままですが、NobodyWho は微調整サービスを収益化しています。この領域では、コンピューティング要件がすぐに高価になり、チームが単独で管理するには運用が複雑になります。
「企業はオンプレミスでモデルを微調整できます」と Wagner Falkenstrom 氏は説明します。
「しかし、それはサーバー、エンジニアリング時間、継続的なメンテナンスを意味します。代わりに、彼らは私たちのエンジンを使用してモデルを微調整し、コンピューティングの料金を支払うことができ、私たちは少額の取り分を受け取ります。それでも、自分たちで行うよりもはるかに安くて簡単です。」
モデルを微調整すると、追加の推論コストなしで何百万ものエンド ユーザーに展開できるようになります。これは、モデルをクラウドではなくローカルで実行することの主な利点です。データが存在する場所で実行される小規模な言語モデル LLM の代わりに SLM を使用することによるトレードオフが何になるのか興味がありました。
「これまで、クラウドベースのモデルへの API 呼び出しは簡単でしたが、ローカルでモデルを実行するのは困難でした。「私たちはその問題を解決しました」と Wagner Falkenstrom 氏は語ります。
「NobodyWho を使用すると、ローカル推論の従来の複雑さのギャップが効果的に解消されます。」
非常に大規模なモデル、つまり非常に広範囲または複雑な推論タスクが必要なユースケースがまだいくつかあります。それらのモデルは消えません。ただし、チャットボット、人事アシスタント、カスタマー サポート、ドメイン固有のツールなど、ほとんどの実世界のビジネス アプリケーションでは、特に微調整した場合には、小規模言語モデルで十分です。 「小型モデルの微調整も簡単です」と Wagner Falkenstrom 氏は説明しました。
「必要なデータと計算量が減り、より制御可能な動作が得られます。ほとんどの企業は特定のコンテキスト内で運営されており、そこでは小規模なモデルが優れています。」
NobodyWho は、欧州パブリック ライセンス (EUPL) 1.2 を使用しています。これは、個人と企業の両方がそのコード上に商用製品を構築することを明示的に許可しています。これは、主流のオペレーティング システムと開発フレームワークにわたるクロスプラットフォームのサポートにより、現実世界での採用を促進することを目的とした意図的な選択です。
「真の普及を望むなら、商用利用を許可する必要があります」とワーグナー・ファルケンストロム氏は言う。
「そうでなければエコシステムは得られず、デモが得られるだけです。」
5,000 人を超える開発者が構築
すでにエコシステムが形成されつつあります。 NobodyWho には現在、5,000 人を超える開発者が GitHub 経由でこのプラットフォームを使用して開発を行っており、また活発な Discord コミュニティもあり、寄稿者はユースケースについて議論し、フィードバックを共有し、ロードマップの形成に協力しています。
「オープンソースの側面は重要です」と Wagner Falkenstrom 氏は付け加えます。 「それによって、ユーザーだけでなく貢献者も含めた真のコミュニティが生まれるのです。」
MVP をはるかに超えたプラットフォームにより、同社の焦点は規模拡大にしっかりと移行しました。 「私たちは実験段階を過ぎました」と彼女は言います。
「これからは、フレームワークのサポートを拡大し、より多くの開発者が実稼働グレードのアプリケーションを構築できるようにすることが重要です。」
彼女は、AI の次の飛躍は、モデルをより小さく、よりローカルで、より人間中心にすることによってもたらされると信じています。
「AI の未来は規模で勝つのではなく、誰もが自分のデバイスで実行できる分散型モデルによって勝ち取られるでしょう。」
投資家は、特にプライバシーに準拠し、クラウド モデルに代わる費用対効果の高い代替手段に対する需要が高まる中、ローカルでエネルギー効率の高い AI の台頭が欧州にとって大きな戦略的チャンスであると見ています。
このラウンドはPSV TechとThe Footprint Firm、Norsken Evolveが支援している。
「私はセシリーを 10 年近く前から知っており、彼女がどのように大胆なアイデアを実際に実用的なテクノロジーに変え続けるかを直接見てきました」と PSV Tech の共同創設者兼ゼネラル パートナーである Chrisel Piron 氏は述べています。
「NobodyWho を支援することは、私たちにとって簡単なことでした。これは、プライバシーが保護され、エネルギー効率が高く、世界中の開発者や企業がアクセスできるヨーロッパの重要な AI インフラストラクチャを構築する優れたチームです。」
The Footprint Firm の CIO である Sofie Käll 氏は次のように述べています。
「NobodyWho は、開発者にとってこれらの超効率的なモデルを真のプラグアンドプレイにするインフラストラクチャの先駆者です。
これは、最も急速に成長している排出量カテゴリの 1 つにおける、革新的な気候技術の機会であり、私たちは業界をより責任ある AI に向けて推進できるチームをサポートできることに興奮しています。」
ワーグナー・ファルケンストロム氏は、我々が何をしても、「大きいことは良いことだ」というゲームにおいて欧州は米国や中国に勝つことはできないと主張する。
「コンピューティング、資本、ハイパースケール インフラストラクチャは単純に比較できません。
「しかし、私たちの経験から、小型モデルは多くの分野で真に強力であることがわかっていました。これにより、ヨーロッパが異なる方法で競争する機会が生まれます。」
同時に、NobodyWho の活動には、価値観に基づいた側面が強く表れています。彼女はこう断言する。
「EU と北欧出身の私たちは、データ セキュリティ、GDPR コンプライアンス、持続可能性、データ主権を非常に重視しています。NobodyWho はこれらの価値観を反映するように設計されています。」
「テクノロジーは力だ」
ワーグナー・ファルケンストロムは、ヨーロッパは自らを信じる必要があると主張する。私たちは世界最高の教育システム、ソフトウェアエンジニア、研究機関をいくつか持っています。
「米国をコピーする必要はありません。欧州の強みと価値観を反映した AI を構築する必要があります。さらに、テクノロジーは力です。
プライバシー、主権、持続可能性、民主的管理を重視する場合、それらの価値観をテクノロジー自体に組み込む必要があります。それが私たちが NobodyWho でやろうとしていること、つまり誰でも構築できる分散型でオープンなプライバシー保護 AI です。」
Wagner Falkenstrom 氏は、NobodyWho を、小規模言語モデル専用のインフラストラクチャを構築する企業の最初の本格的な波の一部であると考えています。
「1 年前、SLM は広く議論されていませんでした。現在、開発者と投資家はこのカテゴリーを理解しています。モデルは急速に改善され、ツールは成熟しています。
大手テクノロジー企業がこの分野に参入するでしょうが、彼らは自社のエコシステムに合わせて最適化するでしょう。 Apple は Apple のために構築します。 Microsoft は Microsoft のために構築します。私たちはプラットフォームに依存しません。それが有意義な機会を生み出すのです。」