企業が自社のポリシーと事業に沿って、生成 AI を安全かつ制御された形で導入できるようにする調整プラットフォームである Alinia AI が、プレシード資金として 240 万ドルを調達しました。
生成 AI の大幅な導入が進行中ですが、その急速な導入には大きな課題が伴います。
一例としては、不適切またはブランドに損害を与えるコンテンツを防止するために、リスクに直面した際の制御と安全性の管理が挙げられます。
また、厳格な安全性チェックと明確な文書化を要求するEU AI法、バイデン大統領の大統領令、カナダの法案C-27など、今後の規制の取り組みにも対応する必要がある。
安全性とビジネスの両方の観点から生成 AI アプリケーションのパフォーマンスと信頼性を評価することは、今日の企業にとって最大の障害です。
これは、微調整や RAG などの高度な手法を活用し、LLM バージョンを維持し、機械学習、ガバナンス、ビジネス ドメインの専門家を含むチーム間で調整を行う場合、企業にとって特に困難です。
Ariadna と Carlos Muñoz Ferrandis は Alinia AI を共同設立しました。
フォント・リチョス氏は、Twitter の元 ML プラットフォーム責任者で、企業レベルで責任ある AI を確立しました。それ以前は、エンタープライズ AI の初期の IBM Watson で開発ディレクターを務め、ソフトウェア エンジニア、デザイナー、研究者のチームを率いて、第 1 世代の AI アシスタントやその他の AI エンタープライズ ソリューションを構築しました。彼女はカーネギーメロン大学で NLP の博士号を取得しています。
カルロスは、かつてはハギング フェイスの技術および規制問題顧問を務め、オープン LLM のガバナンスを共同で主導し、EU AI 法に重点的に取り組んでいました。ミュンヘンのマックス プランク革新競争研究所でオープンソースと標準の博士号を取得したカルロスは、AI 規制に関する OECD AI の外部顧問でもありました。
「この技術は、ビジネス シナリオで実稼働できる状態ではありません。企業のリーダーは、生成 AI アプリケーションが不正に動作して注目を集めることを当然恐れています。評判が傷つくことで、彼らは夜も眠れなくなるのです」と Alinia の共同創設者兼 CEO である Ariadna Font Llitjós 氏は言います。
「アライメントと呼ばれるプロセスを使用して、AI システムが期待される動作、ポリシー、規制要件に準拠していることを確認し、企業がこの新しいテクノロジーの可能性をつかみながら、リスクと潜在的な損害を最小限に抑えられるよう支援します。」
Font Llitjós 氏は、Twitter で、トレーニング データと ML アルゴリズムの意図しない偏りが脆弱な集団に与える影響を目の当たりにしました。
彼女はこの学びを Alinia に持ち込み、他の企業が従業員や顧客のために生成 AI を適切に導入できる可能性を高められるようにしています。
Alinia Alignment Platform は、評価やリアルタイム監視から最先端の最適化技術まで、現在複数のツールを必要とする統合 AI ガバナンス アプローチと、LLM ライフサイクルのあらゆる段階でコンプライアンスを容易にするドキュメント機能を提供することを目指しています。
これにより、顧客は、LLM を利用したアプリケーションがさまざまなエンタープライズ シナリオで特定のタスクに対してどのように動作し、特定のルールに準拠しているかについて、明確かつ正確な証拠を得ることができます。
「Hugging Face での私の経験では、LLM 開発のガバナンスと安全性の側面には信じられないほどの時間と労力が必要です。しかし、何百万回も使用される基盤モデルをリリースしようとする場合、ガバナンスと安全性は譲れないものです」と共同創設者兼 COO の Carlos Muñoz Ferrandis 氏は言います。
Speedinvest と Precursor がこのラウンドを主導し、KFund や、Clem Délangue および Thom Wolf (Hugging Face 共同創設者)、Tom Preston (GitHub 共同創設者)、Xavier Amatriain (Google Core AI VP)、Oriol Vinyals (Google DeepMind 研究担当 VP) などの著名なエンジェル投資家が参加しました。
Speedinvest のパートナーである Fred Hagenauer 氏は、次のように述べています。
「アリとカルロスは、生成 AI 分野の調整問題に取り組む上で、私たちが目にした中で最も優れたプロファイルを持っています。エンタープライズ AI、RAI、そして今日求められている LLM ガバナンスの初期の時代における彼らの経験と知識は、本当にユニークなものです。私たちにとって、彼らを最初にサポートすることは当然のことでした。」
Oriol Vinyals (Google DeepMind リサーチ担当副社長):
「強力な機械学習モデルの安全な開発と使用は、すべての人にとって関心事であるべきであり、この分野では多様性が鍵となります。だからこそ、アリとカルロスが Alinia でこの非常に微妙な課題に取り組むことが非常に重要なのです。」
GitHub の共同創設者 Tom Prestner 氏は次のように述べています。
「Alinia はちょうど良いタイミングで登場しました。ほとんどの企業はまだ実験段階にあり、重要でないビジネスオペレーションのために社内で LLM を試しています。これはすぐに変わるでしょう。」
Alinia は、この資金を使用して追加の人材を雇用し、Alinia Alignment Platform を構築して、安全性と規制要件に重点を置いたエンドツーエンドの調整プロセスを作成し、LLM のさまざまな形態と言語にわたって生成 AI を安全かつ包括的に使用できるようにします。
メイン画像: Alinia Ai。写真: クレジットなし。