組織が AI システムをリアルタイムで監視、保護、改善できるよう支援するエンタープライズ AI ガバナンス企業である White Circle は、著名な AI およびテクノロジーのリーダーのグループから 1,100 万ドルのシード資金を調達しました。投資家には、Romain Huet (OpenAI)、Dirk Kingma (Anthropic、旧 OpenAI)、Guillaume Lample (Mistral)、Thomas Wolf (Hugging Face)、Olivier Pomel (Datadog)、François Chollet (Keras)、Mehdi Ghissassi (旧 DeepMind)、Paige Bailey (DeepMind)、David Cramer (Sentry) が含まれます。
AI 導入が加速するにつれて、企業はモデルの信頼性、安全性、ガバナンスに関する課題の増加に直面しています。 「バイブ コーディング」とハードルの低い AI 開発の台頭により、AI を活用した製品を迅速に発売することが容易になりましたが、多くの場合、それらのシステムが展開後にどのように動作するか完全に可視化されませんでした。
White Circle は、企業が単一の API を通じて AI システムのテスト、保護、観察、最適化を支援します。独自のモデルは AI の入出力をリアルタイムで監視し、有害なコンテンツ、幻覚、プロンプト インジェクション攻撃、モデル ドリフト、悪意のあるユーザーを検出します。このプラットフォームは、チームがモデルのパフォーマンスを評価し、長期的に改善するのに役立つ分析ツールも提供します。
実際、ホワイト サークルは、機密データの漏洩、AI エージェントを操作して有害な動作をさせようとする試み、モデルのパフォーマンス低下の兆候などの問題を特定できます。チームはカスタム ポリシーを作成し、レート制限や不正ユーザーの禁止などの強制アクションを自動化できると同時に、ラベル付けされたユーザー フィードバックを通じてシステムが継続的に改善されます。
ホワイトサークルの創設者兼最高経営責任者（CEO）のデニス・シロフ氏は、AI開発の急速なペースは既存のガバナンスの枠組みを上回っていると述べた。
企業は、医療や財務から雇用やセキュリティに至るまで、人々に直接影響を与える分野で AI システムへの依存を高めています。同時に、AI 開発は大幅に利用しやすくなり、監視がより困難になっています。 White Circle は、組織が AI の動作を可視化し、問題が発生した場合の対応を支援し、信頼性、安全性、コンプライアンスを向上させるための統合システムを提供するために構築されました。
White Circle の設計責任者、Elena Iumagulova 氏は、同社は技術チームと非技術チームの両方が AI 監視をより利用しやすくするためにこの製品を設計し、導入規模に関係なく、組織が単一のインターフェイスと API を通じてパフォーマンスを監視し、リスクを特定し、モデルを最適化するための一元的な方法を提供できると付け加えました。
新たな資金は、製品開発を加速し、米国、英国、ヨーロッパ全体にホワイトサークルチームを拡大し、世界的な顧客ベースの継続的な成長をサポートするために使用されます。