スイスの AI 安全スタートアップ Calvin Risk は、シード資金で 400 万ドルを調達し、資金総額は 550 万ドルを超えました。
2022 年に設立され、ETH チューリッヒからスピンアウトした Calvin Risk は、企業が AI を安全に導入し、自動テストと定量的リスク評価を通じてこれらのリスクを管理できるよう支援します。
AI モデルは多くの場合「ブラック ボックス」として機能するため、意思決定がどのように行われるか、または根底にあるバイアスが結果に影響を与えるかどうかを理解することが困難になります。
企業にとって、この不透明さは、特に ChatGPT のような生成 AI システムが顧客との対話を強化するにつれて、企業の業務と評判の両方を脅かす予期せぬ結果につながる可能性があります。
さらに、次期 EU AI 法では AI システムに対する厳格な要件が導入され、企業が AI モデルのリスクを評価して文書化することが義務付けられ、違反した場合には厳しい罰則が科せられます。
Calvin Risk は、適応的評価と継続的モニタリングを使用して、企業の AI ポートフォリオ全体のリアルタイムの概要を提供し、潜在的なリスク (定性的および定量的) とそれに関連するバリューアットリスクを予測するプラットフォームを開発しました。
「AI システムが業務の中心になりつつある今、適切なコーポレート ガバナンスには取締役会レベルでの明示的な AI リスク管理が含まれている必要があります」と Calvin Risk の CEO 兼創設者の Julian Riebartsch 氏はコメントしています。
Calvin Risk は、保険会社 Aviva、Lloyds Banking Group、Hub France、Audit Research Center (ARC Institute) などの主要な世界的機関とのパートナーシップを確保しています。
同社はルフトハンザ インダストリー ソリューションズと協力しており、その結果、GenAI モデルは大手認証会社 TÜV Süd から「評価シール認証」を取得した初のモデルとなりました。この認定により、AI モデルが厳格な技術的および倫理的なベンチマークを満たしていることが保証されます。
この投資ラウンドはJoin Capitalとseed + Speed Venturesが主導した。この資金により、Calvin Risk はプラットフォームを拡張し、AI リスク評価ツールを強化し、ヨーロッパ全土に市場範囲を拡大できるようになります。
リード画像: Calvin Risk。写真: クレジットなし。