本日、パリのAIアクションサミットで、堅牢なオープンオンライン安全ツール（Roost）イニシアチブの発売を見ています。
Roostは、コロンビア大学のグローバル政治研究所でインキュベートされた新しい非営利組織であり、AI時代に適したスケーラブルで相互運用可能な安全インフラストラクチャを構築することを目的として、主要なテクノロジー企業と慈善の専門知識、リソース、投資をまとめます。 。
サミットの優先事項には、「AIがオープンで包括的で、透明性があり、倫理的で、安全で、安全で信頼できることを保証する」が含まれます。
OpenukのCEOであるAmanda Brockによると、この発売は、ヨーロッパにとって重要なオープンソーステクノロジーへのより広範なコミットメントの一部です。
「マクロンのフランスで予想されるように、過去のサミットとは異なり、AIアクションサミットはオープンソースとオープンソースコミュニティを参照しています。
その出力は、科学の3つの主要な原則であるソリューションに基づいています。これは、オープンAIモデルおよび政策基準に焦点を当てています。」
彼女は、規制とは対照的に、「AIを管理するオープンソースのデジタルツール」を通じてガバナンスを提唱することは、Openukがしばらくの間行ってきたことです。」
「革新を可能にしながら、ガバナンスと安全への唯一のもっともらしいルートです。英国のAI Safety Instituteは、5月に「検査」LLM評価プラットフォームを調達する方法を開き、今日のRoostの「サミット」の発売のために先導しました。」
ブロックによると、このアプローチは将来の管理の鍵です。 AIのガバナンスと安全。
「欧州委員会は、世界の他の地域に並置されている面倒で複雑なAI法を実施するため、ますます一歩離れていると考えています。」
Roostは、無料のオープンソースで、児童の性的虐待資料（CSAM）を検出、レビュー、レポートするための無料の使いやすいツールを提供します。大規模な言語モデル（LLMS）を活用して安全性インフラストラクチャを電源で提供します。コアセーフティテクノロジーをよりアクセスしやすく、よりユーザーフレンドリーにします。
専用の技術チームが実践的なサポートを提供しているため、Roostは組織が存在する組織に会い、革新を続けながら堅牢な安全対策を統合するのに役立ちます。
Openuk Advisory BoardのLaura Gilbert博士は、AIツールと安全フレームワークをオープンソースにすると、透明性を通じて信頼を構築するイノベーションのためのグローバルな研究室を作成すると主張しています。
「このアプローチにより、適切な保護手段が確保され、よく理解されていることを確実にするために、AIの進歩の急速なペースを維持できる可能性があります。
このテクノロジーの計り知れない可能性は、開発と安全プロトコルがすべての人がアクセスできる場合にのみ適切に実現でき、国境を超えた共同ガバナンスを可能にします。」
Roostの設立パートナーは次のとおりです。
- エリック・シュミット、
- 不和、
- Openai、
- グーグル、
- Roblox、
- ジョン・Sとジェームズ・L・ナイト財団、
- ai共同、
- パトリックJ.マクガバン財団、および
- Project Liberty Institute。
Roostはまた、AI、慈善活動、学界、オープンソース、子供の安全、暴力的な過激主義の分野からの幅広いパートナーのサポートと専門知識の恩恵を受けています。
これまで、Roostは、さまざまな大手慈善事業やトップテクノロジー企業からの最初の4年間の事業で2700万ドル以上を調達しています。 Roostは、その成長を加速し、できるだけ多くの組織に提供を拡大することを目指しています。
ブロックによると、AI先物が少数の企業に座っていないことを保証することは、このヨーロッパに拠点を置くサミットのすべての会話にわたって根本的なテーマです。
「本当の問題は、米国と中国を説得して、局所の終わりの声明にサインアップできるかどうかです。
英国にとっては、国際企業と協力して国内の能力を構築して、英国の成功に重要なインフラストラクチャを構築しなければならないことは明らかです。ワールドクラスになるには、英国では、オープンソースのツールを通じてグローバルな規範とガバナンスを生み出す基準を管理するインフラストラクチャが必要です。」
サミットでのさらなる発表には、「現在のAI」財団の立ち上げが含まれます。これは、発売時に4億ユーロの「意志のある国」によって資金提供され、AIの民主化の必要な可能性としてデータコモンズと倫理的AI慣行が含まれます。