英国が重大なAIインシデントの可能性への備えとして、潜在的な新たな法律を含むサイバー防御を強化すると発表したため、英国のAI大臣は本日、フロンティアAI研究所に対し、主要なAIシステムの安全性を強化するよう呼び掛けた。
英国のAI大臣カニシカ・ナラヤン氏は本日ロンドンで講演し、「世界で最も強力なAIシステムを開発している企業への私のメッセージは、科学者が深刻な危険を警告したら耳を傾けてください。予期せぬ動作を調査してください。そして、リスクを適切に制御できない場合は、システムを公開しないでください。」と述べた。
同氏の警告は、今年初めにOpenAIエージェントが不正行為を行い、オーストラリア政府や一般大衆にとって危険すぎるとして新しいAIモデルの完全リリースを差し止めているアンスロピックなどの組織に対して「無許可」の行動を開始したことを受けてのものだ。
ナラヤン氏は本日、AIフロンティアモデルがますます強力になり、自律的に行動できるようになるにつれ、英国は防衛を強化し、将来の深刻な事件に備えるために今行動する必要があると述べた。
同氏はまた、英国のAIセキュリティ研究所の科学者らがAI開発者や米国政府との協力を経て、現在最新世代の高度なAIモデルを評価していると述べた。
さらに「私は英国が人工知能を使った攻撃が世界で最も困難な国の一つになってほしいと願っている。我々は自由に使えるあらゆる権限を行使する。必要な場合には法制化する。そして我々は法律だけを頼りにするつもりはない。我々は英国の創意工夫、つまりこれらのますます強力になっているシステムを理解し、新たな脅威から防御し、事態が悪化した場合に対応するための科学的専門知識、技術的能力、制度に注目するつもりだ」と付け加えた。
同氏は、政府の取り組みにより、政府システム全体にわたる潜在的なサイバー脆弱性がすでに1000件以上修正されていると述べた。
その他の新たな対策としては、政府が病院や公益事業などの英国の必須サービスを新たなAI関連リスクからより確実に保護するために、サイバーセキュリティ法案と強靱化法案の一部を強化することを検討していることが含まれる。
政府はまた、人間の監督をほとんど受けずに複雑なタスクを実行できる AI エージェントが関与するインシデントにどのように対応すべきかを検討するため、国家サイバー セキュリティ センターおよび AI セキュリティ研究所と協力して作業を行っています。
政府はまた、AI検証という新興分野がAIの深刻なリスクを軽減する取り組みの重要な部分になると述べた。