幹部、初の国連理事会でAIの安全性を保証するのにビッグテクノロジーは信頼できないと発言

国連 (AP通信) – AIの商業化競争をリードする少数の大手ハイテク企業は、私たちがまだ理解しておらず、「混乱または予測不可能な動作」を起こしやすい人工知能システムの安全性を保証することを信頼できません。同社幹部は火曜日、世界平和に対するAIの脅威について第1回国連安全保障理事会会議で語った。

AI企業アンスロピックの共同創設者ジャック・クラーク氏は、それがその理由だと語った。 テクノロジーの悪用を防ぐために世界が団結しなければなりません。

クラーク氏は、自社が安全性と注意力を強調するようにAIチャットボットを訓練するために後ろ向きに取り組んでいると述べ、今できる最も有益なことは「これらのシステムの機能、誤用、潜在的な安全上の欠陥をテストする方法の開発に取り組むことだ」と語った。 」 Clark 氏は、最も有名な ChatGPT チャットボットの作成者である OpenAI を離れ、Anthropic を設立しました。その競合 AI 製品は Claude と呼ばれています。

同氏は、新しい AI システムが空戦シミュレーションで軍のパイロットに勝利し、核融合炉内のプラズマを安定させ、次世代半導体のコンポーネントを設計し、生産ラインで商品を検査できるようになる 2023 年までの過去 10 年間にわたる AI の成長を追跡しました。

しかし、AIは多大な利益をもたらす一方で、例えば生物学の理解には生物兵器を製造できるAIシステムが使用される可能性があると同氏は述べた。

クラーク氏はまた、AI システムの 2 つの本質的な性質、つまり誤用の可能性と予測不可能性、そしてこのような限られた関係者によって開発される AI システムの本質的な脆弱性による「国際平和、安全保障、世界の安定に対する潜在的な脅威」についても警告しました。 」

クラーク氏は、AI システムを構築するための洗練されたコンピューター、大規模なデータ、資本を保有しているのは世界中でハイテク企業であり、したがって彼らが AI システムの開発を定義し続ける可能性が高いと強調しました。

クラーク氏は国連の最も強力な機関へのビデオブリーフィングの中で、世界規模の行動が成功することへの期待も表明した。

同氏は、欧州連合、中国、米国を含む多くの国がAI提案において安全性試験と評価の重要性を強調しているのを見て勇気づけられたと述べた。

しかし現時点では、「これらのフロンティアシステムを差別、悪用、安全性などについてテストする方法」に関する基準やベストプラクティスさえ存在せず、そのため政府が政策を策定することが困難になり、民間部門が情報の優位性を享受することになっている。彼は言った。

「規制に対する賢明なアプローチは、AI システムの特定の機能や欠陥を評価する能力を持つことから始まります」とクラーク氏は述べています。 「そして、失敗したアプローチは、効果的な測定や評価によって裏付けられていない壮大な政策のアイデアから始まることになります。」

AI システムの堅牢かつ信頼性の高い評価があれば、「政府は企業に責任を持たせることができ、企業は AI システムを導入したい世界からの信頼を獲得できる」と同氏は述べています。 しかし、しっかりとした評価がなければ、「規制が世界の安全保障を脅かし、限られた民間セクターの主体に未来を引き渡すリスクにさらされることになる」と同氏は述べた。

OpenAIの最高経営責任者（CEO）サム・アルトマン氏など他のAI幹部も規制を求めている。 しかし、懐疑論者らは、小規模なプレーヤーが大規模な言語モデルを規制の制約に準拠させるための高額なコストに悩まされている中、OpenAI、Google、Microsoftを筆頭とする潤沢な資金を持つ先行者にとって、規制は恩恵となる可能性があると主張している。

アントニオ・グテーレス国連事務総長は、国連はAIの利益を最大化し、そのリスクを軽減するための世界標準を採用するのに「理想的な場所」であると述べた。

彼は評議会に対し、生成的手法の到来を警告した。 AI は国際の平和と安全に非常に深刻な影響を与える可能性がありますテロリスト、犯罪者、政府による使用の可能性を指摘し、「想像を絶する規模の恐ろしいレベルの死と破壊、広範なトラウマ、深層心理的ダメージ」を引き起こしていると指摘した。

グテーレス氏は、各国を団結させる第一歩として、年末までに世界的なAIガバナンスの選択肢について報告するハイレベルの人工知能諮問委員会を任命すると述べた。

国連事務総長はまた、「国際原子力機関、国際民間航空機関、政府間パネルなどのモデルに触発された、AIを管理する世界的な取り組みを支援するための新しい国連機関の創設を求める一部の国からの呼びかけを歓迎する」と述べた。気候変動について。」

中国科学院の脳にインスピレーションを得た認知知能研究室の所長である曽毅教授は評議会に対し、「世界の平和と安全を確保するため、開発と統治のためのAIに関する枠組みを確立するために国連が中心的な役割を果たさなければならない」と述べた。

中国・英国AI倫理・ガバナンス研究センターの共同所長でもあるゼン氏は、AIが国際の平和と安全にもたらす短期的および長期的な課題を検討する作業部会の設立を安全保障理事会が検討することを提案した。

ゼン氏はビデオブリーフィングの中で、最近の生成AIシステムは「すべてインテリジェントに見える情報処理ツール」だが、実際には理解しておらず、したがって「真のインテリジェントではない」と強調した。

そして「AIは決して人間のふりをすべきではない」と警告し、生身の人間が特にすべての兵器システムの制御を維持しなければならないと主張した。

今月の理事会議長国である英国に合わせて会議の議長を務めた英国のジェームズ・クレバリー外相は、英国は今秋、AIの安全性に関する初の主要な世界サミットに世界の指導者を集めると述べた。

「AIの影響を受けない国は存在しないため、あらゆる分野の国際的な関係者の最も広範な連合を巻き込み、関与させる必要がある」と同氏は述べた。 「私たちの共通の目標は、AI のリスクを検討し、協調的な行動を通じてリスクを軽減できる方法を決定することです。」

——

AP テクノロジー ライターの Frank Bajak がボストンからこのレポートに寄稿しました