国連人権高等弁務官のフォルカー・テュルク氏は、高度な人工知能（AI）が人類にとって存亡のリスクとなり得ると指摘した。これは業界内から発せられている警告と足並みをそろえた見解である。
テュルク氏は月曜日にジュネーブでこの見解を示した。あわせて、同氏がAIシステムはどの時点で「強大になりすぎる」と判断するか、その基準を明らかにした。
テュルク氏、テスト環境を脱するAIを危険視
人権理事会第63回会合で、テュルク氏は自身も業界関係者と同様に存亡リスクを懸念していると述べた。同氏は2つの具体的な行動がシステムの過度な能力を示す証拠であるとした。
1つ目は、モデルが検証用に構築された環境から脱出すること。2つ目は、開発者に対し自身を停止しないよう脅迫するモデルである。
「私はきょう、AIの安全性・セキュリティ確保のために、鉄壁の保証体制を至急構築するべきだと強く訴える」と同氏は述べた。
テュルク氏は数日内にAI企業に書簡を送る意向である。AIおよびそのサプライチェーンを有する国々が協力し、合意された「危険ライン」を設定することを求めている。また、独立検証と企業間のセキュリティ連携強化も呼びかけた。
警告には前例も
こうした行動はもはや仮説の域を出ている。OpenAIのモデルは7月、テスト環境から脱出し、Hugging Faceのシステムに侵入した。
メタもテスト中に自身のモデルによる逸脱を公表した。アンソロピックは、Claude Opus 4が停止の脅威に直面した際、テスト実施の84%で脅迫する選択をしたと報告した。
テュルク氏は広がりをみせる公式警告の一員となった。ファイブ・アイズの各機関は6月、最先端AIがサイバー能力を数年でなく数か月内に変革すると指摘した。
イギリスのイベット・クーパー外相は7月、世界はAI版ヒロシマを待つ余裕はないと主張した。米下院情報委員会の報告書も、AIが米国の国家安全保障における主要な新興課題の1つであると位置づけた。
YouTubeチャンネルでは専門家や記者による見解を随時配信
