「先端AI兵器化、人類絶滅の脅威になる」 米国務省の依頼受けた報告書が警鐘
Posted March. 14, 2024 09:03,
Updated March. 14, 2024 09:03
「先端AI兵器化、人類絶滅の脅威になる」 米国務省の依頼受けた報告書が警鐘.
March. 14, 2024 09:03.
by キム・ボラ記者 purple@donga.com.
最近、グローバル市場で最大の関心事となっている人工知能(AI)が映画「ターミネーター」や「アベンジャーズ:エイジ・オブ・ウルトロン」のように人類を終末に追い込む脅威になりうると警鐘を鳴らす報告書が発表された。AIが搭載されればどんな武器より危険な「大量破壊兵器」になりかねず、世界の民主主義にも途方もない障害になりかねないと予測している。米CNNは12日、「米国務省の依頼を受けて民間業者グラッドストーンAIが作成した報告書は、AIによる災難を避けられる時間はあまり残っていないと警告している」と報じた。247ページに及ぶ報告書は、グーグルやディープマインドなどのビックテックの経営陣やサイバーセキュリティ研究者、兵器専門家、安全保障担当の政府当局者など約200人のインタビューを基に作成された。報告書は、AIシステムの兵器化が最も深刻な問題だと指摘している。人間水準の認識を持つ汎用人工知能(AGI=Artificial General Intelligence)が武器化されれば「生化学兵器やサイバーテロを設計して実行でき、既存になかった応用兵器を作ることができるから」だ説明した。その上、人間がAI兵器に対する統制力を失うこともあり得る。国の安全保障やセキュリティにもAI開発は悪影響を及ぼしかねない。AI企業が競争への圧迫に苦しめられ、安全問題を論外にして開発が加速化すれば、国家的な脅威に発展する可能性がある。AI研究所の関係者は、「次世代の先端AIモデルが、誰もが接近可能なオープンソースになれば、民主主義にも『恐ろしい』悪い結果を招くだろう」と指摘。報告書は、AIの脅威に対応するためには、監督機関と規制法案の作成を急がなければならないと提言した。
한국어
最近、グローバル市場で最大の関心事となっている人工知能(AI)が映画「ターミネーター」や「アベンジャーズ:エイジ・オブ・ウルトロン」のように人類を終末に追い込む脅威になりうると警鐘を鳴らす報告書が発表された。AIが搭載されればどんな武器より危険な「大量破壊兵器」になりかねず、世界の民主主義にも途方もない障害になりかねないと予測している。
米CNNは12日、「米国務省の依頼を受けて民間業者グラッドストーンAIが作成した報告書は、AIによる災難を避けられる時間はあまり残っていないと警告している」と報じた。247ページに及ぶ報告書は、グーグルやディープマインドなどのビックテックの経営陣やサイバーセキュリティ研究者、兵器専門家、安全保障担当の政府当局者など約200人のインタビューを基に作成された。
報告書は、AIシステムの兵器化が最も深刻な問題だと指摘している。人間水準の認識を持つ汎用人工知能(AGI=Artificial General Intelligence)が武器化されれば「生化学兵器やサイバーテロを設計して実行でき、既存になかった応用兵器を作ることができるから」だ説明した。その上、人間がAI兵器に対する統制力を失うこともあり得る。国の安全保障やセキュリティにもAI開発は悪影響を及ぼしかねない。AI企業が競争への圧迫に苦しめられ、安全問題を論外にして開発が加速化すれば、国家的な脅威に発展する可能性がある。AI研究所の関係者は、「次世代の先端AIモデルが、誰もが接近可能なオープンソースになれば、民主主義にも『恐ろしい』悪い結果を招くだろう」と指摘。報告書は、AIの脅威に対応するためには、監督機関と規制法案の作成を急がなければならないと提言した。
キム・ボラ記者 purple@donga.com
アクセスランキング