イラン攻撃でAI使用か 深刻な「道徳的空白」に専門家が警鐘
イラン攻撃でAI使用か 深刻な「道徳的空白」に専門家が警鐘
【AFP＝時事】米国とイスラエルによる対イラン攻撃において、標的の選定や攻撃の実行にAI（人工知能）が広範囲に使用されていることが指摘され、兵器に対する「人間の制御」が失われつつあるとの懸念が生じている。専門家が4日、AFPの取材に応じた。
2月28日の攻撃開始以降、米国とイスラエルはイラン全土で数千回の空爆を実施している。その中には、開戦初日にイランの最高指導者アヤトラ・アリ・ハメネイ師を殺害した攻撃も含まれる。
イラン攻撃でAI使用か 深刻な「道徳的空白」に専門家が警鐘
ニューヨークにあるニュースクール大学准教授で、AIとロボット工学の専門家であるピーター・アサロ氏は、両国が標的の特定にAIを使用した可能性が高いと指摘する。その根拠として、計画段階が極めて短期間であったことや、標的の数が膨大であることを挙げた。
AIの使用で作戦をより迅速に進めることはできるが、その一方で道徳的・法的な問題が置き去りにされてしまうと同氏は警鐘を鳴らす。
自律型兵器システムの規制を求める「Stop Killer Robots」キャンペーンの副代表を務めるアサロ氏は「プロセスを自動化することで、人間が行うよりもはるかに速く、膨大な標的リストを生成できる」と話す。
イラン攻撃でAI使用か 深刻な「道徳的空白」に専門家が警鐘
しかし同時に「倫理的・法的な問いが生じる。リストアップされた個々の標的について、人間が実際にどれほど精査し、攻撃を承認する前にその合法性や軍事的価値を検証しているのだろうか」と疑問を呈した。
イラン攻撃でAI使用か 深刻な「道徳的空白」に専門家が警鐘
■制御の喪失か？
アサロ氏は「こうしたシステムの狙いはすべて、敵よりも速く意思決定し、行動することにある」とした上で、「果たして、起きていることを本当に人間が制御できているのだろうか？」と問いかける。
自動兵器の使用を規制する条約についてはこの10年間議論が続いており、各国は今年後半、本格的な交渉を開始するかどうかを決定する予定だ。
現在、AIや自律型兵器に特化した条約は存在しないが、法的な空白状態で運用されているわけではなく、既存の国際法が適用される。
国連での議論の傍らでアサロ氏は、議論の核心は標的の選定にあり、「意味のある人間による制御」が失われることへの恐怖があるとAFPに述べた。
AI導入の推進派は「AIは非常に正確で、人間よりもミスが少ない」と繰り返すが、アサロ氏は「これらのシステムが実際にどのように機能しているのかは判明していない」ことを強調する。
イラン攻撃でAI使用か 深刻な「道徳的空白」に専門家が警鐘
また、AIが不透明なシステムの上で動作しており、その判断に至る経緯がほとんど可視化されていない点を指摘し、「システムの出力を正当に評価したり、ミスが起きた際に原因を特定したりする簡単な方法はない」と述べた。
■「道徳的な一線はどこに？」
さらに「もし何かがうまくいかなかった場合、誰が責任を負うのか。法的にどう定義し、どこで道徳的な線引きをするのか」と述べ、28日に攻撃を受けたイラン南部ホルムズガン州の小学校のケースを例に挙げた。イラン側によれば、この攻撃では150人以上が死亡している。
この攻撃をめぐってイラン側は米国とイスラエルを非難しているが、両国ともこれまでのところ関与を認めてはいない。AFPも死者数を独自に確認できておらず、現場を訪れることもできていない。
AFPは、この学校がイラン革命防衛隊が管理する2つの拠点のすぐ近くに位置していたことを確認している。これについてアサロ氏は、今回の攻撃に関する報告の一部で、少なくとも10年前から学校と軍事施設が明確に区別されていたことが示されていると指摘した。
もしミスがあったとしても何が原因であったかは不明だとした上で、「本来なされるべき『軍事基地との区別』を行わなかったのは誰なのか」──それが人間なのか、あるいは機械なのかと問いかけた。
もし攻撃にAIが使用されていたのであれば、「データが古かったのか」「データベースのエラーだったのか」あるいは「標的設定は正確だったが、単に精度が及ばなかっただけなのか」という疑問が生じる。「失敗の原因はいくらでも考えられる」のだ。
さらに、より恐ろしい可能性として「システムが実際に『この学校は脅威である』という結論に達してしまった可能性」もあるとした。
それは、その結論の背後にある推論ロジックが一体何であったのか、というより大きな問題を提起することになる。
「AIがどのようにしてこうした決定を下しているのか、我々は真実を危惧すべきだ」とアサロ氏は結んだ。(c)AFP/Nina LARSON
【翻訳編集】AFPBB News
