最新AI「クロード・ミュトス」に危機感「預金が盗まれるリスクは?」「対策プロジェクト立ち上げは?」長妻議員が質問 議場から“助け舟のヤジ”も
最新AI「クロード・ミュトス」に危機感「預金が盗まれるリスクは？」「対策プロジェクト立ち上げは？」長妻議員が質問 議場から“助け舟のヤジ”も
28日の衆議院本会議で、経済安全保障推進法改正案への質疑が行われた。
中道改革連合の長妻昭議員は「経済安全保障は先進国の中でも日本が最も対応が遅れており、その増強は喫緊の課題です。しかし状況が激変する中、本法案は何周も遅れていると言わざるをえません」と切り出した。そして取り上げたのは、米アンソロピック社の最新AI「Claude Mythos」の問題だ。
長妻議員は「（日本にとっての）危機は、フロンティアAIモデルであるアンソロピック社のクロード・ミュトスの脅威です。システムの脆弱性を一瞬に見抜き、悪用すればいわばどんな金庫でも開けてしまう金庫破りになります。核兵器並みといわれるゆえんです。いずれアンソロピック社以外でも、同様の性能以上のAIが開発され、悪用が広がるのは時間の問題です。現行の能動的サイバー防御法案だけでも、国家サイバー統括室だけでも手に負える問題ではなく、サプライチェーンをも破壊する、まさに経済安全保障の問題です」と危機感をあらわにした。
そして「真っ先に狙われる可能性があるのが金融機関です。クロード・ミュトスの出現で預金が盗まれるリスクは高まっていると言えるのか、金融庁にお尋ねします。また、通信、水道、電力、運輸などマヒさせて社会が大混乱に陥るリスクも想定されます。政府はこの危機感をどの程度お持ちなのでしょうか」と訴えた。
さらに「米国ではクロード・ミュトス等への対策として、『グラスウィング』というプロジェクトを立ち上げ、AIによって防御体制を取るなど取り組みが進められております。日本では単に危機を共有するだけの情けないレベルにとどまっており、本法案にある官民協議会を活用して、日本版グラスウィングのようなプロジェクトを立ち上げるお考えがあるのでしょうか」と質問。
ここで順調に質問を続けていた長妻議員に異変がおきる。「本法案は」と言ったところで詰まってしまう。一瞬の沈黙のあと、議場から「本問題は！」と“助け舟のヤジ”が飛び、長妻議員は「本問題は。失礼」と述べると笑いもおきた。続けて「本問題は官民協議会でも議論されることになるのでしょうか。お尋ねします。本来は手遅れにならないためにも、本法案の審議の前に、迅速に日本版グラスウィングのプロジェクトを立ち上げるべきと考えますが、いかがですか。これは緊急を要する大問題です」と訴えると、議場からは「そうだ！」の声も飛んだ。
政府の基本方針：基幹インフラ保護と官民連携の枠組み
これに対し、小野田紀美経済安全保障担当大臣は「AIがサイバー攻撃に悪用され、我が国の基幹インフラが危険にさらされるリスクをいかに回避するかという点は、重要な課題であると認識しています。現在、基幹インフラ役務の安定的な提供を確保するため、政府においてはサイバーセキュリティ等の観点からさまざまな施策を包括的かつ重層的に行っています」と答えた。
続けて「経済安全保障推進法における取り組みとしては、基幹インフラ制度の運用を通じてサイバー攻撃等も含め、特定妨害行為の恐れの低減を図っているところです。これに加え、基幹インフラ所管省庁においては、各業法やガイドライン等に基づき、事業者に対してサイバーセキュリティ対策を行うよう定めています。また、基幹インフラ事業者にはサイバー対処能力強化法に基づき、本年10月1日からサイバーセキュリティ・インシデントが発生した場合等の報告が義務付けられ、さらなるサイバーセキュリティ強化のための取り組みが進むと承知しています」と述べた。
そして「ご指摘のクロード・ミュトスをはじめとするAIの急速な進展への対応については、AISI（AIセーフティ・インスティテュート）とも協働しつつ、高度なAIの技術動向や国際情勢等について情報収集や分析を行い、必要に応じて対策を講ずる等、関係省庁と連携して適切に対応してまいります。いずれにいたしましても引き続き、基幹インフラ制度を通じて基幹インフラ役務の安定的な提供の確保に努めてまいります」と述べた。
続いて「官民協議会は、経済安全保障では政府のみならず民間企業等も主要な担い手となることから、経済安全保障上の幅広い課題についてあらゆる脅威やリスクを念頭に検討を行うために創設するものです。米国企業が開発したプログラムの脆弱性を発見する能力に長けたAIの事例も含め、AIを活用したサイバー対処能力の強化は我が国の重要な課題です」と説明。
そして「金融分野においては金融庁主導によりAI脅威に対する金融分野のサイバーセキュリティ対策強化に関する官民連携会議が開催され、また、国家サイバー統括室においてもAIを活用したサイバー対処能力の強化について、有識者会議で議論が進められていると承知しています。本官民協議会で協議を行う個別のテーマについては、こうした関係省庁の動きや改正法施行後の経済安全保障環境をふまえ、適時適切に判断してまいります」と答えた。
金融版「日本版グラスウィング」の立ち上げ
また、片山さつき財務・金融担当大臣は「AI技術が急速に進展する中、サイバー攻撃にAIが活用されることで攻撃のスピードや規模が劇的に加速・拡大するなど、金融業界においてもサイバーセキュリティをめぐる脅威は高まっていると認識しています。金融システムについては、相互接続性が高く、リアルタイムで処理されているため、サイバー攻撃により市場への影響や信用不安に波及しうるという特性があります。こうした中、金融機関は重要インフラ機能を担う立場として、脆弱性情報の把握から、脆弱性を修正するパッチ適用までの迅速化や、インシデント発生時の備えなどがこれまで以上に重要になるものと考えております」と答えた。
また、日本版グラスウィングについては、「AI技術の進展による脅威への対応は早急に進める必要があると認識しています。金融庁としては、4月24日金曜日に、AI脅威に対する金融分野のサイバーセキュリティ対策強化に関する官民連絡会議を開催し、金融業界と政府、日本銀行等が共通の理解を持ち、先を見据えた対応を検討していくため、事務レベルの議論を深める作業部会を立ち上げることについて出席者から賛同を得ました。いわば、金融の日本版プロジェクト・グラスウィングであるこの作業部会を中心に、クロード・ミュトスをはじめとしたAIモデルへの対応等について迅速に検討してまいります」と答えた。（ABEMA NEWS）
【映像】珍しい“助け舟のヤジ”の瞬間（実際の様子）
【映像】ラサール議員が福島党首に「握手辞退」した瞬間（実際の様子）
【画像】「東大の山口百恵」と呼ばれた頃の片山さつき氏
