AI（人工知能）-ガバナンス

生成AIの登場により国内外の状況が大きく変化したことで、日本のAI戦略が大きく変わりました。
まず、内閣府、総務省、経済産業省が連携して既存のガイドラインを統合し、生成AIなどの要素も追加した「AI事業者ガイドライン」が2024年4月に公開されました。今年の3月末に1.1版に更新され、AIガバナンス事例に当社も掲載されています。
また、2024年5月のAI戦略会議では、生成AIを対象にした法制度の要否を検討する「AI制度研究会」が設置され、AI開発者や専門家へのヒアリングを踏まえた中間とりまとめが2025年2月に公開されました。AIに関する「政府の司令塔機能の強化」と「安全性の向上」の実現のため、関係官庁および事業者の協力および必要な情報提供が得られるよう法制化による対応が適当なこと、AIの利用におけるリスクには既存法で対応することとし、新たなリスクが顕在化した場合には、制度の見直しや新たな制度整備を検討することが提言されています。これを踏まえた「AI技術の研究開発・活用推進法案」が通常国会に提出され5月末に成立しました。
成立を受けて、総理からは今後のAI政策として、秋までにAI戦略本部と有識者会議を設置すること、冬までにAI基本計画の策定とAI指針を整備することを指示しました。

2022年まではプライバシーや金融、雇用など分野ごとにAIの利用規制が進められてきました。また、AIを用いたシステムで考慮すべき原則を定めた「AI権利章典」や、AIによる市民の自由意志や差別、セキュリティ、サプライチェーンへの悪影響を想定した「AIリスクマネジメントフレームワーク」といったハードローとソフトローの両面からの規制強化が行われてきました。
2023年10月末にAIの安全性に関する大統領令が発行され、これに基づき、24年3月末に全政府機関に最高AI責任者の任命およびAI年次報告書の行政管理予算局への提出を義務付けました。さらに10月には「AIに関する国家安全保障に係る覚書」と「国家安全保障におけるAIガバナンスとリスク管理推進のための枠組み」を公開しました。一方で、トランプ大統領は政権交代直後にこの大統領令を撤回し、新たに国家安全保障や経済協力強化のため、米国のAIの優位性を高める行動計画の策定を指示しました。また、減税法案に、州議会やその他の機関がAIに関する独自の法律や規制を導入するのを禁止する条項が盛り込まれ、5/22に下院を通過し、上院で審議されています。法案の行方と独自にAIの規制を強化しているカリフォルニア州やニューヨーク州の動きが注目されます。

2021年4月に法案が公開されたEUのAI規制法は、2024年3月に欧州議会で可決、5月に加盟国による理事会で承認され成立、8月1日に発効し、2025年2月2日から「受容できないAI」の禁止が施行されました。また、8月2日の「汎用目的型AI（生成AI）」の施行に向け、2024年11月に検討が開始された「行動規範」は、3月中旬に3rdドラフトが公開されました。加えて、行動規範を補完するガイドライン案が4月中旬に公開され5/22期限でパブリックコメントが募集されました。施行までにどういった内容でまとまるのか、注目されます。
この法律は「リスクベース・アプローチ」により倫理の観点からリスクを4つにカテゴライズし、対策を義務づけています。「受容できないAI」は「人々の安全や権利に対して明らかに驚異のあるAIシステム」で原則禁止、「ハイリスクAI」は「人々の安全や権利に悪影響を及ぼす可能性があるAIシステム」で適合性評価として第三者認証の取得や提供者と利用者に運用上の義務が課されます。
生成AIは別枠で、モデルの提供者に対して透明性や学習データ開示等の運用上の義務が課されます。
違反者には最大で3,500万€あるいは全世界売上高の7％の大きい方の金額という巨額の賠償金が課されます。

2023年のG7広島サミットでは生成AIに関して議論する「広島AIプロセス」が創設され、12月に「広島AIプロセス包括的政策枠組み」が承認されました。12条からなる国際指針と、指針に対してAI開発企業が取るべき対策を例示した行動規範で構成され、AI関連企業が製品を市場投入する前に外部の専門家のチェックを受けることや、AIの生成物には原則として「電子透かし」の導入等が推奨されています。
活動は2024年も継続し、2024年5月のOECD閣僚会合で新たな国際枠組みとして「広島AIプロセス　フレンズグループ」が創設され、OECD加盟国を中心に49の国と地域が賛同しました。また、6月のG7イタリアサミットでは、国際行動規範に基づいたモニタリングの試験運用が表明され、7月から9月のパイロット運用を経て、12月に正式合意しました。2025年2月からOECDで運用が開始され、ローンチイベントではNTTを始めとする日米の13の企業が参加を表明し、6/24時点では20社のレポートが公開されています。
また、今月開催されたG7カナダサミットでは「繁栄のためのAIに関するG7首脳声明」が発出され、グローバルAIガバナンスとして広島AIプロセスの成果を活用したAIの倫理的な利用と規制の確立が表明されました。

• 中国は2022年にレコメンド等のアルゴリズムで差別を禁止する規制法、2023年8月に生成AI規制を施行するなど独自で法規制を強化しています。
• OECDは生成AIの登場を踏まえてAI原則を見直し、プライバシーや知財権、安全性等の課題対応および環境の持続可能性の明示するよう2024年5月に改定しました。また11月には将来のAIの潜在的な便益とリスク、政策上の必要事項をそれぞれ10項目ずつ示したレポートを公開しました。
• 2023年11月にイギリスで第1回が開催されたAI安全サミットは、2024年5月のソウルでの開催を経て、2025年2月にパリで第3回がAIアクションサミットとして開催されました。100か国以上が参加し、「包括的で持続可能なAI」を支持する共同声明に欧州や中国、日本を含む60カ国・地域が署名するも、米英が署名をしませんでした。また、フランスやEUが相次いでAIへの巨額投資を表明し、イノベーション重視の姿勢への転換を強く印象付けました。
• 国連は、2023年に設置したAI諮問機関が、2024年9月に「人類のためのAI統治」として、AIに関する国際科学パネルの設置や、AIガバナンスに関する政策対話、グローバルファンドの立ち上げなど7つの提言を公開しました。