AIは社会を変える—だからこそ世界各地で活発化する「AI規制」の動き

異質な知性であるAIを社会に受け入れる体制の構築はこれから

現在のAIは、既に大部分の人間の情報処理能力を超える賢さを発揮するようになった。しかも、その進化の天井が見えないような状況だ。もはや将棋や囲碁で人間がAIに勝てなくなったのと同様に、あらゆる知的作業・業務で人間を超える能力を獲得する未来が現実になりつつある。しかも、AIには、思考の過程・根拠を人間が理解できないブラックボックス的な性質があり、加えて同じ問いや要求を繰り返すと、その都度違った答えを出すサイコロのような確率論的性質や、答えの中に間違い（ハルシネーション：幻影）をもっともらしく紛れ込ませるような特性もある。良くも悪くも人間の想定通りの処理・判断しかしない私たちがよく知るコンピューターとは異なる数々の特性があるのだ（図2）。こうしたAI固有の挙動が、AIの活用に戸惑いを生み出し、極めて有能だが扱いにくいツールにしている面がある。ただし、こうした現在のAIに感じる扱いにくさは、現時点での生活・ビジネス・社会のシステムが、人間による作業・業務・意思決定を前提にして構築されていることにも要因がある。

ここでは、ともすればAIの進化・普及にブレーキをかける要因になりかねないように見えるAI規制の動向とその背景をまとめ、AIの進化・普及に及ぶ効能を考えていく。

AIの能力は、その道の専門家をはるかに超える領域に到達

2026年4月、AIメジャーの一角である米国のAnthropicは、新たな生成AIモデル「Claude Mythos Preview（以下、Mythos）」を発表した。多くのAI企業が、新モデルを開発したら直ちに一般公開していた、それまでの通例とは異なり、一般公開を見送り、一旦、特定ユーザーに限定した公開に切り替えて公開方針を再検討するとした。新技術の公開を、開発元自身が自主規制するという極めて異例の動きだった（図3）。

Anthropicの生成AIは、ソフトウェアのコードを自動生成するエンジニアの能力を拡張する点が優れていることで知られている。そして、Mythosは、単なるコードを書けるAIではなく、ソフトウェアの脆弱性を自律的に発見し、攻撃手法まで構築できる強力なセキュリティ対策機能を持つ点が特徴だった。同社が一般公開をためらった理由は、長年にわたって市中で利用されているOSやブラウザに残る未知の脆弱性（ゼロデイ脆弱性）を大量に発見し、そこを攻撃するコード（いわゆるウイルス）を構築できる能力を持っていることが判明したからだ。一般公開し、悪意ある人物が利用すれば、金融システムや国防システム、社会インフラ、医療システムなどを、専門的知識がなくてもたやすく機能不全に陥れることができるようになる可能性があると懸念したのである。

Mythosの能力のうち、ITシステムを開発・運用しているエンジニアやAIの専門家が特に震撼した点は、Anthropicが既存のOS、ブラウザ、オープンソースソフトウェアを解析した結果、数千件規模のゼロデイ脆弱性を発見したことだった。高度な専門的知見を持つ多数のエンジニアが、長年にわたって継続的に検証しても見つけられなかった脆弱性を多数見つけたわけだから、もはやAIを活用したサイバー攻撃能力は、人間では太刀打ちできないレベルに達したことが明白になったのだ。そしてAnthropicは、Mythos級の能力を持つモデルの安全性を高めた「Claude Fable 5」を後日公開。ところが公開からわずか3日後に国家安全保障上の問題があるとする米国政府の懸念から利用停止に追い込まれた。熾烈なAI技術の開発競争が進む現在、Mythosと同等以上の能力を持つAIは、これから複数の企業・開発機関により間もなく続々と生み出されていくことになると容易に想像できる。

規制などで対策すべき、AI活用に伴う７つの諸問題「ELSI」

Mythosのサイバー攻撃能力だけでなく、AI活用を推し進めることによって、法的・社会的・倫理的など多面的な問題が顕在化してくることを指摘する声が増えてきている。こうしたAI規制につながるAI活用に伴う新たな問題は、「ELSI（Ethical, Legal and Social Issues）」と総称されている。何らかの対策・対応が必須になるとされるELSIは以下の7つのポイントに分類できる（図4）。

1番目は、AIの学習にプライバシー・個人データを大量に使っていること。より高度なAIを育てるためには、大量のデータが必要になり、その中には少なからず個人情報や行動データが含まれている可能性が高い。個人データを学習に使ってよいのか、顔認識・監視の是非、AIが個人をプロファイリングすることの正当性などが議論の対象になっている。特に、医療・金融・教育データを学習データとして使う場合には、プライバシー侵害や差別的判断の懸念が生まれやすくなる。

2番目は、著作権・知的財産の問題。生成AIは大量のコンテンツを学習しているため、著作権侵害の問題が大きな論争になっている。主な争点は、著作物を無断で学習してよいのか、AI生成物の著作権は誰にあるのか、既存作品との類似があった場合の権利帰属の判断など。既に訴訟も起きており、規制次第ではAIモデルの学習データが大幅に制限される可能性がある。

3番目は、ミッションクリティカル（停止・障害によって致命的影響が及ぶ）な用途での安全性。AIが社会インフラに組み込まれると、判断に失敗した際に及ぶリスクが非常に大きくなる。自動運転や医療診断、金融取引、航空制御などは、その典型である。AIから得られる回答には、ハルシネーション、判断の説明性欠如、ブラックボックス化などの問題が含まれている可能性がある。一般に、人間が判断するよりもAIが判断した方が精度は高い場合が多い。しかし、いかに発生頻度が低くても、AIが誤った判断をした場合には責任の所在が不明になってしまう。このため、全てをAIに任せるわけにはいかない状況だ。

4番目は、雇用への影響。AIは多くの仕事を自動化する可能性がある。特に、事務職、コールセンター、プログラミング、デザインなどへの影響が大きいとされている。さらに、近年では、Mythosの例を見て容易に想像できるように、法律、税務、医療、さらには科学技術の研究開発まで、高度な専門性を持つ人材が担ってきた業務をAIが代替できるようになってきた。大規模失業、賃金格差、スキル格差などの社会問題を起こすことが懸念されている。もちろん、全ての業務がAIで代替できるわけではない。AIを使いこなし、付加価値の高い業務を行う人材もいることだろう。しかし、どのような高度人材であっても、駆け出しの時期には簡単な業務を大量にこなして知見やスキルを磨いた経験があるものだ。人材育成の機会がAIによって奪われることの長期的影響を指摘する意見も出てきている。

5番目は、偏見・差別の問題（AIバイアス）。AIは学習データに思想面での偏りがあったら、それを判断能力として引き継いでしまう。既に、採用AIが女性を不利に評価したり、犯罪予測AIの人種バイアスが問題化したりといった例がある。悪意や何らかの意図を持つ人物が、恣意的に偏りのあるAIを育てる可能性も出てくる。AI活用に関わる倫理の取り扱いには、社会的コンセンサスを取った公平性（fairness）が必要になってくる。

6番目は、情報操作・民主主義への影響。AIは大量のコンテンツ生成が可能であるため、フェイクニュース、ディープフェイク、世論操作の手段となることが懸念されている。AIによる政治プロパガンダの拡散能力を強化する可能性も指摘されている。

7番目は、軍事利用・安全保障。AIは軍事技術にも応用されている。AIを活用した自律兵器、ドローン戦争、サイバー戦が既に始まっている。これによって、これまで労働集約的面が強かった軍事行動が、ますます資本集約的になり、攻める側のリスクと、開戦に踏み切るハードルが低下する。国際連合では、規制を念頭に置いた国際議論が続いている。

法的・倫理的見地からみる世界のAI規制動向

AI活用に伴うELSIに対応するため、世界各国では実際にAIの開発・利用を規制する制度や政策が次々に導入されるようになった（図5）。こうした動きは、AIの潜在能力を最大限まで引き出す動きとは逆方向のベクトルであり、これらの規制が強化されれば、データ利用制限、AI開発コスト増などで成長が鈍化する可能性があるように見える。

欧州連合は、包括的なAI規制を最も積極的に導入・実施している地域である。包括的AI規制である「Artificial Intelligence Act（EU AI Act）」が2024年に成立。2025年2月から段階的に施行されている。狙いは、基本的人権保護、差別防止、AI活用での安全性確保、市場の統一にある。その特徴は、AIを4つのリスクレベルに分類して、個別に規制内容を定義していることだ。まず、「禁止」。社会信用のスコアリング、大規模な生体監視、人間の行動を操作するAIの運用は、EUでは原則禁止されている。次に「高リスク」。医療AI、採用・人事AI、信用審査AI、自動運転が該当し、安全性評価、人間による監督、データ品質管理が義務付けられている。そして、「限定リスク」。チャットボットなどが該当する。AIであることの表示義務が課される。最後にほとんど規制がない「低リスク」である。これ以外にも、大規模AIモデル（基盤モデル）にも、透明性・安全性義務が課されている。

さらに、2024年には、世界初のAI国際条約「Framework Convention on Artificial Intelligence」が採択された。人権保護、民主主義の保護、AIによる差別防止を目的として、透明性、説明責任、非差別、AI判断への異議申立て権を明文化したものだ。この条約はEU、英国、米国など50カ国以上が参加している。

一方、中国でも、国家主導での厳格な規制が施行されている。世界で最も早くAIの規制に乗り出したのが中国であり、2022年にはニュース・動画・電子商取引などの推薦に関わるアルゴリズムを対象にした規制が、2023年にはディープフェイク、生成AIで生成したコンテンツの表示義務などが施行されている。これらの規制の狙いは、国家安全保障、社会秩序の維持、世論管理、データ主権の確保などにある。さらに、生成AIサービスについては、提供前に当局による審査を伴う登録が必要な制度も存在する。

AIの技術開発と応用開拓の両面でリードしている米国では、現時点ではEUほど包括的な規制が行われているわけではない。ただし、近年、安全性と透明性を求める個別規制が課されるようになってきた。AI覇権の維持、民間投資の促進、国家安全保障を念頭に置いたAI関連政策が進められている。連邦政府は、AIの安全性・国家競争力を確保することを目的とした大統領令である「Executive Order 14179」を発令。AI開発の国家戦略、政府機関のAI利用ルール、技術標準の整備などを進めている。米国の特徴は、州レベルのAI規制も進められている点だ。例えば、カリフォルニア州では、「California Assembly Bill 2013」が2026年から施行されている。生成AIの学習データの開示義務、モデルの透明性確保も求める内容のものだ。

こうした世界の対応に比べると、現時点での日本は比較的緩い規制にとどまっている。政策の視点は、産業育成色が濃い。2025年には、「人工知能関連技術の研究開発及び活用の推進に関する法律（AI Promotion Act／AI法）」が成立・施行され、AI関連技術の研究開発・利活用を促進しつつ、リスクにも対応するための“推進型・基本法”と位置付けている。また、AIを活用する際のガイドラインを提示する方向で、AI企業の透明性、AI説明責任、データ利用ルールなどを政府指針として示している。

AI規制には、進化・普及を妨げず、むしろ円滑な活用を促す素地を作る側面も

ここまで紹介してきたAI規制は、AI活用を阻害する要因とみなされがちだ。しかし、見方を変えれば、AIの進化と普及を円滑に進め、持続可能なものにする側面があるとも言えそうだ（図6）。ELSIが顕在化してAI活用によって不利益を被る人が増えれば、自ずとその活用が困難になってしまうからだ。あらかじめAI活用に伴う負の側面を抑制しておくことは、むしろ普及しやすい素地を生み出すことにもなる。

ただし、単に規制をかけるだけでは足りない。さまざまな作業・業務・意思決定の中核にAIのような高度な知的情報システムを円滑かつ効果的に関与させるため、規制や制度などの法律、職能区分、ビジネスモデル、価値観などを、AI活用を前提したものへと作り変えていくことが重要になりそうだ。

自動車が発明されてモータリゼーションが進む過程では、自動車の潜在能力を発揮するための舗装された道路網の整備が不可欠だった。それ以前の未舗装の道路は、人や馬などでの移動には十分だったかもしれないが、車輪で高速移動する自動車には向いていなかったからだ。AIの進化・普及の過程においても同様のことが起こりそうだ。人間が実行可能なレベルやスピード、規模、作法で進められることを前提にして構築されてきた社会システムのままでは、AI活用に最適であるとは言えないからだ。自動車が、舗装道路という限定されてはいるが利用に最適化した領域を中心に走行することで普及が進んだように、AI規制も、ELSI摩擦を軽減して安心・円滑にAIを利用していくためのインフラとして機能していく可能性がある。ルール不在の状態では、AIを安心して活用することができない。AIの技術が進化し、応用分野が拡大していく、これからの近未来では、AI自体の最適化と社会システムの再構築が同時進行することになるだろう。

Writer

伊藤 元昭（いとう もとあき）

株式会社エンライト 代表

富士通の技術者として3年間の半導体開発、日経マイクロデバイスや日経エレクトロニクス、日経BP半導体リサーチなどの記者・デスク・編集長として12年間のジャーナリスト活動、日経BP社と三菱商事の合弁シンクタンクであるテクノアソシエーツのコンサルタントとして6年間のメーカー事業支援活動、日経BP社 技術情報グループの広告部門の広告プロデューサとして4年間のマーケティング支援活動を経験。

2014年に独立して株式会社エンライトを設立した。同社では、技術の価値を、狙った相手に、的確に伝えるための方法を考え、実践する技術マーケティングに特化した支援サービスを、技術系企業を中心に提供している。

URL: http://www.enlight-inc.co.jp/