高性能AIの暴走に罰則を：政府がAI法の見直しを検討、安全確保の義務と命令へ

高性能なAIが引き起こすリスクに備え、政府がAIの法律の見直しに動き出しました。2026年11月11日に開かれた内閣府の作業部会で、AIの事業者に安全確保を義務づけ、従わない事業者には命令を出し、命令に違反すれば罰則を科す方向が確認されたと共同通信が報じました。いまのAI法には罰則の規定がなく、政府は調査や指導にとどまっています。今回の見直しは、日本のAI政策を「推進」から「安全の確保」へと一歩進める内容です。何が検討され、私たちの生活にどう関わるのかを整理します。

11月11日の作業部会で何が確認されたのか

方針が確認されたのは、内閣府の人工知能戦略専門調査会の下に置かれた「制度の在り方検討ワーキンググループ」の第2回会合です。第1回は10月28日に開かれ、11月11日の第2回では事務局が法改正で定める内容の素案を示しました。会合は非公開で行われ、内容は共同通信の報道で明らかになりました。

報道によると、政府は高性能なAIが引き起こすリスクに対処するため、AI関連の事業者に安全確保を義務づけ、罰則を新設する方向で検討しています。念頭にあるのは、サイバー攻撃への悪用や、人間の意図から外れて動く「暴走」といった重大な脅威です。問題が起きても協議に応じないような悪質な事業者に、政府として対抗手段を確保する狙いがあると報じられています。

作業部会は年末までに、法改正の内容を含めた制度見直しの全体像を示す予定です。改正案は早ければ2027年の通常国会に提出される見通しだと報じられています。ただし、罰則の重さや対象になる事業者の範囲、どの水準のAIを「高性能」とするのかといった線引きは、まだ決まっていません。

今のAI法は「罰則ゼロ」の推進法

日本のAI法は、正式には「人工知能関連技術の研究開発及び活用の推進に関する法律」といいます。2025年5月28日に成立し、6月4日に公布、9月1日に全面施行されました。法律の目的はAIの研究開発と活用を進めることで、国による調査と指導や助言が中心の仕組みです。AIを事業に使う企業には、国の施策への協力を求める規定がありますが、罰則はありません。

つまり、現行法では政府がAIの事業者を調査し、問題があれば指導できますが、事業者が従わなくても強制する手段がありません。今回の見直しは、この点を変えようとするものです。施行から1年余りでの見直しとなり、AIの性能向上とサイバー攻撃の増加が背景にあるとみられます。

見直しの背景にあるサイバー攻撃の増加

見直しの背景には、2026年に相次いだサイバー攻撃があります。政府は11月6日、約100億円の予備費を使った緊急対策パッケージを決め、官民のサイバー救援隊の設置やAIを使った脆弱性の検証を進めています。企業や政府機関への不正アクセスが続く中、AIが攻撃に悪用されるおそれも指摘されています。

こうした動きと今回の法改正の検討は、別の取り組みですが、方向は同じです。AIを攻撃の道具にさせないことと、AIそのものの安全を確保することの両方を、政府が制度として整えようとしています。緊急対策が目の前の被害への対応だとすれば、AI法の見直しは将来のリスクへの備えといえます。

検討されているのは「義務、報告、勧告、命令、罰則」の仕組み

11月11日の会合で示された素案は、大きく四つの段階で構成されています。まず、一定以上の性能を持つAIを扱う事業者に、特定のリスクについてAIの安全性を確保する措置を取る義務を課します。次に、事業者はそのリスクに関する情報を国に報告します。対応が不十分な場合、国は事業者に勧告を出します。それでも改善されなければ、国は強制力のある命令を出し、命令に違反した事業者に罰則を科すという流れです。

罰則は、高性能なAIによる事案に絞る方向だと報じられています。すべてのAIに罰則がかかるわけではなく、対象は性能とリスクの両方の条件を満たす場合に限られます。そのほかのAIは、従来どおり既存の法律や指針の対象となります。罰則の金額や種類は、これから示される予定です。

対象になるのはどんなAIか

作業部会がリスクとして挙げたのは、サイバー攻撃への悪用と、化学や生物、放射性物質、核、爆発物を使った攻撃への関与、そしてAIの暴走です。対象になるのは、こうした重大なリスクを生むおそれのある高性能なAIです。ただし、どこからを「高性能」とするかという性能の基準は、まだ決まっていません。基準が決まるまでは、どの事業者が対象になるのかも確定しません。

対象の事業者についても、議論が続いています。AIを提供する事業者がまず対象になるとみられますが、研究機関からAIサービスを販売する企業まで、どこまで含めるかは未定です。AIを使う個人に罰則を科す話は、今のところ伝えられていません。利用者ではなく、AIを提供する側が対象という点は、押さえておきたいポイントです。

6社のヒアリングと海外事業者への適用

11月11日の会合では、国内外のAI事業者6社から意見を聴くヒアリングも行われました。参加したのは日本のNTT、Sakana AI、SB Intuitionsと、Anthropic Japan、Google、OpenAI Japanです。各社が何を述べたかは、会合の議事概要が準備中のため、まだ確認できていません。6社の参加が素案への賛同を意味するかどうかも、報道では明らかにされていません。

もう一つの課題は、海外の事業者への適用です。高性能なAIの多くは、米国のOpenAIやAnthropicなど海外の企業が開発しています。作業部会は、海外の事業者にも実効性のある制度にする必要があるとしています。日本の事業者だけに負担がかかる形では、制度の目的が達成できないからです。海外の事業者をどう制度の対象にするかは、今後の検討課題です。

世界の動きと比べると

AIの安全を法律で担保する動きは、日本だけではありません。米国では、ニューヨーク州とイリノイ州が大規模なAI開発者に重大な安全事故を72時間以内に報告するよう求めています。カリフォルニア州では報告期限が15日とされています。欧州連合のAI法では、最も強力なモデルを手がける企業に、世界全体の売上高の最大3パーセントまたは1500万ユーロの罰金を科すことができます。

日本の素案は、報告から勧告、命令、罰則へと段階を踏む点で、急に罰則を科す仕組みではありません。まずは事業者自身の安全対策と報告を求め、それでも対応しない場合に命令と罰則へ進むという流れです。罰則の重さが未定なこともあり、現時点で他国の制度と単純に比べることはできません。

今後の見通しと私たちへの影響

作業部会は年末までに制度見直しの全体像を示す予定です。その後、改正案が早ければ2027年の通常国会に提出される見通しだと報じられています。性能の基準や対象事業者の範囲、罰則の中身が明らかになるのは、これからです。

一般の利用者にとって、今回の見直しでChatGPTやClaude、Geminiといったサービスの使い方がすぐに変わるわけではありません。対象はAIを提供する事業者であり、利用者に新たな義務が課される話は出ていません。ただし、事業者に安全対策の義務が課されれば、AIサービスの安全性や透明性が高まる可能性があります。年末に示される全体像で、対象の範囲と罰則の中身がどうなるかを確認することが大切です。

Frequently Asked Questions

今回の見直しで、AIを使う一般の人に罰則が科されますか

今のところ、そうした話は伝えられていません。検討されているのは、AIを提供する事業者に安全確保の義務を課し、命令に違反した場合に罰則を科す仕組みです。AIを仕事や生活で使う個人が対象になるという報道はありません。

いつから新しいルールが始まりますか

まだ決まっていません。作業部会は年末までに制度見直しの全体像を示す予定で、改正案は早ければ2027年の通常国会に提出される見通しだと報じられています。罰則の重さや対象の範囲は、これから詰められる段階です。

今のAI法には罰則がないのですか

ありません。2025年9月1日に施行されたAI法は、AIの研究開発と活用を進めるための法律で、政府による調査と指導や助言が中心です。事業者には国の施策への協力を求める規定がありますが、罰則の規定はありません。今回の見直しは、この点に初めて罰則を加えようとするものです。