○井上哲士君　日本共産党を代表して、ＡＩ推進法案に対して質問します。
　国境を越えて急速に発展、普及するＡＩは、社会に大きな変化をもたらすと同時に、様々な分野で深刻な問題を生じさせています。
　昨年三月の国連総会では、日本も共同提案したＡＩの開発や利用などに関する決議が採択されました。ＥＵでは、ＡＩのリスクに応じ、四段階に分類して法規制するＡＩ規則の施行が始まっています。
　内閣府が公表したＡＩリスクや安全性に関する意識調査では、現在の規則や法律でＡＩを安全に利用できると答えているのは日本では僅か一三％、ＡＩには規則が、規制が必要だと答えたのは七七％、ＡＩの悪用や犯罪に対する法的対策の強化を求める回答は六六％にも上っています。
　しかし、政府は、ＡＩのリスクに対しては既存法とガイドラインで対応することを基本とし、法案はＡＩ推進一辺倒です。政府は、ＡＩが国民の権利利益を侵害するリスクをどのように認識しているのですか。
　なぜ国民の求める規則や法的対策の強化がないのですか。今必要なのは、ＡＩの発展と普及のスピードに遅れることなく、包括的なＡＩ対策法を作り、国民の権利利益の保護を強化し、予防的観点も含め、ＡＩのリスクに応じた規制を行うことではありませんか。
　一方で、法案は第八条で、国民はＡＩに関する理解と関心を深めるよう努めなければならないと国民の責務を定めています。ＡＩによる不利益や被害を受けても、それはＡＩのリスクを理解する努力が足りなかったからだと自己責任を押し付けるものではありませんか。
　法案第十二条は、国がＡＩ開発のための機械学習用データ、いわゆるデータセットを整備して、ＡＩ事業者への提供を促進すると規定しています。政府が保有の情報に加え、国立研究開発法人、大学が持つ情報も対象です。第五条では、地方公共団体に対し、ＡＩ開発、活用に関し、自主的な施策を策定して実施する責務を規定しています。地方自治体が持つ情報もデータセット化するよう迫るものです。
　このデータセットには、それぞれの機関が保有する個人情報が含まれるのですか。個人情報を含む情報提供を促進させる法案は、プライバシー権を侵害する危険性を高めるものではないですか。
　以上、城内科学技術担当大臣の答弁を求めます。
　ＡＩの普及に対応するためには、個人の権利利益を保護する法制度の強化が不可欠です。
　まず、個人情報保護法の見直し強化について質問します。
　ホームページやＳＮＳへの投稿など、本人の書き込みや入力した個人情報及び思想信条、収入、病歴などの機微な要配慮個人情報も含まれる情報データが様々な事業者によって大量に収集され、ＡＩ開発に利用されている実態があります。
　政府は、既存法とガイドラインで対応すると言いますが、現に、明らかな個人情報保護法違反である本人同意のない要配慮個人情報の取得が行われていることを城内大臣と平個人情報保護法担当大臣はどのように認識をしていますか。
　ＥＵでは、個人情報の自己コントロール権を市民の基本的権利として保障しており、ＥＵ一般データ保護規則は、利用状況の開示、提供の同意撤回、利用停止、削除請求を規定しています。日本の個人情報保護法にも利用停止、削除請求の仕組みがありますが、条件を付けており、権利侵害のおそれがあるときと狭くしています。
　日本では、利用停止、削除を請求しても、権利侵害のおそれはないとして拒否され、対応されない事例が後を絶ちません。これで個人情報が保護されていると言えるのですか。日本法人がない海外企業に拒否された場合は、個人はどのように対応すればよいのでしょうか。
　ＡＩの発展、普及に対応するために、自己に関する情報の自己決定権を保障し、個人情報保護法の目的に明記すること、また、個人情報保護委員会の監視体制の強化、違法な情報収集への罰則強化を求めます。
　以上、平大臣の答弁を求めます。
　ＡＩには、判断の根拠や過程がブラックボックスになる問題、学習したデータに偏りがあったり、人間社会の偏見や不平等を反映したり、時には増幅してしまうバイアス問題があり、既存法や事業者任せのガイドラインでは対応できません。
　さらに、生成ＡＩによる偽情報、誤情報の問題です。衆議院の参考人質疑で、偽情報、誤情報対策、ＳＮＳでの流通、拡散を防止する仕組み、法制度の構築などが具体的に提起されました。生成ＡＩの作成を示す電子透かし、発信者を特定できる埋め込み情報などをＳＮＳ等を提供するプロバイダー、デジタルプラットフォーマーに義務付けることです。直ちに法制化すべきではありませんか。城内大臣、村上総務大臣、それぞれお答えください。
　著作権の侵害について伺います。
　現行の著作権法は、ＡＩの学習目的であれば権利者の許諾なく著作物の利用を認めています。そのため、新聞報道、イラスト、音声などが許諾なく収集されています。日本新聞協会は、報道コンテンツを生成ＡＩに利用する場合は許諾を得るよう繰り返し求めているが改善が見られないとして、ガイドラインではなく法整備が急務としています。俳優や声優などが参加する日本俳優連合など三団体は、声を利用する場合の本人許諾、ＡＩで作成したものであることを明記するなどの法整備を求めています。報道機関が萎縮すれば国民の知る権利を狭めることになり、ＡＩが報道機関に代わって取材、報道を担うことはありません。
　知的財産の保護を強化せず、ＡＩの推進だけでは、コンテンツの再生産の縮小や、創作意欲の減退など、受益者である市民や社会全体に悪影響を及ぼすものであり、著作権法の見直し強化を行うべきです。城内大臣とあべ文科大臣の認識と見解を伺います。
　日本各地で巨大データセンター建設が問題になっています。生成ＡＩの学習と運用には膨大な計算能力と電力が必要です。無計画な建設は、地域住民との対立を生じさせ、地球温暖化問題も悪化させます。ＡＩ推進に名を借りた原発推進は許されません。データセンターの使用電力は再生可能エネルギーで賄うことを事業者に義務付け、電力消費量、ＣＯ２排出量、空調の排熱量や排水など、情報公開を義務付けるべきではないですか。城内大臣の答弁を求めます。
　法案がＡＩ技術を安全保障の観点からも重要な技術と位置付けていることは重大です。
　ウクライナではＡＩ搭載のドローンが使用され、ガザではイスラエル軍のＡＩ標的設定システムにより民間人の被害が極端に多くなっているとの報道もあります。生成ＡＩは核戦争並みの脅威になり得ると警告する科学者も多数です。
　ＡＩの軍事利用で先制攻撃や予防攻撃の蓋然性が高まり、紛争がエスカレーションする危険について、どう認識していますか。
　二〇二三年十二月、日米は、次期戦闘機と連動する無人機のＡＩ技術の共同研究に合意しています。防衛省は、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有していないとの立場を明確にしてきたと言いますが、完全自律型か半自律型かを問わず、我が国ではＡＩの軍事利用は禁止すべきです。中谷防衛大臣の答弁を求めます。
　以上、ＡＩの発展と普及に伴うリスクに応じた法規制や国民の権利利益の保護の強化を重ねて求めて、質問を終わります。（拍手）
　　　〔国務大臣城内実君登壇、拍手〕
○国務大臣（城内実君）　井上哲士議員からは、まず、ＡＩが国民の権利利益を侵害するリスクの認識についてお尋ねがございました。
　ＡＩがもたらし得るリスクとして、様々なものが考えられますが、例えば、偽情報及び誤情報の拡散や、犯罪の巧妙化といったものがあると認識しております。
　本法案におきましては、そのようなＡＩによる国民の権利利益を侵害するリスクに対応するため、ＡＩの研究開発、活用の適正性確保のための国際規範に即した指針の整備や、国民の権利利益の侵害が生じた事案の分析、対策の検討、その他の調査等を国が行うこととしております。
　これらの調査等の取組については、関係府省庁で緊密に連携して迅速に対応してまいります。
　次に、規制強化や法的対策強化の必要性についてお尋ねがありました。
　ＡＩの発展や普及のスピードが今後高まることも予想される中、その動きに遅れることなく、我が国のＡＩの研究開発及び活用を推進していくためには、イノベーション促進とリスク対応の両立を図ることが重要であり、過剰な規制は避けつつ、適切にリスク対策を講じていくことが必要であります。このような考え方は、有識者から成るＡＩ戦略会議及びＡＩ制度研究会の中間とりまとめにおいても指摘されております。
　我が国においては、これまでＡＩのリスクについて、既存の法令とガイドライン等を適切に組み合わせて対応してまいりました。その上で、本法案においては、ＡＩ開発者及び活用事業者等が遵守すべき事項を含む指針の整備や、悪質な事案に対する調査とその結果に基づく指導、助言等を国が行うことなどを規定しております。
　また、本法案では、ＡＩ戦略本部の設置を始めＡＩ政策の司令塔機能を強化することとしており、全ての関係府省庁の緊密な連携の下、今後顕在化するリスクに対して更に適切かつ迅速に対応することができると考えております。
　次に、第八条で国民の責務を定めることの懸念についてお尋ねがございました。
　今後、誰もがＡＩの利用者となり得る中で、国民の皆様がＡＩによる不利益や被害を受けないようにするためには、ＡＩに対する正しい理解と関心を深めていただき、ＡＩを適切に活用していただくことが極めて重要であることから、法案第八条の内容を規定しております。
　国といたしましては、法案第十五条に規定する教育及び学習の振興、広報の充実等に必要な施策を講じる予定としており、第八条の規定により国民の皆様に過度な負担を掛けたり、自己責任を押し付けたりすることは決してなく、誰もが安全、安心にＡＩを活用できる環境を構築していきたいと考えております。
　次に、データセットにおける個人情報の扱いについてお尋ねがありました。
　データセットには個人情報が含まれる機会があり、このようなデータセットの使用に当たっては、個人情報を保護するための適切な処理を行うなど十分に配慮がなされるべきと考えております。また、本法案はＡＩの研究開発及び活用の推進のためのものであり、個人情報の保護を含む既存の法律の考え方を変えるものではありません。
　個人情報やプライバシー権の保護については、既存の法令に従って引き続き対応をいただくものであり、既存の権利利益の保護を後退されるものでは一切ありません。
　次に、要配慮個人情報の扱いについてお尋ねがありました。
　個人情報保護法上、個人情報取扱事業者は、原則として、あらかじめ本人の同意を得ないで要配慮個人情報を取得してはならないとされていると承知しております。
　個人情報保護法の遵守を促すため、総務省及び経済産業省が策定するＡＩ事業者ガイドラインにおいては、プライバシー保護の観点から、事業者には適切なデータの学習が重要となること、また利用者には個人情報の不適切な入力への対策が重要となることを示した上で、必要な注意喚起を行っているものと認識しております。
　次に、生成ＡＩによる偽情報、誤情報対策についてお尋ねがございました。
　本法案第十三条では、国際的な規範の趣旨に即した指針を整備する旨を規定しております。この国際的な規範に含まれる広島ＡＩプロセスの国際指針では、偽情報、誤情報に係る対策として、ＡＩが生成したコンテンツであることを認識できるよう、ＡＩ開発事業者等に対し、可能な場合には電子透かし等の技術を開発、導入すべき旨が規定されております。このため、今後国が整備する指針においても電子透かし等の技術の導入を奨励するなどを明記することを検討しており、このような取組を通じて生成ＡＩによる偽情報、誤情報対策を強化してまいります。
　次に、知的財産の保護の強化や著作権法の見直しについてお尋ねがございました。
　生成ＡＩによる著作権を含む知的財産権の侵害の懸念が指摘されていることは認識しております。昨年五月に内閣府が策定したＡＩ時代の知的財産権検討会中間とりまとめにおいて、ＡＩと知的財産権との関係について法的ルールの考え方の整理を行うとともに、ＡＩ技術の進歩と知的財産権の適切な保護の両立が重要であることをお示ししております。
　また、著作権法については、私の所掌ではございませんが、この中間とりまとめは、文化庁が文化審議会での議論を経て昨年三月に取りまとめたＡＩと著作権に関する考え方についても踏まえて策定されており、著作権法を含めた知的財産権の関係法令にのっとって適切な対応が行われるよう、引き続き関係省庁とも連携を図りつつ取り組んでまいります。
　最後に、データセンターにおける使用電力等の問題についてお尋ねがございました。
　データセンターにおける使用電力等については、私の所掌ではございませんが、ＡＩの研究開発と活用を進めていく上では、インフラをしっかりと整備していくことが重要であると認識しております。データセンターのエネルギー消費効率の改善に向けては、第七次エネルギー基本計画において、技術開発の促進に加えて、事業者が満たすべき効率を設定した上でその取組を可視化するなど、諸外国の取組も踏まえつつ、支援策と一体で制度面での対応を行うこととされており、経済産業省において現在その検討がなされていると承知しております。（拍手）
　　　〔国務大臣平将明君登壇、拍手〕
○国務大臣（平将明君）　井上哲士議員にお答えいたします。
　まずは、本人同意のない要配慮個人情報の取得についてお尋ねがありました。
　個人情報保護法上、個人情報取扱事業者は、原則として、あらかじめ本人の同意を得ないで、要配慮個人情報を取得してはならないこととされています。
　個人情報保護委員会においては、令和五年六月には、生成ＡＩサービスを開発、提供する特定の事業者に対して、同委員会がその時点で明確に認識した懸念事項を踏まえ、機械学習のために収集する情報に要配慮個人情報が含まれないよう必要な取組を行うこと等について注意喚起を行ったものと承知をしています。
　今後とも、個人情報保護法との関係で問題が見受けられた場合には、同委員会において同法の規定に基づき必要に応じて権限行使を行うなど、適切に対応されるものと考えております。
　次に、利用停止等請求についてお尋ねがありました。
　本人が自らの権利又は正当な利益が害されるおそれがあるとして、事業者に対して保有個人データの利用停止等の請求を行った場合、当該事業者がそのおそれがないと判断をし、当該請求を拒むことも想定をされます。これに対して、本人は、個人情報保護法上、当該請求について裁判所への訴えの提起をすることが可能とされています。
　また、個人情報保護委員会は、本人からの苦情等により事業者が利用停止等の請求を拒否していることを認識し、当該拒否に正当な理由がないと判断した場合等には、当該事業者に対して必要な指導、助言等を行うことができるものと認識をしており、個人の権利利益の保護のための仕組みが設けられていると認識をしています。
　次に、海外事業者が応じない場合についてお尋ねがありました。
　個人情報保護法は、個人情報取扱事業者が国内にある者に対する物品又は役務の提供に関連をして、国内にある者を本人とする個人情報等を外国において取り扱う場合についても適用されると認識をしています。
　そのため、個人情報保護委員会は、日本法人を有さない海外事業者であっても、本人からの苦情等により事態を認識した場合には、国内事業者の場合と同様に必要な指導、助言等を行うことができると認識をしています。
　最後に、ＡＩの発展、普及に対応するための法改正の必要についてお尋ねがありました。
　いわゆる自己情報コントロール権については、その内容、範囲及び法的性格に関し様々な見解があり、明確な概念として確立しているものではないと認識をしております。
　個人情報保護法では、個人の権利利益を保護することが目的として規定され、また、個人情報の取扱いに対する本人の関与の重要性に鑑み、開示、訂正、利用停止等の請求を可能とする規定が設けられており、個人情報保護委員会においては同法の規定を適切に運用し、個人の権利利益を実効的に確保していくことが重要と認識をしております。
　また、個人情報保護委員会では、ＡＩの急速な普及を始めとした技術革新や技術の社会実装の動向等も踏まえ、いわゆる三年ごと見直しに向けた検討を行っております。
　監視体制の強化や罰則の強化については、見直しに向けた検討において、個人情報取扱事業者等による規律遵守の実効性を確保するための規律の在り方などを制度的な論点として示していると認識をしており、引き続き関係者との対話も重ねながら検討を進めていくものと認識をしております。（拍手）
　　　〔国務大臣村上誠一郎君登壇、拍手〕
○国務大臣（村上誠一郎君）　井上議員からの御質問にお答えいたします。
　生成ＡＩによる偽・誤情報対策について御質問がございました。
　先ほど城内大臣から電子透かしの導入の奨励につき御答弁がございましたが、それ以外の技術も含め、生成ＡＩの技術革新のスピードに対応するためには、技術開発で迅速に対応していくことも必要と考えております。
　総務省におきましては、インターネット上の画像等の対象とするＡＩ生成物の判別技術や発信者の真正性を確保する技術の開発、実証を行っており、社会実装や国際標準化を進めていく予定であります。
　引き続き、インターネット上の偽・誤情報につきまして、表現の自由に十分配慮をしながら、技術開発を含む対応を積極的に進めてまいりたいと考えております。
　以上であります。（拍手）
　　　〔国務大臣あべ俊子君登壇、拍手〕
○国務大臣（あべ俊子君）　井上議員にお答えいたします。
　ＡＩと著作権についてお尋ねがありました。
　ＡＩと著作権との関係については、文化審議会の小委員会で議論を行い、クリエーター等、関係者からの懸念の声を踏まえ、令和六年三月にＡＩと著作権に関する考え方を取りまとめたところです。この考え方において、ＡＩ学習のための著作物の利用であっても、権利者から許諾を得ることが必要な場合があり得ることなどを示しています。
　文部科学省においては、この考え方の周知啓発や相談窓口を通じた著作権侵害に関する事例の集積に努めつつ、ＡＩやこれに関する技術の発展、諸外国における検討状況の進展等を踏まえながら必要に応じた検討を続けてまいります。（拍手）
　　　〔国務大臣中谷元君登壇、拍手〕
○国務大臣（中谷元君）　井上哲士議員にお答えいたします。
　最後に、ＡＩの軍事利用についてのお尋ねがありました。
　ＡＩは、その有用性から、諸外国においては民生分野に加え安全保障分野における活用が進んでおり、防衛省におきましても、各種分野におけるＡＩの活用を進めております。
　他方、ＡＩ活用には、一定の誤りが含まれることがあるという信頼性の懸念などのリスクも指摘をされております。
　防衛省としましては、こうしたリスクに係る政府内や国際社会における議論を注視をしつつ、リスクを低減する取組を進めながら、ＡＩの有用性を最大限、ＡＩの有用性を最大化し、活用を進めていく考えであります。（拍手）