衆院本会議で4月8日、「人工知能関連技術の研究開発及び活用の推進に関する法律案」が審議入りし、梅谷守議員が会派を代表して質問に立ちました。予定原稿は以下の通りです。
「人工知能関連技術の研究開発及び活用の推進に関する法律案」に対する趣旨説明質疑
立憲民主党・無所属 梅谷守
立憲民主党の梅谷守です。ただいま議題となりました「人工知能関連技術の研究開発及び活用の推進に関する法律案」について、会派を代表し質問します。
【はじめに】
私たちは今、人工知能（AI）技術がもたらす、人類史上かつてない劇的な転換点のただ中にいます。AIをめぐっては、世界各国で今この瞬間も熾烈な開発競争が繰り広げられています。わが国がこの分野で後れを取ることは、産業の競争力を失うにとどまらず、未来のこの国のかたち、社会のかたちを他国に委ねることを意味しかねません。
本法案はその意味で重要な一歩であり、AI政策を強力に前へすすめようとする姿勢は立憲民主党も共有するものです。その上で、AIの開発で大きく後れを取っている現状や国民の間に広がる懸念を踏まえ、具体的な質問をさせていただきます。
１．日本のAI技術の現状について
わが国は、AI特に大規模言語モデルの開発において、米国や中国に大きく後れを取っています。その原因としては、海外諸国に比べ官民のAIへの投資の規模が小さいことや、AI専門家の人材不足などが挙げられます。
2016年度に「人工知能技術戦略会議」を設置し人工知能の研究開発目標と産業化のロードマップを策定して以降、政府が国家戦略としてAIの研究開発を進めてきたことは承知しています。しかし結果として、研究開発も産業化も、海外との差はむしろ開いたのではありませんか。これまでの取り組みの具体的成果、及びAIの研究開発の遅れの現状と原因についてどう検証し認識していますか、お答えください。（城内科学技術・イノベーション担当大臣）
本法案ではAIを「経済社会の発展の基盤」と位置づけ、「国際競争力の向上」を掲げていますが、典型的な推進法の域を出ず、推進にあたって従来と異なる点は何か、全く見えてきません。政府はAI研究開発の推進にあたり、何を目標として設定し、何に重点を置くのですか。その中で、国産AIの開発の必要性をどのように考えていますか。またスタートアップ企業をはじめ、官民の研究開発に対しどのような内容や規模の支援を行うのですか、具体的な答弁を求めます。（城内科学技術・イノベーション担当大臣）
２．プライバシー侵害・著作権侵害などの懸念への対応
AIにかかるイノベーションの促進が重要であることに異論はありません。しかし同時に、AIには様々なリスクがあります。
例を挙げると、1つ目はプライバシー侵害です。同級生や知人の写真をもとに性的な画像を生成・拡散した、AIの学習に同意なく個人情報が使用されたなど、AIによる権利や利益の侵害とされる事案が国内外で相次いで報告されています。
こうした現状を受け、どの世論調査でもAIに対する国民の強い懸念が示されています。法案の前提となった内閣府AI制度研究会の「中間取りまとめ」に対するパブリックコメントでも、適切な規制を望む声が多くみられます。
政府はこれまで、こうしたプライバシー侵害や個人情報保護違反のリスクに既存の法制度で的確に対応してきたとお考えですか。また、国民の懸念をどう受け止めておられますか。見解を伺います。（城内科学技術・イノベーション担当大臣）
2つ目に、著作権など知的財産権の侵害です。記事の無断使用、特定の作風の模倣などの事案が報じられ、クリエイターを中心に懸念が広がっています。著作物・肖像・音声の無断学習や生成は生成AIのもつリスクの一つですが、本法案の記述は抽象的で、著作権法などの今後の議論に丸投げされています。
AIによる著作権や人格権の侵害について、なぜ本法案は制度的な手当てをしていないのですか。既存の法制度で対応可能とお考えなのですか。政府として、法的責任や規制、救済の在り方について、今後いつ、どのような方針の下で整備を進めるのか、城内大臣並びに文部科学大臣に具体的な答弁を求めます。（城内科学技術・イノベーション担当大臣、あべ文部科学大臣）
知的財産保護においては、適切な「対価還元」も重要です。無断での学習利用が放置されれば、優良なコンテンツを創出する好循環も損なわれます。AI開発者による学習データの利用に対し、創作者へ何らかの対価を還元する仕組みが必要ではないでしょうか。必要ならばいつ、どのように整備する見通しでしょうか、政府の方針を城内大臣に伺います。（城内内閣府特命担当大臣（知的財産戦略担当））
3つ目はディープフェイクなどへの対応です。本法案には、AIが生成した偽情報による被害について誰が責任を負うのかという原則や、勧告や命令、救済などのリスクに対する具体的対応策がほとんど盛り込まれていません。「中間とりまとめ」では、「既存の法令で一定の対応がなされている」とされています。また今後、指針で追加のリスク対応を打ち出すのかもしれません。
しかし実際に、米大統領選など海外の選挙で、偽音声・偽画像が拡散し、投票行動に影響を与えたとされる事例が報告されています。これが日本で起きた場合、はたして公職選挙法など現行法で対応できるのでしょうか。
政府は、既存の個別法や法的拘束力のないガイドラインや規範による対応で、AIを用いた権利利益の侵害から本当に国民を守れるのでしょうか、そもそもどのような方法で対応するのでしょうか。また、ディープフェイクによる選挙における偽情報の拡散への対応についてどのように考えますか、政府の見解を伺います。（城内科学技術・イノベーション担当大臣）
３．AIが社会に及ばす影響について
AI技術の進展が加速する中で、いわゆる「シンギュラリティ（技術的特異点）」の到来を懸念する声があります。シンギュラリティが起きた場合、科学技術の飛躍的な進化によって様々な課題の解決や経済成長が急速に進む可能性がある反面、雇用の喪失や富の集中、倫理や民主主義の混乱、さらにはAIが人類に敵対する危険性までが指摘されています。
「シンギュラリティ」の到来する可能性について、政府はどのような認識を持っているのですか。また、現在の科学的知見を踏まえつつ、リスクへの備えとしてどのような政策的対応を検討しているのですか、見解を伺います。（城内科学技術・イノベーション担当大臣）
４．イノベーション促進とリスク対応の両立について
わが国はＧ7広島サミット以来、「広島AIプロセス」を主導し、「人間中心のAI」「安全、安心で信頼できるAI」を国際社会に提唱してきました。法案の前提となった「中間取りまとめ」でも、「イノベーション促進とリスクへの対応の両立」を掲げ、「各国のモデルとなるようなAI制度を構築」することを求めています。
これら従来からの議論を踏まえ、AIの持つリスクや国民の懸念を考えれば、わが国初の包括的なAI立法は「基本法」として立法すべきではないですか。リスクへの対応を含め国としての基本姿勢を明らかにし、政策の全体像を国民に示すものとすべきところ、「基本法」ではなく「技術推進法」にとどめたのはなぜですか、見解を伺います。（城内科学技術・イノベーション担当大臣）
５．定義について
法案の内容について伺います。
まず第2条の「人工知能関連技術」の定義について伺います。この定義次第では第6条から8条の責務規定や、第16条の「調査研究等」の及ぶ対象者の範囲が大きく変わり、必要以上に幅広い事業者に懸念が広がりかねません。
「人工知能関連技術」には、具体的にどのような物が含まれますか。またそもそも、政府は「人工知能」をどのように定義していますか、見解を伺います。併せて、「人工知能関連技術」の対象となる研究者や事業者は国内にどのくらいいるのですか、また対象となるものには国外の者も含まれるのですか、お答えください。（城内科学技術・イノベーション担当大臣）
６．活用事業者の責務及び国民の責務について
第7条には、「活用事業者の責務」として、国及び地方公共団体が実施する施策に対する協力義務が規定されています。この「責務」の具体的内容について伺うとともに、研究機関など他の責務規定が努力義務となっている中、本条項のみ「義務」規定である理由について伺います。また協力義務といえども実効性を問う声もある中で、罰則を設けなかった理由を伺います。併せて、今後の見直しの議論によっては罰則が設けられる可能性があるのか、お伺いします。（城内科学技術・イノベーション担当大臣）
また第8条には「国民の責務」として、AIに対する理解と関心を深めること、及び国及び地方公共団体の施策に対する協力が努力義務として定められています。義務ではなく罰則もないことは理解しますが、例えばAIなんてよくわからないという高齢者の方々は、国民の責務に違反していることになるのですか。あるいは、国が整備を進める「データセット」、学習に使われるデータベースですが、これへの情報提供を拒んだら、これも責務違反になるのでしょうか。どこからどこまでが責務となるのか、責務の具体的な内容について国民に分かるようお答え願います。（城内科学技術・イノベーション担当大臣）
そもそも、国に理解増進の義務を負わせるなら理解できますが、理解と関心を深めることをなぜ国民の責務として規定するのでしょうか、なぜ責務まで課す必要があるかの理由を含めお答えください。また併せて、施策に協力しない国民がなにか不利益を受ける可能性があるのですか、明確にお答えください。（城内科学技術・イノベーション担当大臣）
【結びに】
これから私たちを待っているのは、「AIと共にある新たな社会」です。そこへ向けてAIを適切なガバナンスのもとに置き、信頼できる構成要素として社会の中に組みこんでいくことが、政府と政治の責任です。また国民一人ひとりにとっても、AIへの理解を深め、AIに振り回されることなく、自らの身体と頭の一部のごとく使いこなすことが求められます。
本法案をめぐる議論が、国民の皆さまにとってAIに対する理解と関心を深め、AIとの共存のあり方を考えるきっかけとなることを願い、私の質問を終わります。
