弁護士
志部淳之介
志部淳之介
AIに関する規制の現状と課題
1 AI技術の発展
（１）ＡＩの発展
昨今、AI(人工知能)の技術の進歩が著しい。AIを利用した投資判断・運用サービスや、チャットで利用者の質問に即時に答えるサービス、近時は利用者の要望に応じた画像や動画の作成・編集を可能にするサービスが提供されている。
（２）生成型ＡＩ
中でも話題になっているのが、生成型AIと呼ばれるものである。別名、ジェネレーティブAIという。
人工知能が自ら答えを探して学習するディープラーニング(深層学習)を用いて構築された機械学習モデルを指し、人間と同じように、新しいものを次々に生み出す点に特徴がある。
従来は、人間の作ったプログラムに応じて事務処理をするだけだったAIが、自ら考え成長する時代となった。
人工知能が自ら答えを探して学習するディープラーニング(深層学習)を用いて構築された機械学習モデルを指し、人間と同じように、新しいものを次々に生み出す点に特徴がある。
従来は、人間の作ったプログラムに応じて事務処理をするだけだったAIが、自ら考え成長する時代となった。
2 AI技術の課題
（１）ＡＩ利用によるリスク
AIは確実に進歩を遂げており、今後も人類の生活をより豊かにするために寄与することは明らかである。
他方で、急速な技術発展に伴い、AIに関するトラブルも懸念される。
特に、企業が生成型AIを利用する場合（企業が主体となり利用する場合、従業員個人が利用する場合のいずれにおいても注意すべき点がある）、次のような危険性がある。
他方で、急速な技術発展に伴い、AIに関するトラブルも懸念される。
特に、企業が生成型AIを利用する場合（企業が主体となり利用する場合、従業員個人が利用する場合のいずれにおいても注意すべき点がある）、次のような危険性がある。
・学習のために収集した情報に個人情報が含まれる場合、生成されたコンテンツは他者のプライバシーを侵害している可能性がある。企業が保有している個人情報をプロンプトに入力する場合、その危険性は高まる。
・生成された画像の学習方法、生成物の利用方法によっては、他者の著作権を侵害する場合があり得る。
・生成された画像や動画が本物と区別がつかない場合、偽情報(ディープフェイク)として利用される可能性がある。事実と異なる動画が作成され、フェイクニュースとしてネット上で拡散されると、ニュース作成者が責任を負う場合があり得る。
・生成型AIは、ネット上から情報を収集し学習するという特徴を持つため、学習データに偏りがある場合、生成されたコンテンツにもバイアスが反映される可能性がある。バイアスが存在する情報を適切に処理しなければ、誤った分析結果を用いることになる。
・生成型AIに人権侵害や差別防止の倫理的な思考が欠如している場合、ネット上の不適切な記事から学習した結果、他者の人権を侵害するようなコンテンツを生成するおそれがある。
生成型AIが、こうした危険性を孕むのは、ディープラーニングを行う際の学習過程が不透明であるという点にある。
また、仮に学習過程のアルゴリズムが公表されたとしても、その内容は複雑であり一般人が理解することは非常に困難であるため、知って対処するということも難しい。
また、仮に学習過程のアルゴリズムが公表されたとしても、その内容は複雑であり一般人が理解することは非常に困難であるため、知って対処するということも難しい。
生成型AIの利用者としては、利便性と共に一定の危険性も存在することを認識する必要がある。
3 AIに関する法規制
(1)EU理事会のAI規制法案の合意
前回のニュースレターでも紹介したが、2023年6月14日、生成AIを含む包括的なAIの規制案である｢AI規則案｣が、欧州議会の本会議において賛成多数で採択された。
同年１２月９日、ＥＵ理事会と欧州議会は、ＥＵ域内で一律に適用されるAI(人工知能)の規制案(以下、｢AI規制法案｣という。)について、暫定的合意に達したと公表した。
規制対象には、チャット形式で質問に回答するchatGPTや画像生成ができるStable Diffusion等のいわゆる生成型AIも含まれる。
(2)規制の内容
AI規制法案の条文案自体は公表されていないが、EU理事会のプレスリリースによると(※1)、規制の内容は、AIの有するリスクの大きさに応じて規制の強度にグラデーションを設けた上で、重大な基本的権利侵害やその他の重大なリスクを引き起こす可能性が高いAI(報道ではhigh-risk AI systemという文言)についていくつかの項目を禁止行為と設定した。
【禁止行為の例】
・認知行動操作
・インターネットやTV映像からの顔画像の無差別な収集
・職場や教育機関での感情認識
・ソーシャルスコアリング
・性的指向や宗教的信念などのセンシティブ情報を推測するための生体情報の利用等
【AI提供者に課せられる義務】
高リスクのAIシステム利用に関しては、データ・ログ管理や高度なサイバーセキュリティ水準等を提供者に課し、それをクリアしたもののみＥＵ域内での提供が可能となる。
【罰則】
禁止事項に違反した場合には、最大３５００万ユーロの罰金又は前年度の全世界総売上高の７％のいずれか高い方が科される。
【適用除外】
適用対象について、軍事・防衛利用や研究目的利用の場合は除外される。
【規制のスケジュール・施行時期、日本への影響】
AI規制法案は、欧州委員会と欧州議会による正式な採択を経る必要があるが、2026年中には施行される見込みである。このAI規制法案は、GDPRと同様に、他の法域におけるAI規制のグローバルスタンダードとなる可能性がある。
(3)我が国のAIに関する法規制
現状、我が国にAIを包括的に規律した法律は存在しない。
他方で、個別の行政庁が、AI利用に際して懸念される危険を予防するために、注意喚起をしているケースはある。
他方で、個別の行政庁が、AI利用に際して懸念される危険を予防するために、注意喚起をしているケースはある。
① 個人情報保護委員会の注意喚起
例えば、個人情報保護委員会は、令和5年6月2日、個人情報取扱事業者及び行政機関等における生成型AIサービスの利用に際して、個人情報の取扱いに関する注意点を取りまとめた｢生成AIサービスの利用に関する注意喚起等について｣を公表した(※2)。
そこでは、個人情報取扱業者に対して、生成型AIサービスに個人情報を含むプロンプトを入力する場合には、特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認することや、個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成型AIサービスに個人データを含むプロンプトを入力し、個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該個人情報取扱事業者は個人情報保護法の規定に違反することとなる可能性がある点等が指摘されている。
そこでは、個人情報取扱業者に対して、生成型AIサービスに個人情報を含むプロンプトを入力する場合には、特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認することや、個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成型AIサービスに個人データを含むプロンプトを入力し、個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該個人情報取扱事業者は個人情報保護法の規定に違反することとなる可能性がある点等が指摘されている。
② 文化庁の見解
また、文化庁は、生成型AIの著作権に関し、生成型AIは著作者とはみなされず、自律的に生成されたものは著作物ではないこと、既存の著作物との｢類似性｣及び｢依拠性｣が認められるAI生成物のアップロードや販売を行う場合、原則として著作権者の許諾が必要であること等が示していた。
さらに、令和6年１月に｢AIと著作権に関する考え方について（素案）｣を公表した(※3)。
同素案は、AIが著作物を無断で学習することを原則として認める著作権法30条の4の文言解釈を整理する案を示している。
例えば、著作権侵害判断の一要素である依拠性の判断につき、生成型AIの利用者が既存の著作物を認識していたか否か、当該生成型AIの開発・学習段階で当該著作物を学習していたか否か等により場面ごとに見解が示されている(※4)。
文化庁は、今後、素案についてパブリックコメントが実施し、2024年中に取りまとめる見込みである。
さらに、令和6年１月に｢AIと著作権に関する考え方について（素案）｣を公表した(※3)。
同素案は、AIが著作物を無断で学習することを原則として認める著作権法30条の4の文言解釈を整理する案を示している。
例えば、著作権侵害判断の一要素である依拠性の判断につき、生成型AIの利用者が既存の著作物を認識していたか否か、当該生成型AIの開発・学習段階で当該著作物を学習していたか否か等により場面ごとに見解が示されている(※4)。
文化庁は、今後、素案についてパブリックコメントが実施し、2024年中に取りまとめる見込みである。
4 AI規制を検討するにあたっての課題
AIに関してルールを設けるにあたっては、イノベーションや普及を阻害するような過度の規制になってはならない一方で、AI利用による人権侵害や財産権侵害が起きてはならない。このバランスをとりながら未知の技術であるAIについてルールメイキングをする必要がある。
（１）オンライン上の取引を行う場合の注意
筆者が懸念しているのは、特にオンライン上の取引におけるトラブルである。特にＢtoC
のＥコマース取引を扱う企業は注意を要する。場合によっては、不適切な取引として、消費者契約法に基づく取消の対象となったり、景品表示法の有利誤認表示等の規制の対象となる可能性があるためである。
のＥコマース取引を扱う企業は注意を要する。場合によっては、不適切な取引として、消費者契約法に基づく取消の対象となったり、景品表示法の有利誤認表示等の規制の対象となる可能性があるためである。
（２）ダークパターン規制の可能性
現在、ネット上では行動経済学や認知心理学に基づき、ひとの行動性向や習性を利用して、利用者の望まない取引をさせる、「ダークパターン」と呼ばれる手法が用いられている事例がある。
例えば、物品を購入する際に、当初から有料のオプションサービスにチェックボックスが入っており、消費者が決済をすると気づかない間に知らないサービスに加入していたという事例である。
仮に生成型AIを利用してダークパターンを研究し、それが悪意をもって利用された場合、消費者トラブルに発展する可能性がある。
他方で、ダークパターンに関するルール作りは非常に難しいともいわれている。
何をもってダークパターンと定義するのかが難しく、それが故意に作出されているのか、過失であったとしても規制対象とすべきか、制裁はどのように設けるか、制裁を課す際の要件はどうするか等、議論すべき論点は多い。
まして、そこにAIが介在した場合、責任の所在を含め(AI提供者の責任か、AI開発者の責任か、物品販売者の責任か)、規制の仕方はより複雑化すると思われる。
仮に生成型AIを利用してダークパターンを研究し、それが悪意をもって利用された場合、消費者トラブルに発展する可能性がある。
他方で、ダークパターンに関するルール作りは非常に難しいともいわれている。
何をもってダークパターンと定義するのかが難しく、それが故意に作出されているのか、過失であったとしても規制対象とすべきか、制裁はどのように設けるか、制裁を課す際の要件はどうするか等、議論すべき論点は多い。
まして、そこにAIが介在した場合、責任の所在を含め(AI提供者の責任か、AI開発者の責任か、物品販売者の責任か)、規制の仕方はより複雑化すると思われる。
（３）おわりに
今回、EUのAI規制法案では危険性に応じた段階的な規制という手法が公表された。
まずはこの法案が具体化した際にルールの内容を正確に把握し、実務に与える影響を予測した上で、適切な対応をすることが求められる。
今後は、企業によっては、社内規定の整備等が必要となるケースも増えてくると思われる。
まずはこの法案が具体化した際にルールの内容を正確に把握し、実務に与える影響を予測した上で、適切な対応をすることが求められる。
今後は、企業によっては、社内規定の整備等が必要となるケースも増えてくると思われる。
注釈
※1 https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/
※2 https://www.ppc.go.jp/files/pdf/230602_kouhou_houdou.pdf
※3 https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/hoseido/r05_06/pdf/93988501_01.pdf
※4 ｢AIと著作権に関する考え方について（素案）｣29頁。
※1 https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/
※2 https://www.ppc.go.jp/files/pdf/230602_kouhou_houdou.pdf
※3 https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/hoseido/r05_06/pdf/93988501_01.pdf
※4 ｢AIと著作権に関する考え方について（素案）｣29頁。