14日、欧州連合（EU）の欧州議会は本会議を通じて、生成AI「チャットGPT」を含む広範なAI規制案に賛成票が多数を占め、これを採択した。加盟する27ヶ国が含まれる理事会、欧州委員会、そして欧州議会の3つの機関が今後、法案の詳細についての協議を開始し、年内の合意を求めることになる。
このEUの規制案は、AI技術に対する包括的な管理を導入するというのは、主要な国や地域での初の試みとして注目されている。法案の成立には、これら3つの機関の合意の他に27カ国と欧州議会の承認が必要となる。施行は早くても2024年以降になる見込みである。
チャットGPT含む生成AIへの規制強化：欧州議会が新たなAI規制案を可決
規制案は、生成AIによって作られた文章や画像が人間によるものではなくAIが生成したという事実を明示することを要求している。また、違法なコンテンツの生成を防ぐモデルの開発や、生成AIが学習に利用した著作物の公開も義務化されている。ただし、AIの開発を妨げないように、研究の段階では規制が免除されている。
さらに、規制案は公共空間でのライブカメラによる顔認識技術の使用を警察などに禁止している。人権やプライバシーを侵害する可能性があるため、SNSや監視カメラの映像からの生体データの無差別収集も禁じている。
欧州委員会は2021年4月に初めてこの規制案を公表した。AI利用に伴うリスクを4つのレベルに分けて規制を設定していたが、初版の規制案では生成AIについてはほとんど触れられていなかった。しかし、チャットGPTを始めとする生成AIの急激な普及を考慮し、生成AIの使用についての透明性を保証する条項を新たに追加している。
チャットGPTさんに聞いてみた
今回の欧州議会の生成AIなどに関する規制案ですが、こういった規制に関してどう思われますか？
生成AIや他のAI技術に対する規制は、その技術が急速に発展し、社会に多大な影響を与える可能性があるため、多くの議論を引き起こしています。
特に生成AIは、誤情報の拡散、プライバシーの侵害、著作権の問題など、新たな課題を引き起こす可能性があります。そのため、これらの技術の利用を適切に管理し、社会の利益を保護するための規制は必要と考えられます。
一方で、規制は適切に行われなければなりません。過度な規制は技術の革新を妨げ、経済的な機会を損なう可能性があります。また、規制は全体的に均等であるべきで、特定のプレーヤーや国に不公平な利益をもたらしてはなりません。
今回の欧州議会の規制案は、これらの課題に対処しようとする試みであり、AIの利用が社会全体にとって有益で公正であることを保証するための重要な一歩と言えるでしょう。特に生成AIの透明性を確保しようとする取り組みや、人権やプライバシーの保護を重視する姿勢は、将来的なAI規制のモデルとなる可能性があります。
ネットの反応は？
AIといっても色々あるわけですが、画像生成AIと音声生成AIに関しては早めに強い制限をかけたほうがいいと思います。
著作権の問題だけでなく、ディープフェイクを悪用した犯罪が今後劇的に増加すると予想されます。
すでに特定の有名人の顔や声を再現する学習データがネット上に公開されており、そのノウハウを解説する動画も続々と公開されています。
数週間前にはＡＩ生成による音声データで声紋認証を突破したという報道がありました。顔認証が突破されたという報道がなされるのもそう遠くないと思います。
技術的に簡単に他人の顔や声を再現できる技術が公開されて、それを便利だと利用するのはどういう人たちでしょうか。
裁判で利用される画像や録音データも捏造が可能になり、真実かどうかの判別が困難になるでしょう。
法整備や技術的な対抗策の開発を急ぐべきだと思います。
ＥＵの包括的なＡＩ規制案の採択は、重要な一歩です。
ＡＩ技術の急速な進歩に伴い、その活用には様々なリスクや懸念が存在します。この規制案は、生成ＡＩを含むＡＩ技術の管理に取り組む初めての試みであり、ＥＵのリーダーシップと決断力を示すものです。
規制案の中には、生成ＡＩが作成したコンテンツがＡＩ生成であることを明示する要件や、違法なコンテンツの防止、著作物の開示などが含まれています。 これらの措置は、個人の権利とプライバシーを守るために重要な役割を果たします。
さらに、研究段階での規制免除を設けることで、ＡＩの発展とイノベーションを促進する配慮もなされています。バランスの取れたアプローチにより、ＡＩの透明性や責任性を高めながら、そのポテンシャルを最大限に引き出すことが期待されます。
ＥＵの取り組みは、世界中の他の国や地域にも良い影響を与えるでしょう。
編集後記
音声や画像のAIに関しては、音声認証や顔認証のセキュリティに悪用される心配があるので、何かしらの規制は必要ですね。
これから本人認証のために何が有効なのか、AIでは模倣できない、なおかつ確実に本人だと認証できるものが作られていくんですかね～
コメント