【革新と規制】生成AIの未来はユートピアかディストピアか、その答えは?

AI・人工知能

ニュース

連載 [第6回] :

Gen AI Times

2024年6月7日(金)

瀧口真人鍋谷美帆

本記事は、生成AIコミュニティ「IKIGAI lab.」に所属するメンバーが、生成AIに関するニュースを紹介＆深掘りしながら、AIがもたらす「半歩先」の未来に皆さんをご案内します。

はじめに

本連載は、生成AIコミュニティ「IKIGAI lab.」で活動している6名で運営しています。注目されている生成AIに関するニュースを収集し、個性豊かなメンバーによる記事の深堀りから、半歩先の未来の想像を共有していきます。この記事を通して、ぜひ皆さまも各々の半歩先の未来を想像しながら、色々な価値観を楽しんでいただけると嬉しいです。

前回のGen AI Timesでは「OpenAI」「Google」「xAI」「Anthropic」などの大手企業が、競う様に新モデルやアップデート、スマホアプリの発表を行ったことを取り上げました。

中でもOpenAIのデモンストレーションは、まるでSF映画の世界が現実になりつつあるかのような内容でした。AIが途中でカットインされても会話を続けたり、感情豊かに歌ったり、カメラで映した景色について会話したりする様子は、新しい未来を予測させるものでした。

それから数週間経った今も、AIの新たな活用方法や企業活動への導入事例が次々と生まれています。今回はまず、その新機能をおさらいするとともに、AIを取りまく最新の動向についてお伝えしていきます!

ChatGPT-4oの機能と使い方総まとめ

●2024年5月25日 AI総合研究所
ChatGPT-4o(GPT-4o)とは? 使い方や料金、無料で使う方法を解説!

前回でもお伝えした通り、「GPT-4o」は高性能かつ高速になっただけでなく、テキスト、音声、画像の入力をリアルタイムで処理する能力が大幅に向上しました。

これにより、以下のようなことが可能になっています。

音声：リアルタイム応答・翻訳、感情表現
画像：画像生成の一貫性向上、画像認識(OCR)から詳細を提供、手書きの画像から図を作成
データ連携：Google Drive・OneDriveとの連携、データ分析、グラフの作成

生成AIの活用事例

企業・行政機関でも、活用事例が日々アップデートされています。

メルカリ：動画広告の制作に生成AIを活用し、制作工数を3分の1まで削減
公開資料では成果のあった活用法に加え、顧客向けプロダクトでの活用における出力内容のコントロールの難しさと開発の工夫も紹介されています(ITmedia AI+)
デジタル庁：行政での生成AI活用事例を公開
職員の業務効率化や成果物の品質向上に一定の効果が見込める等、検証で得られた"10の学び"を公式Noteでも解説しています(ITmedia AI+、デジタル庁)

このように盛り上がりを見せる生成AI業界ですが、一方で急速な技術発展に伴う課題も浮上しています。

AI音声「Sky」の提供を一時停止

●2024年5月20日 OpenAI
X(@Open AI)

映画「Her(邦題：her／世界でひとつの彼女)」にAIサマンサ役として出演した俳優スカーレット・ヨハンソン(Scarlett Johansson)氏が「声の提供を断ったにも関わらず、そっくりな声を採用された」ためOpenAIに対し申し立てを行い、「Sky」(CharGPTのAIアシスタント音声)の使用を一時中止する事態に発展しました。

●2024年5月21日 ITmedia NEWS

X「GPT-4o」の声、スカーレット・ヨハンソン激似に本人激怒「アルトマン氏のオファー断った」ため似た声優で再現か

OpenAI社は「私たちがパートナーを組んだ声優からサンプリングされています」とスカーレット・ヨハンソン氏の音声を複製している/故意に似せたとの噂を明確に否定しています。

●2024年5月19日 OpenAI
How the voices for ChatGPT were chosen

現時点での生成AIのダークサイド：
「アーティスト本人の意志に関係なく創作物や著作物がAIの学習に利用される恐れ」に関する問題は、まだ未解決です。生成AIを利用する側は(AIモデル開発者も含む)この点をはっきりと認識し、より良い未来を築くための広範な議論を開始する時がきています。

こうした課題も踏まえて、生成AIの規制・統制に関する最新の動きも見てみましょう。

世界初、AI規制法の成立

●2024年5月21日 Council of the EU
Artificial intelligence (AI) act: Council gives final green light to the first worldwide rules on AI

欧州連合(EU)は、2024年5月21日世界初のAI規制法を制定しました。これは2020年から長い時間をかけ議論され承認されたものです。

Timeline - Artificial intelligence - Consilium (europa.eu)

この法律は、AIの開発と利用に関する透明性、倫理基準を設定し、民間と公的機関の両方による安全で信頼できるAIの開発と採用を促進することを目的としています。

今回成立したEUのAI規制法(EU AI Act)のポイントは下表の通りです(注：出典を元にHigh-level summary of the AI Act | EU Artificial Intelligence Actの内容を加筆・修正)。

項目	内容	関連する条項
リスクベースアプローチ	リスクに応じて対象のAIシステムを分類し、要件や義務、罰則を定める。「禁止AI(Prohibited AI)」「高リスクAI(High-Risk AI)」など。リスクの低いAIシステムでは透明性の義務は軽く(AI利用の明示等)、最小限のリスクは規制されていない(AI対応のゲーム、スパムフィルター等）。また汎用AI(GPAI：General Purpose AI)に関しては上記とは別に規定されている	第5条禁止されているAI行為第6条高リスクAIシステムの分類ルール第V章汎用AIモデル
域外適用	EU域外の企業や組織でもEU域内に製品やサービスを提供する場合は適用対象。但し、高リスクAIシステムとして(または第5条及び第50条に該当するAIシステムとして)市場に投入されるか、サービスに利用されない限り、フリーまたはオープンソースのライセンス下でリリースされたAIシステムには適用されない	第2条適用範囲第5条禁止されているAI行為第50条特定のAIシステム及びGPAIモデル提供者及び利用者に対する透明性の義務
罰則	禁止AIの違反は最高3,500万ユーロ、事業者の場合は前会計年度の全世界年間総売上高の7％のいずれか高い方、高リスクAIをはじめとする規定への違反には1,500万ユーロ、事業者の場合は前会計年度の全世界総売上高の3％を上限とするいずれか高い方 (2024年5月26日時点で1ユーロ＝約170円のため、3,500万ユーロ＝約60億円)	第99条罰則

【出典】玉置亮太日経クロステック／日経コンピュータ「EUで厳罰付きのAI規制法が成立、心もとない日本企業の備え」より(2024/5/23公開)

AI規制法は、2026年に全面的な実施となる見通しです。
(注：内容は更新される可能性があるため、最新情報はTimeline of Developments | EU Artificial Intelligence Actをご確認ください)

発効後6ヶ月後：許容できないリスクAIに対する禁止措置が適用
(関連する条項：第Ⅰ章および第Ⅱ章)
発効後12ヶ月後：汎用AIモデル(GPAIモデル)への規制や守秘義務と罰則などが適用される。ただし、GPAIプロバイダーに対する罰金(第101条)は除く
(関連する条項：第III章第4節(当局への通知)、第V章(汎用AIモデル)、第VII章(ガバナンス)、第XII章(守秘義務と罰則)、第78条(守秘義務))
発効後24ヶ月後：残りのAI法が適用される

注：AI Act Implementation: Timelines & Next stepsより一部抜粋して翻訳

【出典】EU AI Act Next Steps for Implementation

2026年までに段階的に適用され、最終的には全面施行されるわけですが、GDPR(General Data Protection Regulation：EU一般データ保護規則)と同様にEUのAI規制法も「域外適用」があります。つまり、日本でも多くの企業が対応を迫られる可能性があります。GDPRへの対応に苦慮した経験のある企業も多いのではないでしょうか。残り2年という期間は、日本の企業にとってそれほど長くはない可能性があります。

AIソウルサミットで「ソウル宣言」採択

●2024年5月21日　The Republic of Korea
ChatGPT-4o(GPT-4o)AI SEOUL SUMMIT 21 - 22 MAY 2024

EU以外の各国政府やAI企業も動き始めています。AIの安全性、革新性、包括性を推進し、広範なリスクと機会に対応してガバナンスのあり方を議論すべく各国の首脳らが議論する国際会議「AIソウルサミット」がオンライン形式で開かれ、「リスクベースのアプローチに基づいたガバナンスフレームワーク運用」「最先端のAIを開発・展開する組織の特別な責任」などについて言及した「ソウル宣言」を採択しました。

OpenAIをはじめとしたグローバルAI企業16社も、AIの安全な開発に責任を持って取り組むことなどに合意しています。

AIソウルサミットとは?
2023年11月に英国で開催された「AIセーフティーサミット」の後続で、2024年5月にオンライン形式で開催。各国首脳級と国連などの国際機構の代表、グローバルAI企業の経営陣が参加した。

【出典】李海昌 JETROビジネス短信「AIサミットで安全、革新、包容の3大原則盛り込んだソウル宣言採択」より(2024/5/23公開)

これまで急速に発展するAIの進歩に法律や制度が追い付かず、様々な問題が起こっていることも事実です。しかし、新しい技術に議論はつきもので、私たちはその軋轢を乗り越えてきました。ソフトロー(行動規範や指針)だけではなくハードロー(拘束力・強制力を持つ法律等)も整備することは今後のAI発展に欠かせないと考えます。政府・企業・個人が手を取り合い、「単に規制するだけではない」あり方が模索できることを願っています。

今回の話題に関連する内容(AIに関わる著作権と声のAI利用に関して)がこちらにもあります。あり方の1つとして参考になると思いますので、ぜひチェックしてみてください。

おわりに

今回は、生成AIの目覚ましい進化を紹介するとともに、活用する側として認識すべき課題にも焦点を当てました。AIでできることが増えても、人間らしい創造性の重要性は変わらず、同時に、AIを適切に使いこなす判断力が求められると考えます。正しいルールと倫理観を持ちながら生成AIを活用することで、私たちの可能性は大きく広がるはず。生成AIの進化とその活用法を理解し、共に未来を築いていきましょう!

今後も生成AIの最新情報をお届けしていきますので、次回の投稿をお楽しみに!

※本ニュースは「IKIGAI lab.」が配信しているコンテンツです。
　IKIGAI lab.はこちらをご覧ください。