生成AIをめぐるトラブル 〜国内初の生成AI専用保険も誕生〜
近年、目覚ましい発展を遂げる生成AIは様々な分野で革新をもたらしています。しかし一方で、その進化の速さと複雑さゆえに、様々なトラブルも発生しています。今回は生成AIをめぐる代表的なトラブル事例などをご紹介します。
生成AIとは？
生成AIはジェネレーティブAI（Generative AI）とも呼ばれる人工知能の一種です。AI（Artificial Intelligence）は人工知能で、ジェネレーティブ（Generative）には生産する、生み出すといった意味があり、生成AIはテキストや音声、画像などといった様々なコンテンツを生成できるAIのことです。近年では、プログラミングコードや動画を生成するAIも話題となっています。
現在、様々な生成AIを使ったソフト、サービスが公開されています。代表的なものだと、OpenAI社の開発した対話型生成AIの「チャットGPT」、Googleが開発した対話型の生成AI「Gemini」、Microsoftによって開発され、AIが活用された検索エンジン「Bing」、Adobe社が開発した画像生成・編集AIソフト「Adobe Firefly」、Notion Labs社によって開発されたAIアシスタントサービス「Notion AI」などです。
生成AIをめぐるトラブル事例
生成AIをめぐるトラブルとは実際にどのようなものなのか、代表的なものを紹介します。
著作権の侵害
生成AIをめぐるトラブルで多く見られるのは「著作権侵害」です。AIは様々な情報を使って学習していますが、AIで生成されるテキストや画像が既存のものである可能性があり、そのまま利用してしまった場合、著作権侵害とみなされることがあります。特に企業など商用で使う場合においては生成したコンテンツをしっかりチェック、分析する必要があります。
情報漏洩
生成AIを使うためにはテキストベースでの指示を行うことがほとんどですが、入力された情報がAIの学習に使われることがあります。もし個人情報や機密情報を入力した場合には、その情報が第三者に知られる可能性があります。他にも、悪意のあるコードを生成AIに実行させ、公開が制限されている情報を抜き取ったり、データの改ざんを行う「プロンプトインジェクション」というサイバー攻撃も報告されています。
倫理的問題
生成AIは悪意なく差別的な表現などを含んだものを生成してしまうことがあり、こちらも問題視されています。男女差別や人種差別など、偏見を含んだものが生成され、それを使用してしまうことで炎上に繋がったり、知らぬ間に人を傷つけている可能性もあります。
品質問題
生成AIが真偽不明の誤った情報を生成してしまう現象を「ハルシネーション（幻覚）」と呼びます。まるで真実であるかのように嘘をつくため、AIが幻覚を見ているように感じられることからこう呼ばれています。内容によっては真偽の確認が難しいものがあり、そのまま使用すると誤解やトラブルにつながる可能性があります。
生成AIトラブルの具体的な事例
海上保安庁のパンフレットに掲載されたイラストがSNSで炎上
2024年3月、海上保安庁が作成したパンフレットに生成AIで作成されたアニメ風の女性のイラストが描かれていたことで、「著作権法に違反しているのではないか」という批判が相次ぎました。パンフレットは海難事故防止を呼びかけるもので、若者に興味を持ってもらえるように無償の生成AIで作成されたそうですが、SNSやホームページにパンフレットを掲載したところ批判が殺到したため、4月から予定されていたパンフレットの配布が中止となりました。海上保安庁は著作権法違反に当たるわけではない、としつつも「著作権について様々な議論がある中で、現段階でパンフレットの利用を中止すべきだと判断した」としています。
サムスン電子の情報漏洩事件
韓国のサムスン電子では、エンジニアが社内機密であるコードをチャットGPTにアップロードしたことでデータ流出につながりました。これを受けてサムスン電子ではチャットGPTなどの生成AIツールを使用禁止としました。
作家によるOpenAI社へ対する訴訟
アメリカでは作家のジョージ・R・R・マーティン氏やジョン・グリシャム氏などが「チャットGPT」の訓練として自身の作品が無断で使われたことが著作権侵害にあたるとして、OpenAI社に訴訟をおこしています。OpenAI社は作家の権利を尊重しているとして「作家らもAI技術から利益を得るべきだ」との考えを示しており、訴訟の行方が注目されています。
国内初の生成AI専用保険が誕生
2024年2月に国内初となる「生成AI専用保険」の提供が開始されると発表がありました。この保険はあいおいニッセイ同和損保とAI開発やAI導入コンサルティングなどを行う企業、Archaicによって共同開発されたものです。
「生成AI専用保険」の全体像
引用：あいおいニッセイ同和損保WEBサイトより
「生成AI専用保険」は、生成AIの利用により、知的財産権の侵害や情報漏洩等が発生した際に、企業が負担する様々な費用を補償する商品です。また、事故後の補償に留まらず、Archaicが提供するガバナンス体制の構築支援や事故発生後のコンサルティングサービスをパッケージで提供することで、事故の未然防止や事故後の早期回復の機能を加え、企業の安全・安心な生成AIの利用を支援します。
この保険ではArchaicが開発・構築した生成AIシステム・サービスを導入・利用する企業を対象に、生成AIによって発生した知的財産権侵害や情報漏洩などのリスクを補償する内容となっています。
最後に
生成AIが爆発的に発展している世の中ですが、生成AIをめぐるトラブルは近年増加傾向にあり、その進化の速さゆえに規制やルールなどが整備しきれていないのが現状のようです。生成AIを効率よく生活やビジネスに活用するのは素晴らしいことですが、使用する側も生成AIの脆弱性を理解した上で慎重に使用しなくてはいけませんね。
筆者Y.S
