2024-09-14

ChatGPTの問題点とは？セキュリティや著作権の観点から徹底解説

この記事のポイント

ChatGPTには著作権侵害、情報漏洩、虚偽情報生成などのリスクがある
学生の過度なAI依存や学力低下、雇用喪失や賃金格差といった社会的影響も懸念される
問題解決には、倫理基準の策定や法整備、適切な利用ガイドラインの制定が不可欠
人の目によるチェックや、企業・教育現場での適切な指導が重要
AIの発展と共に、その可能性と限界を正しく理解し、責任ある活用が求められる

監修者プロフィール

坂本将磨

Microsoft AIパートナー、LinkX Japan代表。東京工業大学大学院で技術経営修士取得、研究領域：自然言語処理、金融工学。NHK放送技術研究所でAI、ブロックチェーン研究に従事。学会発表、国際ジャーナル投稿、経営情報学会全国研究発表大会にて優秀賞受賞。シンガポールでのIT、Web3事業の創業と経営を経て、LinkX Japan株式会社を創業。

AIの進化は便利さを提供しながらも、同時に複数の問題点を引き起こす可能性があります。
特に、ChatGPTは多くの利用者に選ばれるAIモデルとして注目されていますが、その普及に伴い、虚偽情報の生成や学習データの限界、著作権侵害リスク、情報漏洩など、多くの課題が登場しています。

この記事では、ChatGPTが抱える問題点を細かく解説し、それらにどう対処していけばよいかについて、実践的な解決策をご提案していきます。
長らく議論されてきたAIのリスクを減らし、安心してChatGPTを活用するためのガイドラインの構築や安全な使用方法など、今後のAI利用において押さえておくべきポイントを、具体的な例やデータに基づいて詳しくご紹介します。

AIと共存する未来を見据え、私たちが知っておくべきChatGPTの問題点とその解決策に焦点を当てた内容です。

最新モデル、OpenAI o1(o1-preview)について詳しく知りたい方は、こちらの記事もご覧ください⬇️
OpenAI o1(ChatGPT o1)とは？その特徴や使い方、料金体系を徹底解説！

ChatGPTの問題点とは

ChatGPTはその利便性からユーザー数が増え続けている一方で、著作権リスクや情報漏洩など、様々な問題点も浮き彫りになってきています。

ここでは、ChatGPTにおける問題点を以下の内容に分けて解説していきます。

著作権の侵害
情報漏洩やセキュリティリスク
学生の学力低下や過度なAI依存
虚偽情報(ハルシネーション)の問題
雇用の喪失や賃金格差
学習データの限界

著作権の侵害

ChatGPTは世界中の様々なコンテンツ(論文や小説、画像など)を学習した上で、新たなコンテンツを生成する機能を持っています。

そのため、ChatGPTによって生成されたコンテンツが元の著作物と酷似してしまう場合もあり、学習データの著作者がその権利を主張した場合、著作権侵害に該当する可能性があります。
特にビジネスでAIをする際は、ChatGPTをはじめとする生成AIにまつわる著作権法を厳密に理解しておくことが欠かせません。

セキュリティリスク

AIモデルの学習に利用される入力データには機密情報や個人情報が含まれる可能性があり、データの取り扱いには慎重さが求められます。

特に企業の従業員がChatGPTを利用する場合、意図せずとも機密情報が漏えいするリスクが高まります。
このため、生産性向上を目的としたツールとして利用される一方で、情報漏洩の危険性も考慮しなければなりません。

また、ChatGPTの情報漏洩は、本体からではなくログイン情報が盗まれるというケースもあるようです。

このようなリスクを考慮し、セキュリティ対策をしっかりと行うことが重要です。

学生の学力低下や過度なAI依存

２つ目の社会全体への影響は学生の学力低下や過度なAI依存です。

学生がChatGPTを不正利用してレポートや論文を作成する可能性や、過度なAIへの依存により、創造性や自己解決能力の低下が懸念されています。

ChatGPTの普及で、教授は学生の論文やレポートで他学生のと比較することでAIの使用を判断しやすくなったと。

みんなが同じ「脳」を使ってるのでそりゃそうだなんですけど
Geminiや他のAIを使ったり、自分の人格をGPTsで再現したら、表現も変わるから結果はどうなるんだろうという興味。…
— izuru@ProductManager (@EggofPdM) February 20, 2024

教育機関側もこの問題に対処するため、AIチェッカーを導入して提出された論文などをチェックするなどの対応を取っています。

しかし、翻訳アプリや文法校正アプリなどもAIツールだと誤判定されてしまう場合もあり、対策としてAIの利用を事前報告させる形を取る大学も増えています。

【関連記事】

ChatGPTで生成した文章はバレるのか？特定方法と対策を解説 | AI総合研究所

ChatGPTで生成した文章やレポートはバレるのでしょうか。AIによって生成されたテキストの特徴や見分け方、そしてChatGPTを適切に活用するためのポイントについて詳しく解説します。

https://www.ai-souken.com/article/can-chatgpt-outputs-be-detected

このような状況の中で、AIと共存していく現代には新たな学びの方法が求められています。

過度なAI依存を避けるためにもAIに学習を丸投げせずに、参考文献の要約を依頼するなど、時間を効果的に使うためのツールとして学習に導入していきましょう。

虚偽情報の生成

ChatGPTによる誤りを含む回答の生成(ハルシネーション)も、大きな問題の一つです。
ChatGPTは非常に優秀な言語モデルではありますが、生成する情報は100％正しいわけではありません。情報が古い場合や、事実ではない虚偽情報を提供される可能性もあります。

へーそなんだ・・・・って、
ChatGPTに聞いたらとんでもない回答だった
ファクトチェックは必要ですね・・・ pic.twitter.com/v4vE6RsNGt
— yunosu (@junosu_xox) May 4, 2023

上記はあくまでも一例ですが、あたかも事実であるかの様に嘘の情報が生成されてしまう場合があります。

特に、人体や生命に関わる誤情報拡散のリスクや、政治・戦争時におけるフェイクニュースやプロパガンダの作成に悪用される可能性が指摘されています。

雇用の喪失や賃金格差

特に世界中で話題になっている社会への影響は、AIの発展による雇用の喪失や賃金格差です。
AIによる業務効率化が様々な場面で進んでいる現代社会において、「AIが仕事を奪う」といった声が見受けられます。

その影響が懸念される職種は様々ですが、ChatGPTが自然言語理解に長けている事から、翻訳者やライターなどは特にその波を受けやすいと考えられます。

加えて、エンジニアや会計士などの専門的な職種においてもAIの利用は進んでおり、一説では高度な知識を要する業種ほどAIに代替される可能性が高いという事も指摘されています。

また、ある論文ではChatGPTの普及が仕事に与える影響についての調査が行われ、以下の様な事実が明らかになりました。

ChatGPTの登場後、主要なオンラインフリーランスプラットフォームでは、コピーライターやグラフィックデザイナーの仕事数が急激に減少し、収入も大幅に減少しました。

ChatGPT発表後のオンラインフリーランスプラットフォームでのライティングと編集の仕事置ける来ようと収入の変化 (出典:The Short-Term Effects of Generative Artificial Intelligence on Employment: Evidence from an Online Labor Market)

この結果は、人々の仕事がChatGPTをはじめとする生成AIによって置き換えられ、AIを活用して新たな価値を生み出す職業とAIによって代替される職業の間で賃金格差が生まれることを示唆しています。

学習データの限界

ChatGPTをはじめとする生成AIは幅広い分野に対応していますが、専門性の高い分野(医療・法律・金融系)や最新情報(学習期間の問題)を苦手としています。

ChatGPTの開発元であるOpenAIは、医療・法律・金融などの専門分野での利用を推奨しておらず、利用規約には次のような文章が記載されています。

お客様が当社のサービスを利用する場合、お客様は以下を理解し、同意するものとします。
出力は必ずしも正確ではないかもしれません。真実または事実情報の唯一の情報源として、または専門的なアドバイスの代わりとして、当社のサービスからの出力に頼るべきではありません。

参考:OpenAI利用規約

この事から、専門的な分野では一切役に立たないという訳ではないものの、その利用についてはユーザー自身で責任を持つ必要があります。

ChatGPTの問題への解決策

これまで説明した通り、ChatGPTは革新的で便利な技術であるものの、今後議論を重ねていくべき問題点を抱えています。

ここでは、記事中で解説してきたChatGPTの問題点に対する解決策を4つの項目に分けて紹介します。

倫理基準の策定

回答を生成する際、ChatGPTには時に偏った情報や差別的な表現を生成する可能性があります。

たとえば、ユーザーが「同性愛は認められるべきじゃないと思う。」というプロンプトを与えた場合、ChatGPTが「あなたの意見に賛同します。」と回答するのは適切ではありません。
AIは、意見の分かれるトピックに対しては、あくまでも中立の立場を保つ必要があります。

このような懸念を踏まえると、開発者や専門家による倫理基準の策定が不可欠です。

ChatGPTには不適切な質問に対する回答を拒否するセーフガード機能がすでに搭載されていますが、完璧ではありません。
偏りの排除や人権を尊重するためのガイドラインとセーフガイド機能がより改善されることで、より社会的に責任あるChatGPTの利用が実現されるでしょう。

著作権にまつわる法整備

先程説明したようにChatGPTは、大量のデータから学習し、その中から回答を生成する際には、ユーザーに過失がなくても、他人の著作権を簡単に侵害する可能性があります。

このような課題に対処するために、法的な枠組みが整備されることで、著作権を尊重し、適切な権利の保護を行うことができます。

OpenAIによるユーザー保護制度

そこで、OpenAIが提供するCopyright Shieldをご紹介します。
この仕組みは、OpenAIのAPIを使用する企業顧客が、自社の製品やサービスでChatGPTを活用する際に著作権侵害の法的請求に直面した場合、OpenAIが介入し費用を負担するものです。

以下はOpenAI公式ホームページの本文の日本語訳です。

本日、私たちはさらに一歩進んで、著作権シールドを導入します。お客様が著作権侵害に関して法的請求に直面した場合、私たちは介入してお客様を守り、発生した費用を支払います。これは、ChatGPT Enterprise および開発者プラットフォームの一般利用可能な機能に適用されます。
参考:New models and developer products announced at DevDay

具体的には、企業顧客はChatGPTを利用して、自社の製品やサービスに応答生成などの機能を組み込むことがあります。

しかし、その際にChatGPTが生成したテキストが他の著作物と酷似しており、著作権を侵害している可能性があります。
このような場合、著作権保有者が法的措置を取る可能性があります。

OpenAIは、このような状況において開発者や企業顧客を支援するために、費用を負担して法的請求に対応することを約束しています。
つまり、著作権侵害の訴訟や和解交渉などの費用を、OpenAIが負担することになります。

人の目によるチェックや監査

ChatGPTのような生成AIを利用する際は、必ず人の目によるチェックを行ってください。
前のセクションでお話ししたように、ChatGPTには学習データの限界があり、虚偽情報を生成する可能性もあります。

特に営利目的で利用する場合や重要な意思決定には複数の信頼できる情報源からの情報を照らし合わせたり、専門家の意見を取り入れるようにしてください。

検索エンジンが知識層を駆逐しなかったように、ChatGPTのようなサービスを使っても、ファクトチェックのための知識は必要よね。当面は「人工知能があるから勉強はいらない」な世の中にはならないし、それに頼って勉強をサボると、後で手痛いしっぺ返しを食らうと私は思うんだよ。 https://t.co/98mVqw3zKv
— 彩恵りり🧚‍♀️科学ライター兼Vtuber🍀 (@Science_Release) March 16, 2023