2024-09-14

ChatGPTでやってはいけないこととは？避けるべき重要事項を解説

この記事のポイント

個人情報や機密情報をChatGPTに入力することは避けるべき
ChatGPTの回答には誤情報が含まれる可能性があり、検証が必要
AIへの過度な依存は創造力や学力の低下につながる恐れがある
ChatGPTは悪意あるユーザーによって不正利用される可能性がある
適切に使用すれば文章生成、プログラミング、言語学習など幅広い活用が可能

監修者プロフィール

坂本将磨

Microsoft AIパートナー、LinkX Japan代表。東京工業大学大学院で技術経営修士取得、研究領域：自然言語処理、金融工学。NHK放送技術研究所でAI、ブロックチェーン研究に従事。学会発表、国際ジャーナル投稿、経営情報学会全国研究発表大会にて優秀賞受賞。シンガポールでのIT、Web3事業の創業と経営を経て、LinkX Japan株式会社を創業。

AIの急速な発展により、ChatGPTをはじめとするAIテキスト生成ツールが大きな注目を集めています。これらのツールは利便性が高い一方で、利用する際には様々な注意点があります。

本記事では、ChatGPTを安全かつ効果的に活用するために避けるべき行為や考え方について詳しく解説します。個人情報の保護、提供される情報の検証、AIへの過度な依存の防止など、ユーザーが陥りがちな間違いや誤解を具体的に指摘し、適切な利用のためのガイドラインを提供します。

また、ChatGPTの利用に伴うセキュリティ問題や、悪意ある第三者によるツールの悪用など、AIを取り巻くリスクについても言及します。AIの可能性を最大限に引き出しつつ、その限界を理解し、賢明な使い方を促すことを目的とした内容となっています。

最新モデル、OpenAI o1(o1-preview)について詳しく知りたい方は、こちらの記事もご覧ください⬇️
OpenAI o1(ChatGPT o1)とは？その特徴や使い方、料金体系を徹底解説！

ChatGPTの利用時にやってはいけないこと

ChatGPTの利用時にやってはいけないこと

ChatGPTの使用において重要なのは、その用途に合わせた適切な利用方法を常に意識することです。このセクションでは、特に避けるべき３つの行動について詳細に解説します。

個人情報や機密情報の入力

ChatGPTはプライバシーの尊重を重視していますが、セキュリティを完全に保証することは難しいのが現状です。入力された情報が外部に漏洩する可能性は低いものの、ゼロではありません。
ChatGPTは、過去にプロンプトに入力された情報を学習データとして利用する場合があるため、個人情報や機密情報をChatGPTに入力する際には、個人情報や機密データを含む情報は入力しないよう注意し、セキュリティに関するリスクを避けるべきです。

令和5年6月2日、日本政府の個人情報保護委員会は、ChatGPTを開発したOpenAI社に対して、生成AIサービスの利用に関する注意喚起などを行なったと発表しました。

OpenAI に対する注意喚起の概要 (出典:個人情報保護委員会)

さらに、OpenAI社はchatgptの個人情報の利用目的について以下の様に提言しています。

個人情報の利用目的

OpenAI社は、ユーザー情報を学習や機能向上以外の目的で利用しないというように述べていますが、実際に過去にハッカー集団からの攻撃などにより、個人情報の流失が発覚したこともあります。

ChatGPTを利用する際は、個人情報を伏せたり、履歴OFF設定をしたりするなど、個人情報保護のための対策を行うようにしてください。

生成された回答を鵜呑みにする

ChatGPTはあくまでAIベースのモデルであり、生成される回答にはハルシネーションと呼ばれる誤りを含む可能性があります。

特に専門性が高い質問や最新情報を求める場合、ChatGPTの応答内容は必ずしも正確であるとは限りません。

【関連記事】
➡️ハルシネーションとは？その原因やリスク、対策方法を解説

実際にChatGPT の回答の正確性、一貫性、包括性、簡潔性に関する調査では以下の様な研究結果が得られました。

ChatGPTの回答の52%に誤った情報が含まれており、77%には冗長な回答が含まれていることが明らかになったにもかかわらず、参加者はその包括性と明確な言語スタイルにより、ChatGPTの回答を35％の確率で、間違いがあったとしても人間の回答よりもChatGPTの回答を好むことが判明しました。

出典: Is Stack Overflow Obsolete? An Empirical Study of the Characteristics of ChatGPT Answers to Stack Overflow Questions

この研究結果はChatGPTの回答には誤った情報が含まれており、一見正しい回答に関連するリスクに対する意識を高める必要があることを示しています。

ChatGPTへの過度な依存

ChatGPTが提供する便利な情報やサポートは、業務の効率化や問題解決に役立ちます。しかし、AIへの過度な依存は避けるべきでしょう。ChatGPTは高度な言語処理能力を持っていますが、人間特有の対話のニュアンスや感情を完全に再現することはできません。

そのため、ChatGPTを万能な存在と捉えるのではなく、あくまでも補助的なツールとして活用することが重要です。自分自身の創造力や批判的思考を鍛え、ChatGPTとのバランスを保ちながら、業務に取り組むことが求められます。

明らかにChatGPTで書いたと思われる、一見上手で実は支離滅裂な文章を幾つも採点していると、書き方は下手でも人間らしい味わいのある文章に高得点を与えたくなってしまいます。
— やのせん@VR/メタバース教育 (@yanosen_jp) May 13, 2023

また、大学生における生成AI利用とその影響に関する研究においてChatGPTへの依存が、記憶喪失や学力の低下などに関連していることが明らかになりました。

Not surprisingly, use of ChatGPT was likely to develop tendencies for procrastination and memory loss and dampen the students’ academic performance.
予想されることではありますが、ChatGPTの使用は、先延ばしの傾向や記憶の喪失を発展させ、学生の学業成績を低下させる可能性があります。

出典: Is it harmful or helpful? Examining the causes and consequences of generative AI usage among university students

ChatGPTに頼りすぎず、自分の判断力を磨くことで、AIの力を最大限に活かしつつ、その限界を理解した賢明な利用が可能になるでしょう。
ChatGPTは優れたサポートツールではありますが、最終的な意思決定は人間が行う必要があることを忘れないようにしましょう。

ソーシャルエンジニアリングの危険

ChatGPTは、モデルの精度を高めるためにユーザーの入力データを収集しますが、OpenAIはユーザーのプライバシーを尊重し、その取り扱いには十分な注意を払っていると述べています。

しかし、ユーザー自身が個人情報や機密情報を入力してしまうと、そのデータが不正に流用されるリスクがあるため、このような情報の提供は避ける必要があります。
ChatGPTは悪意あるユーザーによって、ソーシャルエンジニアリング攻撃や詐欺に利用されるおそれがあります。

ユーザーが独自の人工知能アシスタントを簡単に構築できる ChatGPT 機能は、サイバー犯罪用のツールの作成に使用できることが、BBC ニュースの調査で明らかになりました。

参考:BBC News

例えば、信頼関係を構築するための信憑性のある会話を生成したり、詐欺メールの内容を作成したりする際に利用されることが考えられます。

これらの安全でない利用法は、ChatGPTの意図した使用方法ではなく、ユーザーがこれらの攻撃に巻き込まれないよう警戒することが重要です。

ChatGPTでできること

ChatGPTの利用目的は多岐にわたりますが、以下に主なChatGPT活用方法をご紹介します。

文章の生成や要約、校正

ChatGPTは質問に応じて適切な回答を提供します。学習の質問や一般的な知識に関する疑問など様々な分野の質問に対する答えを生成します。

ChatGPTの回答例

また、ChatGPTは文章の要約や校正にも効果的に活用できます。

長い文章を簡潔にまとめたり、誤字脱字や文法的な誤りを指摘したりすることで、文章の質を向上させることが可能です。

【関連記事】

ChatGPTで文章校正する方法は？プロンプト例や実際の手順を解説 | AI総合研究所

ChatGPTを使った文章校正のやり方と効率的な活用方法、プロンプトを詳しく解説します。日本語だけでなく英語も可能で、論文やレポートを書く際の負担軽減に役立つ情報を提供します。

https://www.ai-souken.com/article/proofreading-texts-with-chatgpt

クリエイティブな作品の生成

ChatGPTは、単なる文章の生成や要約にとどまらず、レポートの作成や小説執筆といった本格的な創作物の執筆にも威力を発揮します。その高度な言語処理能力により、ユーザーのアイデアを基に、論理的で説得力のある文章を生み出すことができるのです。

また、ChatGPTは画像生成機能(DALLE-3)も備えており、ビジュアル面でのクリエイティブワークにも活用できます。

例えば、広告バナーのデザインやイラストレーションの作成など、様々な場面で効果的に利用することが可能です。

プログラミングやコードレビュー

ChatGPTは、プログラミングコードの生成にも活用されます。そのため、専門家に依頼せずに、素早くコードを生成できることや、特定の課題や問題に対する適切なコードを生成することができます。
プログラミング初心者や経験者にとって、ChatGPTは非常に便利なツールです。

ChatGPTをプログラミングに活用！プロンプトや活用事例を紹介 | AI総合研究所

ChatGPTをプログラミングに活用する方法や使い方、プロンプト例を詳しく解説しています。コード生成・エラー訂正を簡単に行えます。

https://www.ai-souken.com/article/using-chatgpt-in-programming

✅ ChatGPTが対応しているプログラミング言語一覧はこちら

カテゴリ	プログラミング言語
汎用言語	C, C++, C#, Python
Web開発	Java, JavaScript, PHP, Ruby, TypeScript, HTML/CSS
アプリ・ゲーム開発	Swift, Kotlin, Go
データベース	SQL
統計・データ解析	R, MATLAB, Julia, SAS, SPSS