ChatGPTは文章を「予測して作る」仕組みなので、もっともらしいけれど事実と違う内容（ハルシネーション）を作ることがあります。OpenAIの利用規約も、出力は不正確なことがあり、利用者が用途に応じて正確さを評価すべきとしています。出典を出させて自分で開く、公的機関や公式の一次情報で確かめるのが基本の防ぎ方です。
間違いが起きやすい質問
- 本・論文・判例など、具体的な文献名や番号（実在しないものを挙げることがある）
- 細かい数字・日付・金額・統計
- 知識の期限より新しい出来事（検索しないと古い情報で答える）
- あまり知られていない人物・会社・地域の情報
- 長い計算や、条件の多い推論
見抜き方と防ぎ方
- 出典を求める：「根拠になるページのURLもつけて」と頼み、実際に開いて書いてあるか確かめる
- 検索を使わせる：最新の話題は「ウェブ検索して」と明記（ウェブ検索の使い方）
- 分からないと言わせる：「確かでないことは『分かりません』と答えて」と最初に書いておく
- 考える時間をとらせる：難しい問題はThinking（思考）を使う（InstantとThinking）
- 見直させる：「今の答えに誤りがないか、根拠と一緒に点検して」（ChatGPT自身に確かめさせるには？）
公的機関も注意をうながしています
個人情報保護委員会は2023年6月2日の注意喚起で、生成AIは確率的な相関関係にもとづいて文章を作るため、出力に不正確な内容が含まれるリスクがあることを利用者が認識するよう呼びかけています（個人情報保護委員会の注意喚起）。
医療・法律・お金・安全にかかわる判断は、ChatGPTの答えだけで決めないでください。専門家や公式の窓口に確認しましょう（医療・法律・お金の情報の確かめ方）。
出典：OpenAI 利用規約、個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」（2023年6月2日）。