ハルシネーション(hallucination)は、生成AIが事実と違う内容を、もっともらしい文章で答えてしまうことを指す言葉です。もとの英語は「幻覚」の意味で、AIが実在しない資料や数字を作り出すような場面で使われます。仕事でAIの回答を文書やメールに使うときは、「AIが言ったから正しい」とせず、人が確かめてから使うことが基本になります。この記事では、言葉の意味、似た言葉との違い、仕事で確認する手順、社内文書での書き換え例をまとめます。
ハルシネーションの意味:何が「幻覚」なのか
人が見る幻覚と同じように、そこにないものを「ある」かのように出力してしまうことから、この名前で呼ばれています。ポイントは、間違っているのに、文章は自然で自信ありげに見えることです。文章の形が整っているため、読む側は誤りに気づきにくくなります。
仕事で起こりやすい例は次のようなものです。
- 存在しない資料名・法令名・URLを、本物のように挙げる。
- 数字や日付を、もっともらしく違う値で答える。
- 長い文章を要約するとき、元の文章にない内容を付け加える。
- 質問の前提が間違っていても、そのまま話を合わせて答える。
「AIが嘘をつく」と説明されることもありますが、AIに悪意があるわけではなく、もっともらしい文章を作る仕組みの結果として誤りが混ざるというほうが実態に近い見方です。そのため、「間違いは必ず起こりうるもの」として、使う側の確認の手順を決めておくことが大切です。
似た言葉との違い
| 言葉 | 意味 | ハルシネーションとの違い |
|---|---|---|
| ハルシネーション | AIが事実と違う内容をもっともらしく出力すること | この記事の言葉 |
| ハレーション | 写真で、強い光が周りににじんで写る現象(転じて、周囲への強い反発や影響の意味でも使う) | 名前が似ているだけで別の言葉。AIの誤りの意味では使わない |
| 誤情報 | 結果として間違っている情報 | 人が書いた間違いも含む広い言葉。ハルシネーションはAIの出力に限って使うことが多い |
| 誤変換・誤記 | 文字の変換ミスや書き間違い | 入力や変換の誤り。内容を作り出してしまうことではない |
| 古い情報 | 当時は正しかったが、今は変わっている情報 | ハルシネーションとは別の問題。ただし確認が必要な点は同じ |
文書では、「ハレーション」と書き間違えないように気をつけてください。AIの話題でカタカナ語が続くと、読み手が混乱しやすくなります。
言い換え:読み手に合わせて選ぶ
社内に生成AIになじみのない人がいる場合、カタカナ語のままでは伝わりません。相手に合わせて言い換えると、注意してほしい点がはっきりします。
| 読み手 | おすすめの言い方 | 理由 |
|---|---|---|
| AIを日常的に使う同僚 | ハルシネーション | そのまま通じる |
| AIにあまり詳しくない上司・取引先 | AIが事実と異なる内容を答えてしまうこと | 説明を添えれば専門用語を使わずに済む |
| 規程・マニュアルなどの文書 | 誤った内容の生成(ハルシネーション) | 日本語を先に書き、カッコで用語を示す |
| 注意喚起の短い一文 | AIの回答には誤りが含まれることがあります | 誰が読んでも意味が分かる |
仕事で確認する手順:何を、どの順で見るか
すべてを疑うと時間がかかるので、間違えると困る部分から優先して確認します。次の表を目安にしてください。
| AIの回答に含まれるもの | 確認の優先度 | 確認のしかた |
|---|---|---|
| 数字・日付・金額 | 高い | 元の資料・社内の記録と照らし合わせる |
| 法令・規則・制度の内容 | 高い | 公的機関や所管の一次資料で確かめる |
| 固有名詞(会社名・人名・製品名・資料名) | 高い | 実在するかを公式サイトや社内の名簿で確かめる |
| 出典・URL | 高い | 実際に開いて、書かれている内容と合うか確かめる |
| 要約 | 中 | 元の文章と見比べ、書かれていない内容が足されていないか見る |
| 文章の言い回し・構成案 | 低い | 自分の言葉に直して、意図とずれていないか読む |
確かめるときの3つの質問
- この内容が間違っていたら、誰かに迷惑がかかるか。かかるなら必ず元の資料で確かめる。
- 根拠(出典・元の資料)を自分の目で開いて確認できたか。確認できないものは使わない。
- 数字・名前・日付は、元の資料と一字ずつ合っているか。
AIが示した出典を確かめるときの考え方は、一次情報と二次情報の違いで、要約の確認の手順はAIの要約を確認するときの手順で紹介しています。「確認」と「検証」の使い分けは、検証とはも参考になります。
書き換え例:社内文書でのAIの扱い方
| 書き換え前 | 書き換え後 | 直した点 |
|---|---|---|
| AIによると、この制度は【年】に変わったそうです。 | AIの回答では、この制度は【年】に変わったとのことです。【一次資料】で確認しました。 | 確認した資料を添えた |
| AIがまとめたので問題ないと思います。 | AIがまとめた案を、【担当者名】が元の資料と照らして確認しました。 | 誰が確認したかを書いた |
| ChatGPTの回答をそのまま貼りました。 | AIの回答を下書きとして使い、数字と固有名詞は元の資料で確認して修正しました。 | 下書きとして使い、確認したことを書いた |
| AIはハルシネーションを起こすので使えません。 | AIの回答には誤りが含まれることがあるため、数字・固有名詞は必ず元の資料で確認してから使います。 | 禁止ではなく、守る手順を書いた |
| 出典:AIの回答 | 出典:【元の資料名・発行元・日付】(AIの回答を参考に確認) | AIそのものは出典にしない |
書き換えの考え方は、AIを禁止するのではなく、確認した事実と確認した人を文書に残すことです。そうすれば、後から読む人も、どこまで確かめ済みなのかが分かります。
コピーして使える:AI利用時の確認メモ
AIの回答を文書に使うときに、記録として残せるひな形です。【 】を埋めて使ってください。
【AI利用の確認メモ】 作業内容:【何のためにAIを使ったか】 AIに任せた範囲:【下書き/要約/言い換え/その他】 確認した項目: ・数字・日付:【確認済み/該当なし】(確認した資料:【資料名】) ・固有名詞:【確認済み/該当なし】 ・出典・URL:【確認済み/該当なし】 確認した人:【担当者名】 確認日:【日付】 修正した点:【AIの回答から変えた内容】
- 「確認した資料」には、元の資料名や発行元を書きます。AIの回答そのものは資料にしません。
- 確認できなかった項目は「確認済み」にせず、「未確認」と書いて文書には使いません。
- 修正した点を残すと、次に同じ作業をするときの注意点になります。
よくある質問
ハルシネーションは日本語で何と言いますか。
もとの意味は「幻覚」ですが、AIの話題では「誤った内容を生成してしまうこと」「事実と異なる出力」などと言い換えられます。文書では、説明を添えてからカタカナ語を使うと伝わりやすくなります。
ハルシネーションは完全に防げますか。
完全に防ぐことは難しいため、「起こることを前提に、人が確認する」運用が現実的です。質問の際に元の資料を示す、根拠を答えてもらうなどで減らせることはありますが、最終的な確認は人が行います。
ハルシネーションとハレーションの違いは何ですか。
ハルシネーションはAIが事実と違う内容を出力すること、ハレーションは写真で強い光がにじむ現象(または周囲への強い影響を表す比喩)で、別の言葉です。
まとめ
- ハルシネーションは、生成AIが事実と違う内容をもっともらしく出力すること。
- 数字・日付・固有名詞・出典・法令は、必ず元の資料で人が確かめる。
- 文書には、確認した資料と確認した人を残し、AIの回答そのものを出典にしない。
ほかの言葉の違いや使い分けは、仕事でよく迷う言葉の違い一覧にまとめています。
