ハルシネーションとは？生成AIを利用するリスクと対策を考える

あらゆる企業に求められるDX推進に必要な技術「AI」。しかしAIが発達するにつれて、AIのメリットだけでなくデメリットも明らかになりつつあります。そのなかでも大きなデメリットとされるのが「ハルシネーション」です。ハルシネーションとは生成AIが事実と異なる回答を生成する現象で、誤った回答により、さまざまなリスクをもたらします。

ここでは、ハルシネーションの概要とその原因や対策、ハルシネーションについて理解したうえで生成AIを活用するために必要なポイントなどを紹介します。

DX推進における生成AIの役割とは

生成AIを導入することで、DX推進にもつながる次のようなメリットが生まれます。

効率化、コスト削減、生産性向上を実現する
作業の自動化に、専門的な知識や経験をもとにした判断を加えることができます。
作業を高度化する
専門的な知識が必要な作業でも、ある程度自動化が可能になります。
新しいアイデアやビジネスモデルを生み出す
新しいコンテンツの提案や生成、ユーザーとの相談などが可能です。
顧客満足度を向上させる
商品やサービス、顧客対応のクオリティが上がることで、顧客満足度も向上します。
意思決定をサポートする
より緻密で素早いデータの分析・予測が可能になります。

生成AIとDXの関係は、「生成AIとは？DXとの関連は？活用の広がりが期待される技術」も参考になります。また、あらためてDXがどのようなものか確認したい場合は、「【徹底解説】DX(デジタルトランスフォーメーション)とは？必要性から成功事例まで」をご覧ください。

生成AIとハルシネーション

多くのメリットがある生成AIですが、生成AIを利用しているとハルシネーションが発生する恐れが出てきます。そもそもハルシネーションとはどのようなものなのか、なぜ発生するのか、どのような種類があるのかを見ていきましょう。

ハルシネーションとは

ハルシネーション（Hallucination）とはもともと「幻覚、幻影」という意味です。生成AIがユーザーの質問に対して、事実とは異なる情報を利用して回答を生成することを指し、「もっともらしいうそ」といった意味合いで、こう呼ばれるようになりました。

ハルシネーションからトラブルにつながることも少なくありません。

生成AIは回答のもとになるデータを表示しないことも多いため、ユーザーはその回答が真実かどうかを、その場ですぐに判断することができません。

そういったことから、ハルシネーションの発生は問題視されているのです。

ハルシネーションはなぜ発生するのか

ハルシネーションの原因は次のようなものと考えられています。

学習データに間違いがある、古い
AIが学習データを正確に理解・把握できていない
学習データが不足している
学習データを誤って組み合わせている
学習データを理解せずに推測している
構築したAIモデルのアーキテクチャや学習プロセスに問題がある

このように、ハルシネーションは学習データおよびその理解に起因しています。

しかし現在では、AIの学習に完全なデータを用意できていません。現状ではハルシネーションをなくすことはできないのです。

ハルシネーションの種類

ハルシネーションには、2つの種類があります。

Intrinsic Hallucinations
これは学習データとは異なる内容の回答を出力するものです。
例えば、学習データには「『ユーグレナ』という名称の由来は、ラテン語の『美しい目』」といった情報が含まれていたにもかかわらず、AIが「ミドリムシの由来はラテン語の美しい目です」と回答をするなどが、Intrinsic Hallucinationsです。
Extrinsic Hallucinations
これは学習データに存在しない内容を回答として出力するものです。
例えば、まったく学習データにはない、「ミドリムシの名前の由来は、『緑があまりに鮮やかで無視できない存在』といった意味です」といった回答を捏造するなどが、Extrinsic Hallucinationsです。

ハルシネーションのリスクと対策

ハルシネーションのもたらすリスクとその対策を説明します。

ハルシネーションがもたらすリスク

ハルシネーションが起こることで、次のようなリスクがあります。

AIの誤った回答をもとに、誤った情報が広まる
誤った情報をもとにしているので、正確な意思決定を行えない

企業が利用しているAIでハルシネーションが発生すれば、企業としての評価や信頼性の低下にもつながります。

ハルシネーションが発生しないようなリスク管理

ハルシネーションを発生させないためには、次のようなリスク管理が必要です。

学習データの品質を管理し向上させる
誤りのあるデータをできるだけなくしておきます。
グラウンディング
学習に使うデータや利用するURLを指定して、データの質を管理します。
AIモデルの学習プロセスを監視する
設計に問題があると、不適切なAIモデルや学習プロセスになります。その場合はAIモデルや学習プロセスを見直します。
RLHF（Reinforcement Learning from Human Feedback）
人間からのフィードバックをもとにして強化学習を行います。
プロンプトの調整
プロンプト（AIへの質問）の仕方によってはハルシネーションが起きやすくなるので、そのようなプロンプトを使わないようにします。

ハルシネーションの発生への対応

AIを導入している企業では、AIのすべての回答にハルシネーションの発生を疑う必要があります。そのため、次のような対応が求められます。

ユーザーへの教育
生成AIではハルシネーションが発生する可能性があることを認識させます。
ガイドラインを作成する
学習データの質やプロンプトの作成方法について、ガイドラインを作成し配布します。
ファクトチェック
回答を利用する前に、誤った情報や不正確な回答ではないかを確認し、生成AIの出力内容を検証します。
確認のプロセスも構築しておきましょう。
出力の結果にフィルターをかける
人が作成したフィルターをかけることで、偏りや誤りが出ないように調整します。何が偏りで何が誤りなのかを判断するのは人でなければなりません。