ハルシネーションとは

もう少し詳しく

ハルシネーションは「幻覚」という意味で、生成AIが存在しない情報や間違った内容を、本当らしい文章で答えてしまう現象を指します。架空の法律や判例、実在しない商品名、誤った数字などが典型的な例です。

生成AIは「事実を調べて答える」のではなく、「文章として自然な続き」を予測して答えを作っているため、こうした誤りを完全になくすことは難しいとされています。自信のありそうな文章でも、正しいとは限りません。

対策としては、根拠となる資料を示させる、社内資料をもとに答えるRAGを使う、数字や固有名詞は元の情報で確認する、といった方法があります。「AIの答えは下書き」と考え、人が確認する流れを組み込むことが大切です。

中小企業の仕事でいうと

AIに業界の補助金について聞いたところ、すでに終わった制度や間違った締切日を答えることがあります。公式サイトで確認してから使いましょう。