ハルシネーション

LLMは確率的に「それらしい」文章を生成する仕組みのため、誤った情報を自信を持って出力することがある。業務利用では、重要な情報は必ず一次情報で確認するなど、運用ルールを整えることが重要になる。