[논문 매일 읽기 11일차] Survey of Hallucination in Natural Language Generation

논문 : https://arxiv.org/abs/2202.03629
제목 : Survey of Hallucination in Natural Language  Generation
발행일자 : 14 Jul 2024
저자:

ZIWEI JI, NAYEON LEE, RI TA FRIESKE, TIEZHENG YU, DAN SU, YAN XU, ETSUKO ISHII, YEJIN BANG, DELONG CHEN, WENLIANG DAI, HO SHU CHAN, ANDREA MADOT TO, and PASCALE F UNG, Center for Artificial Intelligence Research (CAiRE), Hong Kong University of Science and Technology, Hong Kong

 

Survey of Hallucination in Natural Language Generation논문리딩.pptx

0.17MB

출처 : https://arxiv.org/abs/2202.03629

 

총평 : 

Transformer 기반 모델의 급성장으로 인해 NLG(자연어 생성) 분야가 발전을 했는데, 이와 함께 환각이라는 문제를 일으켜 의료, 법률 등 민감 영역에서 위험할 수 있다.

환각(Hallucination)이란, NLG가 생성한 텍스트가 말이 되지 않거나( nonsensical generation) / 학습 데이터 소스에 충실하지 않은(unfaithful) 경우를 총칭한다.

환각의 원인과 개선,완화 방향을 1.데이터 2.학습/추론 두가지 측면에서 설명하였고, 특히 LLM분야에서의 완화 방법 중 역시 Chain-of-Thought가 포함되어 있었다.