생성형 인공지능(AI)이 우리의 일상에 빠르게 스며들고 있다. 학생들은 과제를 작성할 때 AI를 활용하고, 직장인은 보고서를 작성하며, 자영업자는 홍보 문구를 만드는 데 AI의 도움을 받는다. 이제 AI는 검색을 넘어 함께 일하는 동료처럼 활용되고 있다. 그러나 AI가 제공하는 답변이 언제나 사실이라고 믿는 것은 위험할 수 있다. AI가 실제 존재하지 않는 정보를 사실처럼 만들어내는 ‘하루시네이션(Hallucination)’ 현상이 있기 때문이다.

하루시네이션은 원래 ‘환각’을 뜻하는 영어 단어다. AI 분야에서는 사실이 아닌 내용을 그럴듯하게 만들어 마치 진실인 것처럼 답하는 현상을 의미한다. 사람은 모르는 것이 있으면 “모르겠습니다”라고 말할 수 있지만, 생성형 AI는 질문에 답하도록 설계되어 있기 때문에 불확실한 상황에서도 가장 가능성이 높다고 판단한 문장을 만들어낸다. 이 과정에서 존재하지 않는 인물이나 연구 결과, 법률 조항, 통계 수치, 인터넷 주소 등을 자연스럽게 제시하는 경우가 발생한다.

이러한 현상은 생성형 AI의 구조적 특성과도 관련이 있다. AI는 사람처럼 사고하거나 사실을 직접 확인하는 것이 아니라, 학습한 방대한 데이터를 바탕으로 다음에 올 가능성이 가장 높은 단어를 예측해 문장을 생성한다. 따라서 학습 데이터가 부족하거나 최신 정보가 반영되지 않았거나 질문의 맥락이 모호할 경우 사실과 다른 답변이 만들어질 가능성이 높아진다.

실제로 해외에서는 AI가 존재하지 않는 판례를 인용해 법원에 제출한 사례가 있었고, 허위 논문와 가짜 참고문헌을 작성하거나 기업의 재무정보를 잘못 설명하는 사례도 보고됐다. 의료 분야에서는 잘못된 질병 정보나 약물 복용법을 제시할 가능성도 있어 전문가들은 AI의 답변을 그대로 신뢰해서는 안 된다고 경고한다.

국내에서도 AI 활용이 급속히 늘어나면서 하루시네이션에 대한 관심이 높아지고 있다. 특히 학생들의 과제 작성, 기업 보고서, 기사 작성, 투자 정보, 법률 상담, 건강 정보 검색 등 정확성이 중요한 분야에서는 AI가 제공한 내용을 반드시 공신력 있는 자료와 대조해야 한다는 목소리가 커지고 있다.

이택호 교수(한국열린사이버대학교 스마트AI경영학과)는 “생성형 AI는 방대한 정보를 빠르게 정리하고 아이디어를 제시하는 데 매우 뛰어난 도구이지만, 모든 답변을 사실로 받아들여서는 안 된다”며 “AI는 어디까지나 초안을 만드는 조력자이며, 최종 판단과 검증은 결국 사람의 몫”이라고 설명한다.

전문가들은 하루시네이션을 줄이기 위해서는 질문하는 방식도 중요하다고 조언한다. 질문을 구체적으로 작성하고, 출처를 함께 제시하도록 요구하거나, 최신 자료를 기준으로 답변하도록 요청하면 오류를 줄이는 데 도움이 된다. 또한 하나의 AI만 이용하기보다 여러 자료를 비교하고 정부기관이나 공공기관, 학술자료 등 신뢰할 수 있는 출처를 함께 확인하는 습관이 필요하다.

AI 기술은 앞으로 더욱 발전할 것으로 전망된다. 최신 모델들은 하루시네이션 발생률을 지속적으로 낮추기 위해 검색 기반 답변, 출처 표기, 추론 검증 기능 등을 강화하고 있다. 그럼에도 불구하고 AI가 완벽한 정보를 제공하는 단계에 이르렀다고 보기는 어렵다. 기술이 발전할수록 사용자 역시 정보를 비판적으로 판단하는 능력을 함께 키워야 한다는 점은 변하지 않는다.

생성형 AI는 분명 인류의 생산성을 높여주는 혁신적인 도구다. 하지만 아무리 뛰어난 기술이라도 맹신은 금물이다. AI 시대의 경쟁력은 단순히 AI를 사용하는 능력이 아니라, AI가 제시한 정보를 스스로 검증하고 올바르게 활용하는 능력에 달려 있다. 하루시네이션을 이해하는 것은 AI를 더 안전하고 현명하게 활용하기 위한 첫걸음이 될 것이다.