우리 AI는 왜 자꾸 거짓말을 할까? RAG(검색 증강 생성)로 ‘똑똑한 비서’ 만들기
안녕하세요, 여러분! 👋 요즘 LLM(거대 언어 모델)을 활용해서 나만의 서비스를 만들거나, 회사 업무에 적용해 보려는 시도들이 정말 많아졌죠. 그런데 막상 개발을 시작하고 프롬프트를 입력하다 보면 한 번쯤 이런 당황스러운 경험을 하게 됩니다. “분명 우리 회사 내규에 대해 물어봤는데, AI가 있지도 않은 규칙을 마치 사실인 것처럼 술술 지어내네?” 이런 현상을 우리는 할루시네이션(Hallucination, 환각)이라고 부릅니다. AI가 사실이 … 더 읽기