RAG는 외부 자료를 검색해 생성 모델의 답변에 활용하는 접근입니다. 검색을 붙였다는 사실만으로 허구의 정보나 잘못된 인용이 사라지지는 않습니다.
파이프라인의 여러 실패 지점
문서를 수집하고 필요한 단위로 나눈 뒤 검색 가능한 형태로 저장합니다. 질문에서 관련 자료를 검색하고 선택한 내용으로 답변을 생성합니다. 문서가 수집되지 않은 문제, 올바른 부분을 찾지 못한 문제와 찾은 자료를 잘못 해석한 문제는 서로 다릅니다.
같은 질문 집합으로 평가하기
정답과 근거 문서를 알 수 있는 질문, 자료에 답이 없는 질문을 함께 준비합니다. 검색 단계에서는 근거 부분을 찾았는지 보고, 답변 단계에서는 주장과 인용이 그 부분에서 실제로 뒷받침되는지 확인합니다. 점수 하나만으로 답변이 모든 업무에서 안전하다고 결론내리지 않습니다.
문서의 권한과 최신성
검색 결과는 질문한 사람이 볼 수 있는 자료만 포함해야 합니다. 문서 갱신·삭제가 색인에 반영되는 방식과 오래된 자료의 식별도 정합니다. 외부 문서 안의 지시문을 시스템 지시로 실행하지 않도록 입력을 구분하세요. 청킹 크기와 검색 방식을 바꿀 때는 문서 종류와 오류 사례를 기록하며 효과를 비교하는 것이 좋습니다.