[AI] RAG란 무엇인가?

자고 일어나면 인공지능 관련 기사와 내용이 참 많습니다. 소위 AI시대 대격변 속에서 무엇을 해야할지 고민이 많습니다. AI의 기본적인 이론도 중요하지만, 최근 트렌드를 잘 알고 잘 써먹을 수 있는 것도 개인의 역량이 아닐까 싶습니다. 즉 AI를 하나의 도구로 생각하고 도구를 잘 써먹으면 좋지 않을까요? 오늘은 RAG(검색-증강-생성)이란 무엇인지 간략하게 끄적여보겠습니다.

3줄 요약

ⓐ 검색(Retrieval)은 요청된 외부 지식을 가져온다.

ⓑ 증강(Augmented)은 질문 것에 요청된 것을 더한다.

ⓒ 생성(Generation)은 사용자의 질문에 더한 것을 받아 텍스트로 생성한다.

ⅰ RAG(검색-증강-생성)이란 무엇인가?

최근 인공지능 기술의 발전은 다양한 분야에서 혁신을 일으키고 있으며, 그 중에서도 텍스트 기반의 생성형 AI는 특히 주목받고 있습니다. 하지만 이러한 인공지능 기술이 가진 정확성과 신뢰성의 문제는 사용자와 개발자 모두에게 중요한 과제로 남아 있습니다. 이 문제를 해결하기 위해 등장한 기술 중 하나가 바로 RAG(Retrieval-Augmented Generation)입니다. 자세한 기술적 내용은 RAG 용어가 등장한 2020년 아래의 논문을 참고하기 바랍니다.

Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks(2020)

(본지는 간단한 내용 만을 기술할 목적이기 때문에 IT 기업의 설명 자료를 참고하여 본인이 이해한 내용을 작성 하였습니다. 혹시나 잘못된 정보가 있다면 알려주세요.)

RAG(Retrieval-Augmented Generation)는 단어 풀이 그대로 '검색 증강 생성'이란 뜻 입니다. 먼저 Retrieval이란 의미는 검색이란 뜻보다는 외부 지식 데이터베이스에서 가져오는 것, 어딘가에서 요청된 무엇인가를 가져오는 것을 이야기합니다. 그리고 Augmented는 증강이란 뜻으로 원래 것에 뭔가를 더하거나 보태어 더 실해졌다는 뜻입니다. 마지막으로 Generation은 프롬포트라고 하는 사용자 질문에 대한 응답을 생성하는 것을 의미합니다.

조금은 어려울 수도 있는 기술적인 의미로, RAG는 대규모 언어 모델의 출력을 최적화하여 응답을 생성하기 전에 학습 데이터 소스 외부의 신뢰할 수 있는 지식 베이스를 참조하도록 하는 프로세스입니다. 대규모 언어 모델(LLM)은 방대한 양의 데이터를 기반으로 학습되며 수십억 개의 매개 변수를 사용하여 질문에 대한 답변, 언어 번역, 문장 완성과 같은 작업에 대한 독창적인 결과를 생성합니다. RAG는 이미 강력한 LLM의 기능을 특정 도메인이나 조직의 내부 지식 기반으로 확장하므로 모델을 다시 교육할 필요가 없습니다. 이는 LLM 결과를 개선하여 다양한 상황에서 관련성, 정확성 및 유용성을 유지하기 위한 효율적인 접근 방식입니다. 이러한 RAG는 최신 정보를 유지 관리하거나 도메인별 지식에 액세스해야 하는 지원 ChartBot 및 Q&A 시스템에 활용하고있습니다.

ChatGPT 4의 경우 2023년 4월 까지의 데이터로 학습한 상태입니다. 그렇다면 현재 24년 7월 일어난 사건이나 지식에 대해서는 당연히 모르겠죠? 이때 RGA(검색-증강 생성)을 사용한다면 현재 일어난 사건이나 지식 문제를 해결할 수 있습니다.

RAG(검색-증강 생성) 프레임워크 플로우

예를 들면 2006년대 초 2005년까지의 데이터를 기반으로 학습한 언어모델(LLM)을 이용해서 "현재 태양계 행성의 수를 알려줘"라고 했다면 과연 몇 개로 알려줬을까요? 우리는 막연하게 '수금지화목토천해명' 9개라고 답을 했을겁니다. 분명 9개인건 맞는데 출처가 어디였는지 잘 기억이 안나죠? RAG의 경우 외부 지식 저장소를 활용해서 태양계 행성의 수는 8개 이며 출처는 국제천문연맹(IAU)을 참조했다고 대답할 것입니다.

국제천문연맹 태양계 행성 구조조정(참고)

ⅱ RAG는 LLM의 무엇을 개선하였을까?

그렇다면 RAG(Retrieval-Augmented Generation)는 언어모델(LLM)의 단점 중 ‘사실 관계 오류 가능성’과 ‘맥락 이해의 한계’를 개선하는 데 초점을 맞춘 방법입니다. 여기서 키 핵심은 RAG는 LLM에 외부 지식 베이스를 연결하여 모델의 생성 능력과 사실 관계 파악 능력을 향상시키는 기술입니다. 언어모델의 추론 능력을 바탕으로 외부 지식의 컨텍스트를 파악한다면, 사용자가 질문한 대답에 대해 맥락을 이해하고 적절한 답변을 주겠죠?

최근 RAG 기술은 질의 응답, 정보 검색, 사실 확인 등의 테스크에서 활발히 연구되고 있으며, 구글의 LaMDA, OpenAI의 WebGPT 등 최신 LLM에도 적용되어 소개되고 있습니다. 다만 RAG 모델의 성능은 연결된 지식 베이스의 품질과 커버리지에 크게 의존하므로, 고품질의 지식 베이스 구축이 중요한 과제로 남아 있습니다. 최근 RAG 기술을 활용하여 자사의 규격서, 절치서, 시방서와 기술서 등의 내부 지식을 활용한 sLLM모델을 만들고 사용하는 추세입니다.

ⅲ RAG에서 중요한 것은?

RAG를 처음 개념적으로 정리한 논문[4]은 언어모델(LLM) 및 검색(Retrieval)을 학습하는 방법으로 RAG를 제시하였습니다. 하지만 LLM의 대중화 이후 사람들이 사용하는 RAG의 의미는 LLM의 추론을 레버리지하는 방법[7]으로 굳어지고 있습니다.

추론이란 알고 있는 또는 확인된 정보로부터 논리적 결론을 도출하는 행위 또는 과정입니다. ChatGPT의 프롬포트에서 지시 사항과 문맥을 주고 논리적인 결론을 얻어낼 수 있습니다. 이런 개념이 중요한 이유는 이를 바탕으로 자동화 시스템 등을 만들 수 있기 때문입니다. 예를 들면, "너비가 무한한 출입구를 통과하기에 탱크와 자동차 중 어느 것이 더 나은가?"란 질문에 GPT4는 "무한이 넓다는 것은 출입구의 폭 제한이 없으므로 둘다 통과 가능"이란 추론을 할 것입니다.

RAG에서 중요한 것은 ①문서를 잘 검색하고 ②원본 query와 함께 LLM에 잘 넣는 것입니다. 이를 위한 방법으로 컨텍스트를 벡터화하기 위한 Indexing이나 query최적화, re-ranking, context 압축 등의 연구가 진행 중입니다. 최근 RAG에서 사용하는 데이터베이스(DB)는 mogoDB, Pinecone, Milvus 등과 같은 벡터향 데이터베이스입니다. 벡터 데이터베이스 관련해서는 향후 기회가 되면 작성하도록 하겠습니다. 언어모델의 원리와 만들기를 보시면 언어모델을 어떻게 만들고 원리는 무엇인지? 즉 추론이란 것이 무엇인지를 잘 설명해주고 있으니 참고 부탁드립니다.