< (좌측부터) KAIST 김민수 교수, 이다래 석사과정 >

회사 규정이 바뀌어 새 문서가 올라왔는데도 사내 AI가 예전 규정을 찾아 답한다면 어떨까. 새로운 정보가 계속 추가되고 오래된 정보가 사라지면, AI는 정답이 되는 자료가 있어도 이를 제대로 찾지 못할 수 있다. 우리 대학 연구진이 데이터가 계속 바뀌어도 필요한 정보까지 찾아가는 ‘검색 길’을 유지해, AI가 최신 정보를 더 정확하고 빠르게 찾는 기술을 개발했다.

우리 대학은 전산학부 김민수 교수 연구팀이 데이터가 지속적으로 추가되고 삭제되는 환경에서도 높은 검색 정확도를 안정적으로 유지하는 동적 벡터 검색 기술인 ‘콘다(CONDA, Connectivity-Aware Dynamic Index)’를 개발했다고 5일 밝혔다.

생성형 AI는 학습이 끝난 뒤 새롭게 등장한 정보를 스스로 알지 못한다. 이를 보완하기 위해 최신 뉴스나 기업 내부 문서 등을 검색해 답변에 활용하는 ‘검색증강생성(RAG·Retrieval-Augmented Generation)’ 기술이 널리 쓰이고 있다.

RAG가 제대로 작동하려면 수많은 자료 가운데 질문에 필요한 정보를 빠르고 정확하게 찾아내는 검색 기술이 중요하다. 현재 많은 AI 서비스는 문서나 이미지의 의미를 컴퓨터가 계산할 수 있는 숫자 묶음인 ‘벡터(Vector)’로 바꾼 뒤, 의미가 비슷한 정보들을 서로 연결해 필요한 자료를 찾는다.

문제는 실제 기업이나 인터넷의 데이터는 계속 변한다는 점이다. 새로운 문서와 뉴스, 상품 정보가 들어오는 동시에 오래된 정보는 수정되거나 삭제된다. 이런 변화가 반복되면 데이터 사이에 만들어 놓은 연결망이 조금씩 끊어지는 ‘연결성 붕괴’가 발생할 수 있다. 필요한 정보가 데이터베이스 안에 있는데도 AI가 그곳까지 찾아가지 못하면서 검색 정확도가 떨어지는 것이다.

내비게이션에 비유하면 이해하기 쉽다. 도시에는 목적지가 그대로 있지만 건물이 생기고 사라질 때마다 주변 도로를 수정하다 중요한 길까지 하나씩 끊어진다면 목적지까지 찾아가기 어려워진다. AI 검색에서도 마찬가지로 정보 자체가 사라진 것이 아니라, 그 정보까지 찾아가는 ‘길’이 끊어지는 문제가 발생할 수 있다.

연구팀이 개발한 CONDA는 데이터 사이의 거리뿐만 아니라, 필요한 정보까지 찾아갈 수 있도록 검색 경로가 제대로 연결돼 있는지를 함께 고려한다. 새로운 데이터가 추가되거나 기존 데이터가 삭제돼도 중요한 연결을 유지해 특정 정보가 검색망에서 고립되는 것을 막는 방식이다.

< CONDA의 데이터 추가 및 삭제 과정 >

실험 결과, CONDA는 데이터가 쉴 새 없이 추가되고 삭제되는 환경에서도 기존 최신 기술 대비 검색 정확도를 최대 24.5% 높였으며, 데이터 처리 속도도 최대 1.90배 향상시켰다.

특히 연구팀은 1억 개의 데이터가 존재하는 대규모 환경에서 6시간 동안 검색과 데이터 업데이트를 동시에 수행했다. 그 결과 CONDA는 비교 기술 대비 가장 짧은 응답시간과 높은 검색 정확도를 유지해 대규모 AI 서비스에 적용할 수 있는 가능성을 확인했다.

이번 기술은 기업 내부 규정이나 업무 문서처럼 정보가 수시로 바뀌는 지식검색 시스템뿐만 아니라 최신 뉴스 검색, 상품 검색 및 추천 등 데이터가 지속적으로 변하는 다양한 AI 서비스에 활용될 수 있다. 특히 생성형 AI가 외부 정보를 찾아 답변에 활용하는 RAG 환경에서 최신 정보를 오랫동안 안정적으로 검색하는 기반 기술로 활용될 것으로 기대된다.

이번 연구 성과는 실제 제품에도 적용된다. 김민수 교수가 창업한 인공지능 데이터 인프라 기업 그래파이(GraphAI)의 데이터베이스 제품인 ‘아카식DB(AkasicDB)’에 CONDA 기술이 적용돼 올해 4분기 상용화될 예정이다.

< 연구 이미지 (AI 생성) >

김민수 교수는 “검색증강생성(RAG)의 중요한 가치는 대규모언어모델(LLM)이 미처 학습하지 못한 최신 정보를 필요한 순간 즉시 찾아 활용할 수 있다는 점”이라며, “이번 연구는 데이터가 끊임없이 변하는 현실 환경에서도 인공지능이 오랜 시간 정확하게 최신 지식을 활용할 수 있는 데이터 인프라를 제시했다는 점에서 의미가 크다”고 말했다.

이번 연구에는 KAIST 전산학부 이다래 석사과정 졸업생이 제1저자로 참여했으며 김민수 교수가 교신저자를 맡았다. 연구 결과는 지난 9월 2일 데이터베이스 분야 최고 권위 국제학술대회인 VLDB 2026에서 발표됐다.

※ 논문명: CONDA: A Connectivity-Aware Dynamic Index for Approximate Nearest Neighbor Search over Evolving Data, DOI: 10.14778/3836663.3836694
※ 저자정보: 이다래(NAVER Corporation, 제1저자), 김민수(KAIST)

한편, 이번 연구는 한국연구재단 중견연구자지원사업과 정보통신기획평가원 SW스타랩사업의 지원을 받아 수행됐다.

출처 : https://researchnews.kaist.ac.kr/researchnews/html/news/?mode=V&mng_no=67870