시맨틱 캐쉬로 RAG 가속하기

이 글은 사용자 질의를 시멘틱 벡터로 변환해 생성된 답을 미리 캐쉬에 저장해 놓고, 다음 유사 질의 시 관련 캐쉬 답변을 리턴하는 시맨틱 캐쉬 RAG 가속 방법을 알아본다.
 

레퍼런스

• Semantic Cache: How to Speed Up LLM and RAG Applications | by Kostiantyn Ivanov | Oct, 2025 | Medium