[요약] 2024년 LLM 애플리케이션 아키텍쳐 및 2025년 전망

출처: https://bcho.tistory.com/m/1447

• LLM 시장 변화: ChatGPT가 여전히 시장을 지배하고 있지만, Anthropic 모델의 성장과 Open Source 모델의 부상이 눈에 띕니다. 클라우드 서비스보다는 API 기반 LLM 사용이 압도적이며, 부가 기능보다는 순수 LLM 모델 기반 개발에 집중되어 있습니다.

• RAG 활용 양상: RAG는 양극화 현상을 보이며, 도입한 기업은 고성능의 벡터 DB를 사용하여 복잡한 RAG를 구현하고 있습니다. 하지만 전체적으로 RAG 도입은 아직 초기 단계이며, 개발 환경에서 주로 사용되고 있습니다.

• LLM 애플리케이션 복잡화: LangGraph와 Agent/Tool의 사용량이 급증하며, LLM 애플리케이션이 MultiAgent 기반으로 복잡해지고 있습니다. 호출 스텝 또한 증가하여 애플리케이션 구조가 더욱 정교해지고 있음을 보여줍니다.