LLM 앱 개발을 위한 첫 걸음 LangChain 이란?

LangChain 이란?

대규모 언어 모델(LLM)을 기반으로 하는 앱을 개발하기 위한 오픈소스 프레임워크입니다. LLM을 활용한 챗봇과 같은 애플리케이션 개발 과정을 모듈화, 체인, 통합, 에이전트, 메모리와 같은 개념으로 나누어 구현할 수 있는 구조를 제공합니다. LangChain을 이용하여 개발할 수 있는 애플리케이션의 종류는 다음과 같습니다. 

• 챗봇
• 질의 응답 시스템
• 문서/동영상 요약
• 데이터 분석 자동화
• AI 비서

LangChain의 간략한 역사

2022년 10월 해리슨 체이스(Harrison Chase)에 의해 프로젝트가 시작되었으며 23년 6월쯤 깃헙(Github)에서 가장 빠르게 성장하는 단일 오픈소스로 선정되었습니다. 24년 1월에 stable 버전인 v0.1.0을 공개하며 LLM 개발 프레임워크로 자리매김하고 있습니다. 

 

LangChain의 주요한 특징

LangChain 프레임워크는 모듈화, 체인, 통합, 에이전트, 메모리와 같은 큰 개념을 바탕으로 설계되어 있습니다. 각각의 특징을 정리하면 다음과 같습니다. 

 

개념	설명
모듈화	다양한 구성 요소를 모듈화하고 각 단계별로 독립적으로 관리하고 재사용할 수 있도록 설계
체인	여러 작업을 일련의 단계로 연결하여 하나의 파이프라인을 구성 이를 통해 복잡한 언어 처리 작업을 단순화하였으며 간편하게 구성 및 관리가 가능
통합	다양한 데이터 소스와 외부 API를 통합하여 모델이 새로운 데이터에 접근하도록 지원
에이전트	작업을 자동화하거나 사용자가 정의한 목표를 달성하기 위해 필요한 여러 단계를 관리
메모리	대화형 어플리케이션에서 문맥(컨텍스트)를 유지하고 이전 상호작용 정보를 바탕으로 더 나은 응답을 제공

 

LangChain을 사용한다면 어떤 장점이 있을까?

LangChain의 목적은 효율성, 확장성, 자동화, 컨텍스트 유지에 있습니다. 다양한 언어 모델을 연결 및 통합하여 복잡한 언어 처리 작업을 효과적으로 수행하고자 할 때 LangChain을 활용하면 좋습니다. 

 

새로운 데이터 소스 혹은 새로운 모델을 통합하기에 유리하여 유연한 확장이 가능합니다. 여기에 반복적인 작업을 자동화하고 사용자 정의 목표를 달성할 수 있는 에이전트를 제공하기에 생산성을 높이기에 유리합니다.

 

마지막으로 챗봇과 같은 대화형 어플리케이션에서 요구되는 컨텍스트를 유지하는 기능을 제공하여 고객지원(CS)과 같은 분야에서 요구되는 일관된 사용자 경험을 제공하는데 도움을 줍니다. 

 

LangChain과 경쟁하는 오픈소스 프레임워크들은 어떤게 있나요? 

LLM 기반 앱을 개발하기 위한 방법에는 반드시 LangChain만 있는 게 아니므로 아래의 대안들을 살펴보고 자신의 목적에 맞는지 검토하는 작업이 필요합니다. 아래의 표를 참조하여 목적에 적합한 프레임워크 및 플랫폼들을 검토하도록 합니다. 

이름	설명
FlowiseAI	직관적인 드래그 앤 드롭 인터페이스를 제공하며 LLM 기반 워크플로우를 쉽게 구축할 수 있어 비개발자가 사용하기에도 적합한 플랫폼.
LlamdaIndex	LLM 애플리케이션 개발을 단순화하는 데이터 프레임워크이며 특히 *RAG(Retrieval-Augmented Generation) 기능에 중점을 두고 있어 정보 검색 및 문서 분석에 강점을 가짐
Haystack	검색 및 정보 검색 기반 애플리케이션 구축을 위한 오프소스 프레임워크 RAG에 중점을 두고 있으며 LLM과 원활한 통합을 제공함
Ollama	로컬 머신에서 대규모 언어 모델을 쉽게 실행할 수 있도록 해주는 플랫폼
LocalAI	OpenAI의 오픈소스 대안으로 고가의 GPU 없이 다양한 언어 모델과 아키텍처를 지원
TensorFLow	Google이 개발하여 제공하며 LLM 지원을 확장하여 유연하고 확장 가능한 AI 모델 개발 플랫폼으로 자리 잡음

 

*RAG란?: 대규모 언어 모델의 한계를 보안하기 위해 외부 데이터 소스를 활용하는 혁신적인 기술입니다. 검색, 증강, 생성과정을 통해 기존 LLM 모델이 더 정확하고 신뢰할 수 있는 답변을 생성합니다. 

 

LangChain을 활용한 프로젝트 사례는 어떤 것이 있나요? 

LangChain은 이미 다양한 프로젝트에 사용되고 있습니다. 공공, 금융, 부동산, BI 등에서 활약하고 있어 충분한 레퍼런스를 가지고 있습니다. 

프로젝트명	회사	산업	설명	주요 기능
Morningstar Intelligence Engine	Morningstar	금융 서비스	'Mora'라는 AI 챗봇으로 자연어를 사용해 금융 연구 데이터베이스 조회 가능	투자 인사이트, 자연어 쿼리
Realm-X	AppFolio	부동산	부동산 관리 효율성을 개선하는 AI 코파일럿	워크플로우 자동화, 시간 절약 솔루션
ChatD&B	Dun & Bradstreet	비즈니스 인텔리전스	신용 위험 및 기업 소유 구조에 대한 인사이트를 제공하는 AI 어시스턴트	데이터 기반 의사결정 지원
GovConnect	Government Services	공공 부문	AI 기반 쿼리 라우팅 및 분류 기능을 갖춘 시민-정부 상호작용 플랫폼	워크플로우 관리, 시민 서비스 최적화
Open Signal AI	Open Signal	조달	AI 기반 조달 자동화 플랫폼	입찰 프로세스 최적화
TranspareX	Blockchain Solutions	금융	블록체인 통합 AI 기반 펀드 관리 플랫폼	스마트 계약, 실시간 대시보드

 

끝.