[LLM] LLM과 LangChain

1. LLM(Large Language Model)

 : 대량의 텍스트(최근 이미지·음성 등 멀티모달 포함)에서 언어 패턴을 학습해 입력 문맥에 맞는 출력 생성하는 AI 모델

 - 사실 DB가 아닌 앞 내용에 이어질 확률이 높은 토큰 예측 검증·근거 설계가 중요

 - 대부분 Transformer 아키텍처 기반

 

2. LLM 주요 특징

 • 대규모 모델 + 대규모 데이터 : 파라미터 수십억~수조 개, 수십 조 토큰 규모 학습

 • 자연어 생성·이해 : 프롬프트 기반 맥락 있는 문장 생성(챗봇, 요약, 번역, 코드 작성 등)

 • 다국어 지원 : 학습 데이터 비중에 따라 언어별 성능 차이 존재(일반적으로 영어가 👍) 

 • 파운데이션 모델 : 멀티모달 파운데이션 모델로 발전. 다양한 서비스의 기반으로 재사용

 

3. LLM 주요 한계

 • 편향(Bias) : 학습 데이터에 포함된 편향이 출력에 반영

 • 할루시네이션(Hallucination) : 존재하지 않는 사실·출처·수치를 확실한 것처럼 생성. 인간의 최종 판단 필수

 • 높은 에너지 소비 : 학습보다 실제 서비스 중 발생하는 추론 비용

 • 프라이버시·보안 : 공공 데이터 학습 과정에서 민감 정보 노출 가능성 존재

 

4. 오픈소스vs클로즈드소스 LLM

구분	설명	주요 모델
오픈 소스	가중치·코드 공개, 자유롭게 수정·배포 가능	Llama(Meta), DeepSeek, Qwen(Alibaba), Mistral, Gemma(Google), Solar(Upstage)
클로즈드소스	API 통해 제한적 이용 가능	GPT(OpenAI), Claude(Anthropic), Gemini(Google), Grok(xAI)

 

5. LangChain

 : LLM 기반 애플리케이션 에이전트를 쉽게 개발할 수 있게 해주는 오픈소스 프레임워크

 

6. LangChain 주요 구성 요소 및 기능

 - 단순 LLM 호출만으로는 실제 서비스에 부족해 통합 기능 제공

구성 요소	제공 기능	설명
Model	다양한 모델 제공자 통합	Open, Gemini, Anthropic, Hugging Face 등을 공통 인터페이스로 연결 → 모델 제공자 바꿔도 전체 구조 크게 수정 필요 없음
Prompt	프롬프트 구조와 및 템플릿 관리	역할·답변 형식·참고 자료·제약 조건 등 담은 템플릿 생성 → 실행 시점에 필요한 값 채워 LLM에 전달
Chain	워크플로우 생성	프롬프트 생성 → 모델 호출 → 출력 파싱 등 여러 작업 연결하는 실행 파이프라인
Tool	외부 도구 DB API 연결	웹 검색, DB 조회, 계산기, API 호출 등 LLM이 사용하는 외부 기능 → LLM = 뇌, Tool = 팔 다리 역할
Retrieval	RAG 시스템 구성	문서 로더·텍스트 분할·임베딩·벡터 스토어·리트리버 연결 → 사용자 질문과 관련된 외부 문서 찾아 LLM 프롬프트에 포함
Memory	대화 이력 관리	단기(현재 세션) / 장기(여러 세션) 대화 이력 및 상태(단계) 저장 → 다음 호출 시 프롬프트에 포함
Agent	에이전트 개발	목표 달성까지 LLM 스스로 다음 행동 판단, Tool 반복 호출

 

7. LangChain 생태계 3축

 • LangChain : LLM 앱 에이전트 개발 프레임워크(기반)

 • LangGraph : 복잡한 에이전트 흐름 위한 상태 기반 오케스트레이션

  - 그래프 구조로 분기 반복 상태 저장 승인 처리

 • LangSmith : 실행 추적, 디버깅, 평가, 모니터링 플랫폼

❓LangChain vs LangGraph 선택 기준

 • LangChain : 간단한 챗봇, RAG 시스템, 빠른 프로토타입 →  "빠르게 생성"

 • LangGraph : 복잡한 조건 분기 반복 장시간 실행 승인 절차 필요 → "정교하게 제어"