LangServe API 배포 · LangSmith 모니터링 · 성능·보안·비용 튜닝 종합 가이드‘LangChain 시리즈’ 마지막 글입니다. 지금까지 만든 FAQ 챗봇(문서 검색 + 수치 계산)을 프로덕션에 배포하고, 지속적 관측·성능 최적화·보안 체계까지 구축하는 모든 단계를 상세히 설명합니다. 이 글 한 편으로 개발 → CI/CD → 런타임 → SRE → 거버넌스 전 과정이 연결됩니다.1. 프로젝트 목표 & 주요 지표1‑1. 서비스 목표카테고리 목표 값 비고가용성99.9 % / 월지역 장애 시 > 99 % 유지응답 레이턴시p95 네트워크 월간 비용 상한USD 50모델 요금 + 인프라정확도(FAQ)LangSmith Eval ≥ 0.8550개 샘플 기준보안PII zero‑leakSOC 2 보조 지표스케..
Retrieval + Multi‑Agent 결합: 사내 FAQ 챗봇에 수치 계산 에이전트 붙이기‘LangChain 시리즈’ 다섯 번째 글입니다. 앞선 1–4편에서 학습한 LangChain (core·tools·LCEL), LangGraph, 멀티 에이전트 패턴을 모두 활용해 엔터프라이즈 FAQ 챗봇을 만들겠습니다. 목표는 문서 검색(RAG), 수치 계산, 대화 기억을 결합해 “콘텐츠 + 계산 결과 + 맥락 유지”를 한 번에 제공하는 프로덕션급 시스템을 구축하는 것입니다.1. 프로젝트 개요항목설명도메인사내 정책·제도·복리후생 FAQ + 급여 계산핵심 기능▲ 문서 검색 FAQ 답변 ▲ 실수령/세율 계산 ▲ 대화 맥락 기억 ▲ 대시보드 관측기술 스택Python 3.11, LangChain 0.3.1, Lang..
Supervisor · Network · Hierarchical 패턴 & 실전 구현‘LangChain 시리즈’ 네 번째 글입니다. 이번 편에서는 LangGraph를 활용해 복잡한 멀티 에이전트 워크플로를 설계·구현하는 방법을 **패턴별(Supervisor·Network·Hierarchical)**로 살펴봅니다. 각 패턴의 개념·장단점·코드·운영 팁·성능·보안까지 다루어 어떤 상황에서 어떤 구조를 선택할지 판단할 수 있도록 구성했습니다.1. 멀티 에이전트가 필요한 이유역할 분리(Separation of Concerns): 전문화된 프롬프트와 Tool 세트가 충돌하지 않습니다.스케일 아웃(Parallelism): LLM 호출을 병렬화해 레이턴시와 비용을 최적화합니다.내구성(Resilience): LangGr..
‘LangChain 시리즈’ 두 번째 편입니다. 이번 글에서는 LangGraph의 탄생 배경, 설치 방법, 기본 사용법, 내부 구조, 실전 팁, 그리고 멀티‑에이전트 Hello World 예제까지 단계별로 살펴보겠습니다.1. LangGraph란 무엇인가?LangGraph는 LangChain 팀이 2024년 4분기에 공개한 상태 지향 워크플로우 프레임워크입니다. 복잡한 LLM 호출, 외부 Tool 사용, 인간 개입(HITL)을 그래프(노드·엣지) 모델로 정의하고, 체크포인트 DB에 상태를 기록해 긴 작업을 신뢰성 있게 실행·재시작할 수 있도록 설계되었습니다.1‑1. LangGraph의 필요성시나리오기존 방식LangGraph 방식장시간 분석 보고한 번에 요약 → 토큰 초과·타임아웃단계별 처리, 중간 결과 저..
