| 한눈에 보기 | |
|---|---|
| 저장소 | DataTalksClub/llm-zoomcamp |
| 개발 | DataTalksClub (조직) |
| GitHub 스타 | 7,523 (오늘 +11) |
| GitHub 트렌딩 | 일간 Jupyter 13위 |
| 포크 | 1,395 |
| 주 언어 | Jupyter Notebook |
| 공개일 | 2024-03-26 |
LLM Zoomcamp는 대규모 언어모델(LLM)을 실제 서비스에 붙이는 방법을 가르치는 무료 강의다. 데이터 커뮤니티 데이터톡스클럽(DataTalks.Club)이 만든 DataTalksClub/llm-zoomcamp 저장소는 검색 증강 생성(RAG)을 중심으로 에이전트, 벡터 검색, 평가, 모니터링까지 10주 과정으로 구성했다. 이 저장소는 GitHub 트렌딩 일간 Jupyter 부문 13위에 올랐다.
무엇을 하나: RAG와 에이전트 실습 강의
강의의 목표는 자신의 지식베이스에 대해 답하는 AI 시스템을 처음부터 끝까지 만들어 보는 것이다. README가 밝힌 주요 내용은 다음과 같다.
- 키워드 검색 기반 RAG 파이프라인과 함수 호출(function calling)을 이용한 에이전트화
- 임베딩 기반 의미 검색, 하이브리드 검색, 검색 결과 재순위화(rerank)
- 검색 품질과 답변 품질의 오프라인·온라인 평가
- 사용자 피드백과 시스템 상태 모니터링, 실시간 대시보드
작동 방식·구조: 모듈 7개와 캡스톤
커리큘럼은 모듈 단위로 나뉜다. 모듈 1은 에이전트형 RAG, 모듈 2는 minsearch·sqlitesearch·PGVector를 이용한 벡터 검색, 모듈 3은 오케스트레이션 도구 케스트라(Kestra)를 다룬다. 이어 모듈 4 평가, 모듈 5 모니터링, 모듈 6 모범 사례(랭체인, 하이브리드 검색, 재순위화)를 거쳐 모듈 7에서 LLM으로 만든 피트니스 어시스턴트 예제를 보여 준다. 중간 워크숍에서는 dlt로 LLM 트레이스를 수집하고 DuckDB와 marimo 대시보드로 분석한다.
마지막은 개인 캡스톤 프로젝트다. 데이터셋을 골라 지식베이스를 만들고, 검색·프롬프트 조립·LLM 호출 흐름과 평가 절차, Streamlit이나 FastAPI 같은 인터페이스, 모니터링까지 직접 구현한다. 과거 수강생은 의료 FAQ 도우미, 코드베이스 Q&A 봇, 학습 도우미 등을 만들었다.
써보면: 수강 방식
수강은 두 가지다. 코호트(cohort) 참여는 등록 페이지에서 신청하며, 숙제 채점과 리더보드, 동료 평가, 수료증이 제공된다. 자기 주도 학습은 언제든 저장소를 따라가면 되지만 채점과 수료증은 없다. 코호트라도 강의는 모두 녹화 영상이며, 실시간 수업은 없다.
git clone https://github.com/DataTalksClub/llm-zoomcamp.git
cd llm-zoomcamp/01-agentic-rag
수료하려면 최종 프로젝트를 제출하고 동료 3명의 프로젝트를 평가하며 일정을 지켜야 한다. 질문은 슬랙의 전용 채널에서 받는다.
누구에게 유용한가
소프트웨어 엔지니어는 제품에 RAG와 검색 기능을 넣는 방법을, 데이터 엔지니어는 벡터·하이브리드 검색이 운영 시스템에서 어떻게 맞물리는지를 익힐 수 있다. ML 실무자는 LLM 앱의 평가와 모니터링 체계를 배울 수 있다. 선수 조건은 파이썬 능숙도, 터미널 사용, 도커 기초이며 LLM 경험은 필요 없다.
의의와 한계
라이선스는 저장소 정보에 명시되지 않았다. 재사용이나 재배포를 계획한다면 확인이 필요하다. 릴리스는 따로 없지만 2026년 10월에도 커밋이 있었고, 2025년 코호트 프로젝트가 공개돼 있어 운영 이력은 두 해 이상이다. GPU가 필요 없고 노트북에서 클라우드 API로 실습하며, 직접 코드를 돌릴 때 API 비용은 약 1~5달러라고 설명한다. 다만 오픈AI(OpenAI) API 사용을 전제로 한 실습이 있어 키 준비가 필요하다. 수료증은 코호트 참여자에게만 발급된다. 별도로 유료 커뮤니티 AI 슈핑 랩스(AI Shipping Labs)가 있으나 강의 자체는 계속 무료라고 운영진은 밝혔다.
