LLM 튜토리얼

텐서 병렬 처리와 EAGLE 추론 가속을 갖춘 멀티 GPU Docker 환경을 구성해 OpenAI 호환 API로 Mistral Medium 3.5 128B를 서빙합니다.

Anthropic의 Claude Code를 활용해 Supabase Python 라이브러리를 예제로 소프트웨어 개발 워크플로를 개선하는 방법을 배워보세요.

RTX 3090에서 Qwen3.6 27B를 실행하고, llama.cpp의 멀티 토큰 예측(MTP)으로 GPU 업그레이드 없이 로컬 LLM 추론 속도를 거의 2배까지 끌어올려 보세요.

OpenAI의 gpt-realtime-2, gpt-realtime-translate, gpt-realtime-whisper의 차이를 이해하고, 작동하는 Python WebSocket 코드로 각각을 테스트해 보세요.

이 실습형 튜토리얼에서는 수정된 llama.cpp 빌드와 호환되는 GGUF 파일을 사용해 단일 GPU에서 전체 DeepSeek V4 Flash 모델을 실행하는 방법을 배웁니다.

Hugging Face에서 모델을 다운로드한 뒤 LoRA와 TRL을 사용해 RTX 3090 GPU로 심리학 Q&A 데이터셋에 NVIDIA Nemotron-3-Nano-4B를 미세 조정하는 방법을 배워보세요.

Alibaba의 Qwen 3.6 Plus, Python, OpenAI SDK를 사용해 네이티브 비전과 도구 호출로 자동 인보이스 처리 파이프라인을 구축하는 방법을 알아보세요.

Google의 최신 이미지 생성 모델 Nano Banana 2에 대해 알아보고, Python API를 사용해 반복형 채팅 이미지 편집기를 만드는 방법을 배워보세요.