| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | 7 |
| 8 | 9 | 10 | 11 | 12 | 13 | 14 |
| 15 | 16 | 17 | 18 | 19 | 20 | 21 |
| 22 | 23 | 24 | 25 | 26 | 27 | 28 |
| 29 | 30 | 31 |
Tags
- rotary position embedding
- Engineering at Anthropic
- RLHF
- fréchet inception distance
- Langchain
- PEFT
- Embedding
- reinforcement learning from human feedback
- gqa
- flashattention
- Multi-Head Attention
- self-attention
- CoT
- model context protocol
- MHA
- context engineering
- langgraph
- MQA
- 토크나이저
- transformer
- extended thinking
- test-time scaling
- 트랜스포머
- Positional Encoding
- SK AI SUMMIT 2025
- chain-of-thought
- BLEU
- re-ranking
- catastrophic forgetting
- attention
Archives
- Today
- Total
목록zero (1)
AI Engineer 공간 "사부작 사부작"
초대형 AI 훈련, 메모리 걱정 뚝: ZeRO 3단계 완전 정복 가이드
초거대 AI 훈련, 메모리 병목 현상 돌파구: ZeRO 3단계 완전 정복AI 모델의 크기가 기하급수적으로 커지면서, 이를 훈련하기 위한 GPU 메모리 요구량 또한 천정부지로 치솟고 있습니다. 이는 마치 도시 전체를 레고로 만드는 초대형 프로젝트에서, 각 조립가(GPU)가 자신의 작은 작업대(GPU 메모리) 위에 도시 전체에 필요한 모든 종류의 블록(모델 상태 정보)을 전부 올려놓고 작업하려는 것과 같습니다. 당연히 작업 공간은 순식간에 가득 차 버리겠죠. 이러한 메모리 병목 현상을 해결하기 위해 ZeRO(Zero Redundancy Optimizer)라는 혁신적인 기술이 등장했습니다. ZeRO는 여러 GPU가 협력하여 모델을 훈련할 때, 각 GPU가 중복으로 가지고 있어야 했던 정보들을 효율적으로 나누어..
Theory/FoundationModel Engineering
2025. 5. 28. 21:16