| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | 7 |
| 8 | 9 | 10 | 11 | 12 | 13 | 14 |
| 15 | 16 | 17 | 18 | 19 | 20 | 21 |
| 22 | 23 | 24 | 25 | 26 | 27 | 28 |
| 29 | 30 | 31 |
Tags
- langgraph
- flashattention
- gqa
- Langchain
- reinforcement learning from human feedback
- self-attention
- CoT
- 트랜스포머
- BLEU
- RLHF
- 토크나이저
- Positional Encoding
- MHA
- fréchet inception distance
- chain-of-thought
- PEFT
- extended thinking
- Multi-Head Attention
- context engineering
- catastrophic forgetting
- SK AI SUMMIT 2025
- test-time scaling
- Engineering at Anthropic
- model context protocol
- attention
- re-ranking
- transformer
- MQA
- Embedding
- rotary position embedding
Archives
- Today
- Total
목록continuous pre-training (1)
AI Engineer 공간 "사부작 사부작"
AI의 네버 엔딩 학습 스토리: 망각의 저주를 풀고 끊임없이 진화하는 비결
AI 모델의 끊임없는 진화: 지속적 사전 훈련의 도전 과제와 해결 전략인공지능(AI) 모델이 단발적인 학습에 그치지 않고, 마치 인간처럼 지속적으로 새로운 지식을 습득하며 발전할 수 있다면 어떨까요? 이러한 비전을 현실로 만들기 위한 핵심 기술이 바로 '지속적 사전 훈련(Continuous Pre-training)' 또는 '연속 학습(Continual Learning)'입니다. 이 기술은 AI 모델이 시간의 흐름에 따라 변화하는 데이터와 새로운 정보에 적응하여 성능을 유지하고 향상시키도록 하는 것을 목표로 합니다. 하지만 이 매력적인 목표를 달성하는 과정에는 몇 가지 중요한 기술적 난제들이 존재합니다. 본 글에서는 이러한 핵심 어려움들과 그에 따른 실질적인 트레이드오프, 그리고 이를 완화하기 위한 주요 ..
Theory/Training & Fine-Tuning
2025. 5. 19. 21:11