| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | 7 |
| 8 | 9 | 10 | 11 | 12 | 13 | 14 |
| 15 | 16 | 17 | 18 | 19 | 20 | 21 |
| 22 | 23 | 24 | 25 | 26 | 27 | 28 |
| 29 | 30 | 31 |
Tags
- Multi-Head Attention
- reinforcement learning from human feedback
- MHA
- Langchain
- re-ranking
- catastrophic forgetting
- transformer
- MQA
- chain-of-thought
- Engineering at Anthropic
- Embedding
- BLEU
- gqa
- extended thinking
- rotary position embedding
- model context protocol
- 토크나이저
- SK AI SUMMIT 2025
- self-attention
- CoT
- flashattention
- context engineering
- 트랜스포머
- langgraph
- fréchet inception distance
- test-time scaling
- RLHF
- attention
- Positional Encoding
- PEFT
Archives
- Today
- Total
목록DIT (1)
AI Engineer 공간 "사부작 사부작"
확산 트랜스포머(DiT): U-Net을 넘어선 이미지 생성 모델의 새로운 지평
확산 트랜스포머(DiT): U-Net을 넘어선 이미지 생성의 새로운 지평인공지능 이미지 생성 기술은 마치 마법처럼 우리의 상상력을 시각적인 현실로 구현해내고 있습니다. 이러한 기술 발전의 핵심에는 '확산 모델(Diffusion Model)'이 있으며, 최근에는 이 확산 모델에 '트랜스포머(Transformer)' 아키텍처를 결합한 '확산 트랜스포머(Diffusion Transformer, DiT)'가 등장하여 이미지 생성 분야에 새로운 혁신의 바람을 불어넣고 있습니다. DiT는 기존 확산 모델에서 주로 사용되던 U-Net 아키텍처를 트랜스포머로 대체함으로써, 이전 모델들의 한계를 뛰어넘는 성능과 확장성을 보여주며 주목받고 있습니다. 그렇다면 확산 트랜스포머는 정확히 어떤 원리로 작동하며, 기존의 U-Ne..
Theory/Image Generation-Diffusion
2025. 5. 22. 23:40