| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | 7 |
| 8 | 9 | 10 | 11 | 12 | 13 | 14 |
| 15 | 16 | 17 | 18 | 19 | 20 | 21 |
| 22 | 23 | 24 | 25 | 26 | 27 | 28 |
| 29 | 30 | 31 |
Tags
- Engineering at Anthropic
- PEFT
- CoT
- Multi-Head Attention
- rotary position embedding
- Positional Encoding
- RLHF
- extended thinking
- attention
- gqa
- catastrophic forgetting
- context engineering
- re-ranking
- Embedding
- model context protocol
- flashattention
- 트랜스포머
- MHA
- transformer
- test-time scaling
- langgraph
- self-attention
- 토크나이저
- fréchet inception distance
- Langchain
- BLEU
- MQA
- reinforcement learning from human feedback
- chain-of-thought
- SK AI SUMMIT 2025
Archives
- Today
- Total
목록oov (1)
AI Engineer 공간 "사부작 사부작"
LLM의 첫 단추, 토크나이저: 텍스트를 숫자로 바꾸는 마법
LLM의 첫 단추, 토크나이저: 텍스트를 숫자로 바꾸는 마법거대 언어 모델(LLM)이 마치 사람처럼 글을 쓰고, 대화하고, 번역하는 모습을 보면 경이롭기까지 합니다. 하지만 컴퓨터는 본질적으로 '텍스트'를 이해하지 못합니다. 오직 숫자만을 처리할 수 있을 뿐이죠. 그렇다면 LLM은 어떻게 우리가 사용하는 자연어를 이해하고 처리하는 걸까요? 그 비밀의 첫 단추는 바로 토크나이저(Tokenizer)에 있습니다. 토크나이저는 인간의 언어를 기계가 이해할 수 있는 숫자 데이터로 변환하는 필수적인 다리 역할을 합니다. 이 과정이 없다면 LLM은 그저 복잡한 연산을 수행하는 기계에 불과할 것입니다. 이번 글에서는 LLM의 심장부로 들어가는 첫 관문인 토크나이저의 개념부터 시작해, 서브워드 방식, 임베딩, 그리고 모..
Theory/Transfomer
2025. 7. 2. 08:12