| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | |
| 7 | 8 | 9 | 10 | 11 | 12 | 13 |
| 14 | 15 | 16 | 17 | 18 | 19 | 20 |
| 21 | 22 | 23 | 24 | 25 | 26 | 27 |
| 28 | 29 | 30 | 31 |
- catastrophic forgetting
- MQA
- Positional Encoding
- fréchet inception distance
- extended thinking
- transformer
- flashattention
- self-attention
- re-ranking
- attention
- RLHF
- Multi-Head Attention
- PEFT
- context engineering
- gqa
- Embedding
- langgraph
- SK AI SUMMIT 2025
- test-time scaling
- 트랜스포머
- 토크나이저
- Langchain
- model context protocol
- MHA
- Engineering at Anthropic
- reinforcement learning from human feedback
- BLEU
- rotary position embedding
- CoT
- chain-of-thought
- Today
- Total
목록Code/Langgraph (2)
AI Engineer의 '사부작' 공간
동적 프롬프트(Dynamic Prompt): 개인화된 AI 에이전트를 위한 핵심 포인트최근의 AI 서비스는 마치 숙련된 나만의 비서와 같습니다. 단순히 명령을 수행하는 것을 넘어서, 각 사용자의 특성과 상황을 파악하여 맞춤형 서비스를 제공해야 하죠. 하지만 기존의 정적인 프롬프트 방식으로는 이러한 개인화된 서비스를 구현하기 어려웠습니다. LangGraph의 동적 프롬프트(Dynamic Prompt) 기능은 이러한 한계를 극복하고, 실시간으로 사용자 정보와 상황에 맞는 지시사항을 생성하여 진정한 맞춤형 AI 에이전트를 구현할 수 있게 해줍니다.정적 프롬프트의 한계: 획일화된 서비스의 아쉬움이전의 AI 에이전트들은 대부분 정적 프롬프트(Static Prompt)를 사용했습니다. 정적 프롬프트는 마치 모든 손..
Langgraph(LangChain)으로 멀티 LLM 에이전트 비용 추적하기: response_metadata 완벽 분석AI 에이전트, 특히 여러 LLM이 협력하는 멀티 에이전트 시스템을 개발하다 보면 필연적으로 마주하는 질문이 있습니다. "그래서, 이 작업에 비용이 얼마나 들었지?" OpenAI, Anthropic, Google 등 다양한 LLM을 오가며 최적의 결과를 만드는 LangGraph의 유연성은 강력한 무기이지만, 동시에 비용 추적을 복잡하게 만드는 요인이 되기도 합니다. 어떤 모델이 얼마만큼의 토큰을 사용했는지 정확히 알아야만 서비스의 운영 비용을 산정하고 최적화할 수 있기 때문입니다. 이 복잡한 비용 추적의 실마리를 풀어줄 핵심 열쇠가 바로 LangChain의 response_metadat..