목록Theory/Reasoning (1)

AI Engineer의 '사부작' 공간

인 컨텍스트 학습(ICL)의 마법: 모델 크기가 LLM의 잠재력을 깨우는 열쇠

인 컨텍스트 학습(ICL)과 모델 규모: 크기가 만들어내는 마법대규모 언어 모델(Large Language Models, LLM)의 세계는 마치 끊임없이 확장하는 우주와 같습니다. 그 안에서 발견되는 놀라운 능력 중 하나가 바로 인 컨텍스트 학습(In-Context Learning, ICL)입니다. ICL이란 LLM이 모델의 가중치(파라미터)를 전혀 변경하지 않고, 오직 프롬프트 내에 제시된 몇 개의 예시(이를 '퓨샷 샘플'이라고도 합니다)나 지시사항만을 보고 새로운 작업을 수행하거나 특정 방식으로 응답하는 능력을 의미합니다. 마치 우리가 새로운 보드게임의 규칙을 설명서 없이 몇 번의 시범 플레이만 보고 배우는 것과 비슷하죠. 기존의 머신러닝 모델이 특정 작업을 위해 방대한 데이터를 학습하고 모델 자체를..
Theory/Reasoning 2025. 5. 28. 22:11
이전 Prev 1 Next 다음