전이 학습
AI에서 전이 학습(transfer learning)이란 한 작업으로 학습한 모델이 그 지식을 처음부터 다시 학습하는 대신, 관련된 다른 작업의 출발점으로 다시 쓰는 기법입니다. 대규모 언어 모델이 실용적인 이유도 여기에 있습니다. 방대한 텍스트로 한 번 사전 학습한 뒤, 훨씬 적은 데이터와 연산으로 대화, 코딩, 특정 전문 분야에 맞게 조정합니다.
이해하기 전이 학습
대규모 모델을 처음부터 훈련하려면 방대한 데이터, 연산 자원, 시간이 필요합니다. 전이 학습은 이미 언어, 이미지 등 다양한 도메인을 이해하는 사전 학습된 모델에서 시작해, 특정 과제에 맞춘 데이터로 추가 학습(파인튜닝)함으로써 개발 비용을 크게 줄입니다.
현대 LLM 생태계는 전이 학습에 기반해 있습니다. GPT-4, Claude, Llama 등은 인터넷의 방대한 텍스트 데이터로 일반 언어 이해를 학습한 뒤, 지시 따르기(Instruction Following) 데이터로 파인튜닝되어 유용한 AI 도우미가 됩니다. 이후 의료, 법률, 코딩 등 특화 도메인에서 추가 학습하면 전문화된 변형 모델들이 만들어집니다.
전이 학습이 효과적인 이유는 지식이 일반화되기 때문입니다. 수십억 개의 영어 문장으로 훈련된 모델은 문법, 상식, 추론 능력을 습득하는데, 이 지식이 새로운 과제에도 적용됩니다. 사전 훈련된 표현은 다양한 용도에 도움이 되는 근본적인 구조를 담고 있습니다.
AI 도우미 사용자들에게 전이 학습은 LLM이 특별히 학습되지 않은 작업에서도 유용할 수 있는 이유를 설명해줍니다. 폭넓은 사전 학습 기반 덕분에, 새롭거나 낯선 과제와 도메인도 효과적으로 다룰 수 있습니다.
실제로 전이 학습을 하는 방법: 사전 학습된 모델에서 출발해, 모델이 배운 일반적인 표현은 그대로 두고 새 작업에 필요한 부분만 조정합니다. 흔히 쓰는 단계는 세 가지입니다. 특징 추출은 사전 학습된 층을 고정하고 작은 출력층만 새로 학습시키는 방식으로, 라벨이 붙은 데이터가 적을 때 효과적입니다. 전체 미세 조정은 새 데이터로 모든 가중치를 계속 학습시킵니다. LoRA나 어댑터 같은 파라미터 효율적 미세 조정은 소수의 추가 가중치만 학습하고 원래 모델은 건드리지 않아, 메모리를 아끼고 하나의 기반 모델을 여러 작업에 쓸 수 있게 합니다.
대규모 언어 모델에서의 전이 학습은 보통 세 가지 형태입니다. 미세 조정은 작업 예시로 모델의 가중치를 바꿉니다. 예를 들어 분류기를 위해 라벨이 붙은 고객 지원 티켓 수천 건을 씁니다. 인컨텍스트 학습은 모델을 전혀 바꾸지 않습니다. 프롬프트에 지시와 예시 몇 개를 넣으면, 사전 학습된 모델이 그 자리에서 일반 능력을 작업에 적용합니다. 검색 증강 생성(RAG)은 모델이 본 적 없는 정보, 예를 들어 회사 문서를 질의할 때마다 제공합니다. 대부분의 팀은 먼저 프롬프트를 시도하고, 지식이 부족하면 검색을 더하고, 프롬프트로는 얻기 어려운 일관된 형식, 문체, 능력이 필요할 때만 미세 조정합니다.
LLM 밖의 대표적인 예: ImageNet으로 사전 학습한 이미지 모델을 수천 장의 이미지로 미세 조정해 생산 라인의 불량이나 X선 영상의 소견을 찾습니다. 일반 텍스트로 사전 학습한 BERT를 감성 분석이나 스팸 탐지에 맞게 미세 조정합니다. AI 자동화에서도 같은 원리가 작동합니다. 비서가 당신의 받은편지함으로 학습한 적이 없어도 이메일을 읽고, 날짜를 뽑아내고, 답장 초안을 쓸 수 있는 이유입니다. 능력은 사전 학습에서 오고, 조정은 지시, 도구, 맥락을 통해 이루어집니다.
전이 학습이 실패하는 경우: 원래 분야와 대상 분야가 너무 다를 때(부정적 전이), 적은 미세 조정 데이터 때문에 모델이 과적합되거나 일반 능력을 잃을 때(파국적 망각), 사전 학습된 모델의 편향이나 오래된 정보가 새 작업으로 넘어올 때입니다. 평가는 조정에 쓴 데이터가 아니라 실제 대상 데이터에서 따로 떼어 둔 예시로 하세요.
GAIA 활용 방법 전이 학습
GAIA는 자체 모델을 학습시키지 않고, Google Gemini와 OpenAI 같은 제공업체의 사전 학습된 모델을 직접 또는 OpenRouter를 통해 사용하는 방식으로 전이 학습을 활용합니다. 이 모델들이 사전 학습에서 익힌 일반 능력(읽기, 요약, 추론, 글쓰기)은 지시, 연결한 앱을 위한 도구 정의, 사용자가 알려 준 사실에 대한 메모리를 통해 사용자의 일에 맞게 쓰이며, 사용자 데이터로 추가 학습하지 않습니다.
관련 개념
파인튜닝
파인튜닝은 사전 학습된 AI 모델을 가지고 비교적 작은 규모의 작업 특화 데이터셋으로 추가 학습하여, 특정 도메인이나 애플리케이션에 맞게 모델의 동작을 조정하는 과정입니다.
파운데이션 모델
파운데이션 모델은 대규모로 다양한 데이터를 학습해, 파인튜닝·프롬프트·애플리케이션 통합 등을 통해 여러 downstream 작업에 적응할 수 있는 대형 AI 모델입니다.
대형 언어 모델 (LLM)
대형 언어 모델(LLM)은 방대한 텍스트 데이터를 학습해 인간의 언어를 놀라울 정도로 자연스럽게 이해하고 생성하며 추론할 수 있는 인공지능 모델입니다.
프롬프트 엔지니어링
프롬프트 엔지니어링은 원하는 결과를 신뢰성 있게 끌어내기 위해 AI 언어 모델에 입력을 설계하고 다듬는 실천으로, 기본 가중치 자체를 수정하지 않고도 모델의 행동을 조정할 수 있습니다.
퓨샷 러닝
퓨샷 러닝은 AI 모델이 가중치 업데이트 없이 프롬프트에 제공된 소수의 입력-출력 예제만으로 새로운 작업이나 출력 형식에 적응하는 능력을 의미합니다.
