AI & 머신러닝
AI & 머신러닝 용어 59개를 쉬운 말로 풀어 설명하고, GAIA가 각각을 어떻게 활용하는지 소개합니다.
AI 에이전트
AI 에이전트는 환경을 인지하고, 무엇을 해야 할지 스스로 판단하며, 지속적인 인간의 지시 없이 특정 목표를 달성하기 위해 행동하는 자율 소프트웨어 시스템입니다.
에이전틱 AI
에이전틱 AI는 최소한의 사람 개입으로 독립적으로 의사결정하고 복잡한 여러 단계의 작업을 수행하도록 설계된 인공지능 시스템을 일컫습니다.
능동형 AI
능동형(선제적) AI는 요청하기 전에 먼저 움직이는 AI입니다. 새 이메일, 다가오는 회의, 마감 같은 이벤트를 지켜보다가 주의가 필요한 순간을 판단하고, 스스로 작업을 시작하거나 알려 줍니다. 반응형 AI는 그 반대로, 프롬프트나 명령을 보낼 때까지 아무것도 하지 않다가 받은 뒤에야 응답합니다.
그래프 기반 메모리
그래프 기반 메모리는 정보를 서로 연결된 노드와 관계로 저장하여, 상호작용 전반에 걸쳐 풍부한 맥락 이해와 지속적인 지식 유지를 가능하게 하는 AI 메모리 아키텍처입니다.
의미 기반 검색
의미 기반 검색은 검색 쿼리의 의미와 의도를 이해하여, 단순히 키워드 일치가 아닌 개념 상의 연관성에 따라 결과를 제공하는 검색 기술입니다.
대형 언어 모델 (LLM)
대형 언어 모델(LLM)은 방대한 텍스트 데이터를 학습해 인간의 언어를 놀라울 정도로 자연스럽게 이해하고 생성하며 추론할 수 있는 인공지능 모델입니다.
컨텍스트 인식
AI에서 컨텍스트 인식은 작업이나 상호작용을 둘러싼 전체 상황을 이해하는 능력을 의미합니다. 참여자, 이전에 일어난 일, 관련 프로젝트, 마감일, 사용자의 선호와 패턴 등이 포함됩니다.
AI 오케스트레이션
AI 오케스트레이션이란 여러 AI 에이전트, 모델, 도구가 서로 협력해 단일 구성요소로는 처리할 수 없는 복잡하고 다단계의 업무를 함께 완수하는 과정을 의미합니다.
트랜스포머
트랜스포머는 2017년에 소개된 신경망 구조로, 시퀀스 데이터를 병렬로 처리하기 위해 셀프 어텐션 메커니즘을 사용하며, 모든 현대 대형 언어 모델의 기반을 이룹니다.
파인튜닝
파인튜닝은 사전 학습된 AI 모델을 가지고 비교적 작은 규모의 작업 특화 데이터셋으로 추가 학습하여, 특정 도메인이나 애플리케이션에 맞게 모델의 동작을 조정하는 과정입니다.
임베딩
임베딩은 텍스트, 이미지, 오디오 등 데이터를 의미와 관계를 표현하는 고차원, 밀집 수치 벡터로 변환한 것입니다.
벡터 데이터베이스
벡터 데이터베이스는 대용량의 고차원 벡터 임베딩을 저장, 색인, 질의할 수 있도록 설계된 데이터베이스 시스템으로, 방대한 임베딩 데이터에서 유사성 검색을 빠르게 실행할 수 있습니다.
검색 증강 생성(RAG)
검색 증강 생성(RAG)은 외부 지식 기반에서 관련 문서나 데이터를 먼저 검색하고 그 컨텍스트를 모델 프롬프트에 주입하여, LLM 응답을 더욱 향상시키는 기법입니다.
프롬프트 엔지니어링
프롬프트 엔지니어링은 원하는 결과를 신뢰성 있게 끌어내기 위해 AI 언어 모델에 입력을 설계하고 다듬는 실천으로, 기본 가중치 자체를 수정하지 않고도 모델의 행동을 조정할 수 있습니다.
제로샷 러닝
제로샷 러닝은 AI 모델이 특정 작업에 대해 명시적으로 학습하지 않았더라도, 일반적인 지식과 추론 능력에 기반해 그 작업을 수행할 수 있는 능력입니다.
퓨샷 러닝
퓨샷 러닝은 AI 모델이 가중치 업데이트 없이 프롬프트에 제공된 소수의 입력-출력 예제만으로 새로운 작업이나 출력 형식에 적응하는 능력을 의미합니다.
체인 오브 쏫 추론
체인 오브 쏫(CoT) 추론은 AI 모델이 최종 답변을 내기 전에 중간 추론 과정을 명확히 서술하게 하는 프롬프트 기법으로, 복잡한 다단계 문제의 정확도를 획기적으로 높여줍니다.
환각
AI 환각이란, 언어모델이 입력이나 학습 데이터에 근거하지 않은 사실과는 다른, 허구 또는 무의미한 정보를 자신 있게 생성하는 현상을 말합니다.
토크나이제이션
토크나이제이션은 텍스트를 '토큰'이라고 불리는 더 작은 단위로 분해하는 과정으로, 이 토큰이 언어 모델의 기본 입력 단위가 됩니다. 토큰은 주로 단어의 일부분이나 전체, 혹은 구두점을 나타냅니다.
컨텍스트 윈도우
컨텍스트 윈도우는 시스템 프롬프트, 대화 내역, 검색 문서, 생성 결과를 포함하여 한 번의 추론 호출에서 언어 모델이 처리할 수 있는 최대 토큰 수를 의미합니다.
신경망
신경망은 생물학적 신경계에서 영감을 받아 설계된 계산 모델로, 여러 계층의 노드가 서로 연결되어 있으며 연결 가중치를 조정하면서 입력 데이터를 출력으로 변환하는 방법을 학습합니다.
자연어 처리(NLP)
자연어 처리(NLP)는 인공지능의 한 분야로, 컴퓨터가 인간의 언어를 의미 있게 이해하고, 해석하며, 생성하고, 응답하도록 하는 데 초점을 둡니다.
멀티모달 AI
멀티모달 AI는 텍스트, 이미지, 오디오, 비디오 등 다양한 형태의 데이터를 하나의 모델이나 통합된 파이프라인에서 처리하고 생성할 수 있는 인공지능 시스템을 의미합니다.
파운데이션 모델
파운데이션 모델은 대규모로 다양한 데이터를 학습해, 파인튜닝·프롬프트·애플리케이션 통합 등을 통해 여러 downstream 작업에 적응할 수 있는 대형 AI 모델입니다.
추론
추론이란, 학습된 AI 모델을 새로운 입력 데이터에 적용해 예측, 응답 또는 결정을 도출하는 과정입니다. 이는 모델을 데이터로 학습시키는 트레이닝과는 구분되는 개념입니다.
AI 정렬
AI 정렬은 AI 시스템이 더욱 강력하고 자율적이 되더라도 인간의 가치와 의도에 부합하며, 유익하고 안전한 목표를 추구하도록 보장하는 연구 및 엔지니어링 분야입니다.
도구 사용
툴 사용은 AI 에이전트가 외부 함수, API, 데이터베이스, 서비스를 호출해 정보를 얻거나 텍스트 생성 그 이상으로 실제 세계에서 행동을 수행하는 능력입니다.
함수 호출
함수 호출은 AI 모델이 미리 정의된 함수들을 구조화되고 기계가 읽을 수 있는 형태로 호출할 수 있게 하는 기능입니다. 이를 통해 AI 시스템은 올바른 인자로 외부 API와 도구를 신뢰성 있게 호출할 수 있습니다.
자율 에이전트
자율 에이전트는 환경을 독립적으로 인식하고, 판단하고, 목표 달성을 위해 사람의 개입 없이 스스로 행동할 수 있는 AI 시스템입니다.
오케스트레이션
AI에서 오케스트레이션이란 여러 에이전트, 모델, 도구, 데이터 소스를 체계적으로 조정하여 복잡한 다단계 작업을 관리된 종속성, 상태, 오류 처리와 함께 실행하는 것을 의미합니다.
에이전트 메모리
에이전트 메모리는 AI 에이전트가 과거 상호작용, 관찰, 행동에서 얻은 정보를 저장·검색·활용하여 이후의 행동에 반영할 수 있는 능력으로, 세션을 넘어 지속적으로 맥락을 유지할 수 있게 해줍니다.
Temperature (AI)
LLM temperature(온도)는 언어 모델이 다음 단어(토큰)를 고를 때 얼마나 무작위로 고를지 정하는 설정값입니다. 값이 낮으면(0에 가까우면) 가장 확률이 높은 단어를 주로 골라 답이 일관되고 예측 가능해지고, 값이 높으면 확률이 낮은 단어도 뽑혀 답이 다양하고 창의적으로 바뀝니다. AI temperature, AI 온도라고도 부릅니다.
시스템 프롬프트
시스템 프롬프트는 세션 시작 시 언어 모델에 제공되는 지침으로, 사용자와의 상호작용이 시작되기 전에 모델의 페르소나, 제약, 톤, 행동 가이드라인 등을 정의합니다.
구조화 출력
구조화 출력은 LLM의 응답을 미리 정해진 형식(주로 JSON이나 XML)으로 제한하여, 자유로운 텍스트 대신 안정적으로 프로그램에서 파싱할 수 있게 하는 기술입니다.
가드레일
AI 가드레일(guardrail)은 AI 모델이나 AI 에이전트가 정해진 범위를 벗어나지 않도록 입력, 출력, 행동을 검사하고 제한하는 안전장치입니다. 도로의 가드레일이 차가 길 밖으로 나가지 않게 막듯, 유해한 답변, 민감 정보 유출, 프롬프트 인젝션, 사용자가 허락하지 않은 행동을 걸러 내거나 막습니다. LLM 가드레일은 대규모 언어 모델의 앞뒤에 두는 이런 검사 계층을 가리킵니다.
에이전트 루프
에이전트 루프는 AI 에이전트가 현재 상태를 추론하고, 행동(주로 툴 호출)을 선택 및 실행하며, 결과를 관찰한 뒤, 과제가 완료되거나 중지 조건에 도달할 때까지 이 과정을 반복하는 순환 실행 구조입니다.
감독 에이전트
감독 에이전트(supervisor agent)는 멀티 에이전트 시스템을 지휘하는 AI 에이전트입니다. 요청을 받아 하위 작업으로 나누고, 각 작업을 알맞은 도구를 가진 전문 작업자 에이전트(서브에이전트)에게 맡기며, 돌아온 결과를 검토해 하나의 답으로 합칩니다. 실행은 작업자가 하고, 누가 무엇을 언제까지 할지는 감독 에이전트가 정합니다.
서브에이전트
서브에이전트(subagent)는 더 큰 작업의 한 부분을 맡기기 위해 다른 에이전트가 실행하는 AI 에이전트입니다. 상위 에이전트(흔히 감독자나 오케스트레이터라고 부름)는 서브에이전트에게 작업 설명, 범위를 좁힌 도구, 자체적인 새 컨텍스트를 주고, 서브에이전트는 그 부분을 독립적으로 처리한 뒤 결과만 돌려줍니다. 이렇게 나누면 여러 서브에이전트를 병렬로 돌릴 수 있고 메인 에이전트의 컨텍스트도 깔끔하게 유지됩니다.
병렬 에이전트
병렬 에이전트란 독립적인 작업을 동시에 실행하여, 여러 에이전트가 각자의 결과를 결합해 복잡한 워크플로를 단일 에이전트의 순차 처리보다 빠르게 완료할 수 있게 하는 구조입니다.
에이전트 상태
에이전트 상태란 AI 에이전트가 작업을 실행하는 동안 그간의 진행 상황, 얻은 정보, 남은 단계를 추적하기 위해 유지하는 구조화된 데이터입니다. 이를 통해 반복 작업 없이 여러 단계를 추론하고 처리할 수 있게 해줍니다.
프롬프트 체이닝
프롬프트 체이닝은 하나의 LLM 프롬프트의 출력을 다음 프롬프트의 입력으로 사용해, 단일 프롬프트로는 안정적으로 달성할 수 없는 복잡한 작업을 여러 번의 연결된 호출로 완수하는 기법입니다.
시맨틱 라우팅
시맨틱 라우팅은 사용자 입력의 의미와 의도를 분류하여 적합한 핸들러나 에이전트, 응답 전략으로 전달하는 방식입니다. 이를 통해 하나의 AI 인터페이스가 다양한 유형의 요청을 지능적으로 처리할 수 있습니다.
로컬 LLM (로컬 AI 모델)
로컬 AI 모델(로컬 LLM)은 클라우드 서버가 아니라 내 노트북, 데스크톱, 사내 서버에서 직접 실행하는 AI 언어 모델입니다. 공개된 모델 파일을 내려받아 Ollama, LM Studio, llama.cpp 같은 실행 도구로 돌리기 때문에 프롬프트와 문서가 외부로 전송되지 않고, 모델을 받은 뒤에는 인터넷 연결 없이도 쓸 수 있습니다.
전이 학습
AI에서 전이 학습(transfer learning)이란 한 작업으로 학습한 모델이 그 지식을 처음부터 다시 학습하는 대신, 관련된 다른 작업의 출발점으로 다시 쓰는 기법입니다. 대규모 언어 모델이 실용적인 이유도 여기에 있습니다. 방대한 텍스트로 한 번 사전 학습한 뒤, 훨씬 적은 데이터와 연산으로 대화, 코딩, 특정 전문 분야에 맞게 조정합니다.
강화 학습
강화 학습(RL)은 에이전트가 원하는 결과를 내는 행동에는 보상 신호를 받고, 원치 않은 결과에는 페널티 신호를 받으면서 의사 결정을 학습하는 머신러닝 패러다임입니다.
의도 인식
의도 인식은 AI 시스템이 사용자의 입력 뒤에 숨겨진 목표나 목적을 파악하여, 단순히 표면적인 문장에만 반응하는 것이 아니라 상황에 맞는 적합한 답변이나 행동을 선택할 수 있도록 하는 과정입니다.
엔터티 추출
엔터티 추출은 NLP 기술을 활용해 비정형 텍스트 내에서 사람, 조직, 날짜, 위치, 작업 등과 같은 특정 정보를 식별하고 분류하는 과정입니다.
개체명 인식 (NER)
개체명 인식(NER)은 텍스트에서 명명된 개체를 미리 정의된 카테고리(예: 인물, 조직, 장소, 날짜, 도메인 특화 개체)로 식별하고 분류하는 자연어 처리 작업입니다.
감성 분석
감성 분석(감정 분석)은 자연어 처리(NLP)와 AI를 사용해 텍스트에 담긴 감정의 어조를 파악하고, 보통 긍정, 부정, 중립으로 분류하는 기법입니다. 감정의 강도를 점수로 나타내거나 좌절, 흥분, 긴급처럼 더 세분화된 라벨을 붙이기도 합니다.
음성 인식
음성 인식(Speech-to-Text, STT)은 자동 음성 인식(ASR)이라고도 하며, 사람이 말한 오디오를 글자로 바꾸는 AI 기술입니다. 말을 하면 소프트웨어가 그 내용을 받아 적습니다. 휴대폰 음성 입력, 실시간 자막, 음성 비서, 음성 챗봇을 움직이는 기술이며, AI 시스템이 사람의 말을 이해해야 할 때 가장 먼저 거치는 단계입니다.
텍스트 음성 변환
텍스트 음성 변환(TTS)은 컴퓨터와 AI 시스템이 작성된 글자를 자연스러운 음성으로 합성하여 구두로 소통할 수 있게 하는 기술입니다.
인지 아키텍처
AI에서 인지 아키텍처란, 지능형 에이전트가 환경을 인지하고, 정보를 처리하며, 지식을 저장·검색하고, 의사결정을 내리며, 행동을 실행하는 체계적 구조를 의미합니다.
메모리 증강 AI
메모리 증강 AI는 외부의 영구적인 메모리 시스템에 연결하여 언어 모델의 역량을 확장하는 AI 아키텍처로, 에이전트가 단일 컨텍스트 윈도우의 한계를 넘어 정보를 기억하고 다시 활용할 수 있도록 합니다.
추론 모델
추론 모델은 문제를 단계별로 사려 깊게 검토한 뒤 최종 답변을 도출하는 내부 숙고 과정을 최적화한 AI 언어 모델로, 복잡한 추론 작업에서 더 높은 정확도를 달성합니다.
인간 피드백을 활용한 강화 학습(RLHF)
인간 피드백을 활용한 강화 학습(RLHF)은 AI 모델이 인간이 선호하는 결과를 생성하도록 훈련하는 기계 학습 기법으로, 원시 데이터만 사용하는 것이 아니라 인간이 제공한 순위 또는 평점을 학습에 활용합니다.
헌법적 AI
헌법적 AI(CAI)는 Anthropic이 개발한 훈련 방법론으로, AI가 인간의 가치에 맞도록 스스로의 출력 결과를 '헌법'이라 불리는 원칙 세트에 따라 평가 및 수정하게 함으로써, 오로지 인간 라벨링 데이터에만 의존하지 않고 모델을 정렬시키는 방식입니다.
토큰
AI에서 토큰은 언어 모델이 처리하는 텍스트의 기본 단위로, 보통 약 4글자 또는 평균 영어 단어의 ¾에 해당합니다. 토큰은 컨텍스트 윈도우의 크기 측정과 API 사용 비용 산정에 사용됩니다.
챗봇 vs AI 어시스턴트
챗봇은 나와 대화하는 소프트웨어입니다. 정해진 규칙이나 언어 모델을 이용해 채팅 창에서 질문에 답합니다. 챗봇과 AI 어시스턴트의 차이는 실행입니다. 챗봇은 답만 하지만, AI 어시스턴트(가상 비서나 디지털 비서라고도 부릅니다)는 이메일 보내기, 회의 예약, 할 일 만들기 같은 일까지 이미 쓰고 있는 도구 안에서 처리합니다.
AI 어시스턴트 vs AI 에이전트
AI 어시스턴트는 사람이 요청할 때 돕는 AI입니다. 사용자가 요청하면 답하거나 작업을 수행하고, 주도권은 사용자에게 있습니다. AI 에이전트는 목표를 받으면 스스로 그 목표를 향해 일하는 AI로, 어떤 단계를 밟고 어떤 도구를 쓸지 진행하면서 직접 판단합니다. 오늘날 성능이 뛰어난 AI 어시스턴트 대부분은 내부적으로 에이전트를 기반으로 동작합니다.
