Microsoft AI 에이전트 입문 과정: 에이전트 RAG

920 0

이 과정에서는 에이전트 검색 증강 세대(에이전트 검색 증강 세대)에 대한 포괄적인 개요를 제공합니다. RAG)은 대규모 언어 모델(LLM)이 외부 소스에서 정보를 획득하면서 다음 작업을 자율적으로 계획하는 새로운 AI 패러다임입니다. 정적인 '검색 후 읽기' 모델과 달리 에이전틱 RAG는 도구 또는 함수 호출과 구조화된 출력이 산재된 LLM에 대한 반복적인 호출을 포함합니다. 시스템은 결과를 평가하고, 쿼리를 최적화하고, 필요할 때 다른 도구를 호출하며, 만족스러운 솔루션을 얻을 때까지 이 주기를 계속합니다.

개요

이 과정에서는 다음 주제를 다룹니다:

에이전트 RAG 이해. 대규모 언어 모델(LLM)이 외부 데이터 소스에서 정보를 추출하면서 자율적으로 다음 동작을 계획하는 AI의 새로운 패러다임에 대해 알아보세요.
반복적인 '메이커-체커' 모델 마스터하기. 도구 또는 함수 호출과 구조화된 출력이 산재되어 있는 LLM에 대한 반복 호출의 루프를 이해하면 정확성을 개선하고 잘못된 형식의 쿼리를 처리할 수 있습니다.
실제 적용 사례를 살펴보세요. '정확성 우선' 환경, 복잡한 데이터베이스 상호 작용, 확장된 워크플로 등 에이전틱 RAG가 빛을 발하는 시나리오를 파악하세요.

학습 목표

이 과정을 완료하면 어떻게/어떻게 이해해야 하는지 알게 됩니다:

에이전트 RAG 이해. 대규모 언어 모델(LLM)이 외부 데이터 소스에서 정보를 추출하면서 자율적으로 다음 동작을 계획하는 AI의 새로운 패러다임에 대해 알아보세요.
반복적인 '메이커 검사기' 모델입니다. 정확성을 높이고 잘못된 형식의 쿼리를 처리하도록 설계된 도구 또는 함수 호출과 구조화된 출력이 산재되어 있는 LLM의 루프에 대한 반복 호출 개념을 파악하세요.
추론 프로세스를 보유합니다. 시스템이 미리 정의된 경로에 의존하지 않고 문제에 접근하는 방법을 결정할 수 있는 추론 프로세스의 능력을 보유하고 있다는 것을 이해합니다.
워크플로. 에이전트 모델이 시장 동향 보고서를 검색하고, 경쟁사 데이터를 식별하고, 내부 영업 지표를 상호 연관시키고, 결과를 종합하고, 전략을 평가하는 등 독립적인 의사 결정을 내리는 방법을 알아보세요.
반복 루프, 도구 통합 및 메모리. 시스템이 주기적인 상호 작용 패턴에 의존하여 여러 단계에서 상태와 메모리를 유지하여 반복적인 주기를 피하고 정보에 입각한 결정을 내리는 방법을 이해하세요.
장애 모드 및 자체 수정 처리하기. 반복 및 재질의, 진단 도구 사용, 사람의 감독에 의존하는 등 시스템의 강력한 자체 수정 메커니즘에 대해 알아보세요.
에이전트의 경계. 도메인별 자율성, 인프라 종속성, 가드레일에 대한 존중을 중심으로 에이전트 RAG의 한계를 이해합니다.
실제 사용 사례와 가치. '정확성 우선' 환경, 복잡한 데이터베이스 상호 작용, 확장된 워크플로 등 에이전틱 RAG가 빛을 발하는 시나리오를 파악하세요.
거버넌스, 투명성, 신뢰. 설명 가능한 추론, 편견 통제 및 인적 감독을 포함한 거버넌스와 투명성의 중요성을 이해합니다.

에이전트 RAG란 무엇인가요?

에이전틱 검색 증강 생성(에이전틱 RAG)은 대규모 언어 모델(LLM)이 외부 소스에서 정보를 추출하면서 다음 작업을 자율적으로 계획하는 새로운 AI 패러다임입니다. 정적인 '검색 후 읽기' 모델과 달리 에이전틱 RAG는 도구 또는 함수 호출과 구조화된 출력이 산재된 LLM에 대한 반복적인 호출을 포함합니다. 시스템은 결과를 평가하고 쿼리를 최적화하며 필요할 때 다른 도구를 호출하고 만족스러운 솔루션을 얻을 때까지 이 주기를 계속합니다. 이 반복적인 '메이커 검사기' 모델은 정확성을 향상시키고, 잘못된 형식의 쿼리를 처리하며, 고품질의 결과를 보장합니다.

시스템은 추론 프로세스를 적극적으로 소유하고, 실패한 쿼리를 다시 작성하고, 다른 검색 방법을 선택하고, 여러 도구(예: Azure AI Search의 벡터 검색, SQL 데이터베이스 또는 사용자 지정 API)를 통합하여 궁극적으로 답을 결정합니다.에이전트 시스템의 차별화된 특징은 추론 프로세스를 소유할 수 있다는 것입니다. 기존의 RAG 구현은 사전 정의된 경로에 의존하지만 에이전트 시스템은 찾은 정보의 품질에 따라 단계의 순서를 자율적으로 결정합니다.

정의 에이전트 검색-증강 생성(에이전트 RAG)

에이전트 검색 증강 생성(에이전트 RAG)은 AI 개발의 새로운 패러다임으로, LLM이 외부 데이터 소스에서 정보를 추출할 뿐만 아니라 다음 작업을 자율적으로 계획하는 방식입니다. 정적인 '검색 후 읽기' 모델이나 정교한 큐잉 시퀀스와 달리 에이전틱 RAG는 도구 또는 함수 호출과 구조화된 출력이 산재된 LLM에 대한 반복적인 호출 루프를 포함합니다. 각 단계에서 시스템은 얻은 결과를 평가하고 쿼리를 최적화할지 여부를 결정하며 필요한 경우 다른 도구를 호출하고 만족스러운 솔루션을 얻을 때까지 이 주기를 계속합니다.

이 반복적인 '메이커 검사기' 접근 방식은 정확성을 높이고, 잘못된 형식의 구조화된 데이터베이스(예: NL2SQL)에 대한 쿼리를 처리하며, 균형 잡힌 고품질의 결과를 보장하도록 설계되었습니다. 정교한 힌트 체인에만 의존하는 대신, 시스템이 추론 프로세스를 능동적으로 소유합니다. 실패한 쿼리를 다시 작성하고, 다른 검색 방법을 선택하고, 여러 도구(예: Azure AI Search의 벡터 검색, SQL 데이터베이스 또는 사용자 지정 API)를 통합하여 답을 완성할 수 있습니다. 따라서 지나치게 복잡한 오케스트레이션 프레임워크가 필요하지 않습니다. 대신 비교적 간단한 "LLM 호출 → 도구 사용 → LLM 호출 → ..." 루프를 통해 복잡하고 합리적인 결과를 생성할 수 있습니다.

추론 프로세스

시스템을 '에이전트'로 만드는 차별화된 특징은 자체적인 추론 프로세스를 보유할 수 있다는 점입니다. 기존의 RAG 구현은 종종 사람이 모델의 경로를 미리 정의하는 데 의존합니다. 즉, 검색할 대상과 시기를 간략하게 설명하는 일련의 사고 과정을 거칩니다. 하지만 진정한 에이전트형 시스템은 내부적으로 문제에 접근하는 방법을 결정합니다. 단순히 스크립트를 실행하는 것이 아니라 찾은 정보의 품질에 따라 단계의 순서를 자율적으로 결정합니다. 예를 들어, 제품 출시 전략을 수립하라는 요청을 받으면 전체 조사 및 의사 결정 워크플로우를 자세히 설명하는 프롬프트에만 의존하지 않습니다. 대신 에이전트 모델은 독립적으로 결정합니다:

Bing 웹 접지를 사용하여 최신 시장 동향 보고서를 검색하세요.
Azure AI 검색을 사용하여 관련 경쟁사 데이터를 식별하세요.
Azure SQL 데이터베이스를 사용하여 과거 내부 영업 지표를 연결합니다.
Azure OpenAI Service를 사용하여 분석을 일관된 전략으로 통합하세요.
전략의 차이점이나 불일치가 있는지 평가하고 필요한 경우 다시 한 번 검색을 진행합니다. 이러한 모든 단계(쿼리 최적화, 소스 선택, 답변에 '만족'할 때까지 반복)는 사람이 미리 작성하는 것이 아니라 모델에 의해 결정됩니다.

반복 루프, 도구 통합 및 메모리

에이전트 시스템은 주기적인 상호 작용 모델에 의존합니다:

초기 통화. 사용자의 목표(즉, 사용자 프롬프트)가 LLM에 표시됩니다.
도구 호출. 모델이 누락된 정보 또는 모호한 지침을 식별하면 더 많은 컨텍스트를 수집하기 위해 도구 또는 검색 방법(예: 벡터 데이터베이스 쿼리(예: Azure AI Search의 비공개 데이터 하이브리드 검색) 또는 구조화된 SQL 호출)을 선택합니다.
평가 및 최적화. 반환된 데이터를 검토한 후 모델은 충분한 정보가 있는지 여부를 결정합니다. 충분하지 않은 경우 쿼리를 최적화하거나 다른 도구를 시도하거나 접근 방식을 조정합니다.
만족할 때까지 반복합니다. 이 주기는 모델이 최종적이고 합리적인 답변을 제공할 수 있는 충분한 명확성과 증거를 확보했다고 판단할 때까지 계속됩니다.
메모리 및 상태. 시스템은 단계를 통해 상태와 메모리를 유지하므로 이전 시도와 그 결과를 기억하여 반복적인 주기를 피하고 진행하면서 더 많은 정보에 기반한 결정을 내릴 수 있습니다.

시간이 지남에 따라 모델이 지속적으로 사람이 개입하거나 단서를 재설계할 필요 없이 복잡한 다단계 작업을 처리할 수 있도록 진화하는 이해 감각을 만들어냅니다.

장애 모드 및 자체 수정 처리하기

에이전틱 RAG의 자율성에는 강력한 자체 수정 메커니즘도 포함됩니다. 시스템이 막다른 골목에 부딪히면(예: 관련 없는 문서를 검색하거나 잘못된 형식의 쿼리를 발견하는 경우) 스스로 수정할 수 있습니다:

반복 및 재질의. 이 모델은 낮은 가치의 응답을 반환하는 대신 새로운 검색 전략을 시도하거나 데이터베이스 쿼리를 다시 작성하거나 대체 데이터 세트를 살펴봅니다.
진단 도구 사용. 시스템은 추론 단계를 디버깅하거나 검색된 데이터의 정확성을 확인하는 데 도움이 되도록 설계된 추가 함수를 호출할 수 있습니다. Azure AI 추적과 같은 도구는 강력한 통합 가시성 및 모니터링을 가능하게 하는 데 도움이 됩니다.
수동 감독에 의존합니다. 위험이 높거나 실패가 반복되는 경우 모델은 불확실성을 표시하고 사람의 안내를 요청할 수 있습니다. 사람이 수정 피드백을 제공하면 모델은 향후에 해당 경험을 채택할 수 있습니다.

이러한 반복적이고 역동적인 접근 방식을 통해 모델을 지속적으로 개선할 수 있으므로 일회성 시스템이 아니라 주어진 세션에서 실수를 통해 학습할 수 있는 시스템이 될 수 있습니다.

에이전트의 경계

에이전트 RAG는 자율적으로 작업을 수행하지만 범용 AI와 동일하지는 않습니다. "에이전트" 기능은 인간 개발자가 제공하는 도구, 데이터 소스 및 정책으로 제한됩니다. 자체 도구를 개발하거나 정해진 영역의 경계를 넘어서는 것은 불가능합니다. 대신 당면한 리소스를 동적으로 오케스트레이션하는 데 탁월합니다. 고급 형태의 AI와의 주요 차이점은 다음과 같습니다:

특정 영역에서의 자율성. 에이전트 RAG 시스템은 쿼리 재작성 또는 도구 선택과 같은 전략을 사용하여 결과를 개선함으로써 알려진 도메인 내에서 사용자 정의 목표를 달성하는 데 중점을 둡니다.
인프라 종속성. 시스템의 기능은 개발자가 통합하는 도구와 데이터에 따라 달라집니다. 사람의 개입 없이는 이러한 경계를 뛰어넘을 수 없습니다.
가드레일 존중. 윤리 강령, 규정 준수 규칙 및 비즈니스 전략은 여전히 중요합니다. 에이전트의 자유는 항상 보안 조치와 감독 메커니즘의 적용을 받습니다(바라건대?).

실제 사용 사례 및 가치

에이전틱 RAG는 반복적인 최적화와 정밀도가 필요한 시나리오에서 빛을 발합니다:

"정확성 우선" 환경. 규정 준수 확인, 규제 분석 또는 법률 조사에서 에이전트 모델은 철저하게 검증된 답변이 생성될 때까지 반복적으로 사실을 확인하고, 여러 소스를 참조하고, 쿼리를 다시 작성할 수 있습니다.
복잡한 데이터베이스 상호 작용. 쿼리가 자주 실패하거나 조정해야 하는 구조화된 데이터로 작업하는 경우, 시스템은 Azure SQL 또는 Microsoft Fabric OneLake를 사용하여 쿼리를 자율적으로 최적화하여 최종 검색이 사용자의 의도와 일치하도록 보장할 수 있습니다.
확장된 워크플로. 장기 실행 세션은 새로운 정보를 사용할 수 있게 되면 변경될 수 있으며, 에이전틱 RAG는 새로운 데이터를 지속적으로 통합하여 문제 공간에 대해 더 많은 것을 알게 되면 전략을 변경할 수 있습니다.

거버넌스, 투명성 및 신뢰

이러한 시스템의 추론이 더욱 자율적으로 이루어지면서 거버넌스와 투명성이 중요해졌습니다:

해석 가능한 추론. 모델은 쿼리, 참조하는 원본 및 결론에 도달하기 위해 수행하는 추론 단계에 대한 감사 추적을 제공할 수 있으며, Azure AI Content Safety 및 Azure AI 추적/GenAIOps와 같은 도구는 투명성을 유지하고 위험을 완화하는 데 도움이 될 수 있습니다.
편차 제어 및 잔액 검색. 개발자는 균형 잡힌 대표 데이터 원본이 고려되도록 검색 전략을 조정하고, Azure 머신 러닝을 사용하여 고급 데이터 과학 조직에 맞게 모델을 사용자 지정하고, 정기적으로 출력을 감사하여 편향 또는 왜곡된 패턴을 감지할 수 있습니다.
수동 감독 및 규정 준수. 민감한 작업의 경우 여전히 수동 검토가 중요하며, 에이전트 RAG는 고위험 의사 결정에서 수동 판단을 대체하지는 않지만 보다 철저한 검토 옵션을 제공함으로써 이를 보강합니다.

작업을 명확하게 기록할 수 있는 도구를 갖추는 것이 중요합니다. 이러한 도구가 없으면 다단계 프로세스를 디버깅하기가 매우 어려울 수 있습니다. 에이전트 실행의 예는 리터럴 AI(Chainlit의 개발사)를 참조하세요:

평결에 도달하기

에이전트 RAG는 AI 시스템이 복잡하고 데이터 집약적인 작업에 접근하는 방식에서 자연스러운 진화를 나타냅니다. 순환적 상호 작용 모델을 채택하고, 도구를 자율적으로 선택하고, 고품질의 결과를 얻을 때까지 쿼리를 최적화함으로써 시스템은 정적인 프롬프트 팔로잉에서 보다 적응력 있고 상황에 맞는 의사 결정자로 변모하고 있습니다. 이러한 에이전트 기능은 여전히 사람이 정의한 인프라와 윤리에 구속되지만, 비즈니스와 최종 사용자에게 더 풍부하고 역동적이며 궁극적으로 더 유용한 AI 상호 작용을 제공합니다.