[Microsoft Foundry] Microsoft Foundry를 활용한 LLM + RAG 구현 (1)

Microsoft Foundry

• Azure에서 RAG 기반 생성형 AI를 구현하기 위한 완전한 엔드투엔드 플랫폼
• AI 모델 생성·배포·관리·모니터링까지 한 곳에서 수행할 수 있도록 만든 환경
• PaaS 기반 생성형 AI 플랫폼

원래 Azure AI Foundry였는데 Microsoft Foundry로 이름이 또 바뀌었다. (그만 바꿔,,,)

 

LLM

• 대규모 텍스트 데이터를 학습하여 자연어를 이해하고 생성하는 인공지능 모델
• GPT, Claude, Gemini, LLaMA 등 다양한 LLM 존재
• Azure에서는 OpenAI의 다양한 모델을 Azure OpenAI Service를 통해 제공

 

Azure OpenAI Service

• Microsoft Azure가 제공하는 OpenAI 모델(GPT-4, GPT-4o 등)
• 기업은 LLM을 직접 학습하지 않아도 API 형태로 활용 가능
• Azure의 보안, 컴플라이언스, 네트워크 제어 환경에서 운영 가능

 

RAG

• LLM이 신뢰할 수 있는 외부 데이터를 참고해 정확하고 최신 답변을 만드는 기술
• 주요 기능
  • 1. 검색 기능(Retrieval)
    • Vector DB나 검색 엔진에서 관련 문서나 정보 검색
    • 사용자의 질문과 의미적으로 유사한 문서 조각(Chunk) 추출
  • 2. 생성 기능(Generation)
    • 검색된 문서 조각(Chunk)를 참고하여 LLM에 제공
    • LLM은 문서 조각(Chunk)을 근거 자료로 활용하여 자연스러운 답변 생성
• 작동 흐름
  • 1. 필요한 문서를 Vector DB에 로드 및 인덱싱
  • 2. 사용자가 자연어로 질문 입력
  • 3. RAG가 Vector DB에서 관련 자료를 검색 후 LLM에 제공
  • 4. LLM이 관련 자료를 참고하여 답변 생성 후 사용자에게 전달합니다.

Azure AI Search

• Microsoft Azure에서 제공하는 클라우드 기반의 확장 가능한 검색 서비스로, 텍스트/이미지/PDF 등 다양한 데이터를 인덱싱하여 의미 기반으로 검색 가능
• 주요 기능
  • 1. 의미 기반 검색
    • 단순 키워드가 아닌 의미와 문맥을 이해해 관련성 높은 결과 제공
    • 벡터 검색 및 하이브리드 검색 지원
  • 2. AI 기반 데이터 처리
    • OCR, NLP, 이미지 분석, 번역 등 AI 기술을 활용해 비정형 데이터를 검색 가능한 형태로 변환
  • 3. RAG 지원
    • LLM과 연계하여 문서 조각을 근거로 정확하고 신뢰할 수 있는 답변 생성
• 작동 흐름
  • 1. 문서를 업로드하면, AI Search는 문서를 Chunk로 나눈 후 OpenAI 임베딩 모델로 벡터화
  • 2. 벡터화된 문서와 메타데이터 필드(metadata field) 는 인덱싱되어 의미 기반 검색이 가능하게 저장
  • 3. 이후 사용자가 질문하게 되면, 사용자 질문을 벡터화
  • 4. 벡터 DB에서 유사 문서를 검색하고, LLM이 이를 기반으로 근거 기반 답변을 생성

Embedding 및 Indexing

LLM과 RAG를 이해하기 위해, Embedding과 Indexing에 대한 이해 또한 필요하다.

 

Embedding

• 텍스트나 이미지를 의미 기반 벡터로 변환하는 과정
• 컴퓨터는 문자나 문장의 의미를 직접 이해하지 못하므로, 임베딩을 통해 텍스트를 벡터(숫자 배열)로 변환
• 해당 벡터는 단어 간 유사성을 반영하며, 의미적으로 비슷한 단어일수록 벡터 간 거리가 가까워지도록 학습된 모델
• 예시
  • 1.‘자동차’와 ‘승용차’ : 벡터 거리가 가깝다.
  • 2.‘자동차’와 ‘바나나’ : 벡터 거리가 멀다.
• 관련 리소스 : Azure OpenAI Embedding 모델

 

Indexing

• 변환된 데이터를 검색 가능한 구조로 만드는 과정
• 컴퓨터는 텍스트나 문서의 맥락적 의미를 직접 이해하지 못하므로, 검색 가능한 필드(제목, 본문, 태그, 벡터 등)를 인덱스에 등록하여 LLM이나 검색 쿼리가 즉시 관련 문서를 조회할 수 있도록 함
• 관련 리소스 : Azure AI Search

이후 게시글에서는 직접 Hands-on 해보는 과정을 다뤄보도록 하겠습니다.

---

[참고 문서]

Microsoft Foundry란?

Microsoft Foundry란? - Microsoft Foundry

10분만에 RAG 이해하기

10분만에 RAG 이해하기