(한국어) AWS Certified AI Practitioner (6) - Amazon Bedrock RAG & Knowledge Base

📚 Amazon Bedrock – RAG & Knowledge Base

1. 🔍 RAG란 무엇일까?

RAG (Retrieval-Augmented Generation) 은

외부 데이터에서 정보를 검색(Retrieve) 하고 → 이를 프롬프트에 추가(Augment) 하여 → 모델이 더 정확한 답변을 생성(Generate) 하는 방법이에요.

• 검색(Retrieval): 모델이 학습하지 못한 최신 데이터나 특정 도메인 데이터를 가져와요.
• 증강(Augmentation): 검색한 데이터를 질문과 합쳐서 모델에 전달해요.
• 장점: 모델을 새로 학습(Fine-tuning)하지 않고도 최신 지식을 반영할 수 있어요.

---

2. 🏗 동작 방식 (Step-by-Step)

1. 데이터 저장소
   • Amazon S3, Confluence, SharePoint, Salesforce, 웹사이트 등에 문서를 저장
2. 벡터 임베딩 생성
   • Bedrock이 문서를 작은 조각으로 나누고
   • Amazon Titan, Cohere 같은 임베딩 모델로 숫자 벡터로 변환
3. 벡터 데이터베이스 저장
   • 변환된 벡터를 OpenSearch, Aurora, Neptune, S3 Vectors 같은 벡터 DB에 저장
4. 쿼리 처리
   • 사용자가 질문하면 → 질문도 벡터로 변환 → DB에서 유사한 벡터 검색
5. 프롬프트 증강
   • 검색된 결과를 원래 질문과 합쳐서 모델에 전달
6. 답변 생성
   • Claude, Titan Text, Llama 같은 모델이 맥락을 이해하고 답변 + 출처 제공

---

3. 🛠 주요 구성 요소

구성 요소	설명	AWS / 외부 옵션
데이터 소스	원본 데이터 저장 위치	Amazon S3, Confluence, SharePoint, Salesforce, 웹사이트
임베딩 모델	텍스트를 벡터로 변환	Amazon Titan, Cohere
벡터 DB	벡터 저장 및 검색	OpenSearch, Aurora, Neptune, S3 Vectors / Pinecone, Redis, MongoDB
기초 모델	최종 답변 생성	Claude, Titan Text, Llama 등

---

4. 📊 AWS 벡터 DB 비교 (시험 포인트!)

서비스	특징	활용 사례
OpenSearch	실시간 검색, KNN 지원, 서버리스 모드 있음	대규모 실시간 검색 & 분석
Aurora PostgreSQL	RDB에 벡터 검색 통합 (pgvector)	기존 SQL 시스템에 RAG 결합
Neptune Analytics	그래프 기반 검색 (GraphRAG)	관계 중심 데이터, 그래프 분석
S3 Vectors	저비용, 높은 내구성, 빠른 쿼리	장기 보관 및 비용 최적화

✅ 시험 꿀팁

• “실시간 대규모 검색” → OpenSearch
• “그래프 관계 중심” → Neptune
• “저비용/고내구성” → S3 Vectors

---

5. 📌 왜 KNN 검색이 중요한가?

RAG에서 KNN (k-Nearest Neighbors) 검색은 가장 중요한 단계예요.

• 문서와 질문을 벡터로 변환 → 서로의 “거리”를 계산 → 가장 가까운 k개 문서 검색
• 거리 계산 방법: 코사인 유사도(Cosine Similarity), 유클리드 거리 등
• AWS 시험에서는 “semantic search”, “vector similarity search” = KNN 검색을 의미한다고 보면 돼요.
• OpenSearch의 Approximate k-NN 은 대규모 실시간 검색에 자주 출제돼요.

---

6. 💡 대표적인 활용 사례

1. 고객 서비스 챗봇 → 제품 매뉴얼, FAQ, 트러블슈팅 문서 기반 답변
2. 법률 리서치 → 판례, 법령, 규제 문서를 검색해 정확한 출처와 함께 제공
3. 헬스케어 Q&A → 질병, 치료, 연구 논문 데이터를 기반으로 답변

---

7. 🧪 실습 예시 – “내 문서와 대화하기”

• 목표: 업로드한 문서를 기반으로 질문-답변 챗봇 만들기

• 절차

  1. AWS Console → Knowledge Bases 이동
  2. “Chat with your document” 선택
  3. 문서 업로드
  4. 질문 입력 → 예: “WWW를 발명한 사람은 누구야?”
  5. 모델이 문서 검색 → 관련 문단 찾아서 답변 생성 (출처 포함)

  

  

• 시험 팁: 답변할 데이터가 없을 땐 “제공된 데이터에 해당 내용이 없습니다” 라고 응답해야 함

---

8. 📌 시험 대비 핵심 요약

• RAG 정의: 외부 데이터 검색 + 프롬프트 증강 → 더 정확한 답변
• Bedrock 장점: 임베딩 생성, KB 관리, FM 연결 자동화
• 벡터 DB 옵션: OpenSearch, Aurora, Neptune, S3 Vectors
• 데이터 소스: S3, Confluence, SharePoint, Salesforce, 웹페이지
• 사용 사례: 챗봇, 법률 검색, 의료 지식 Q&A
• 시험 자주 나오는 키워드
  • “vector similarity search” = k-NN
  • “Provisioned Throughput” = 커스텀 모델 필수
  • “Fine-tuning vs RAG” → Fine-tuning = 모델 자체 수정, RAG = 데이터 추가만

---

✅ 추가 시험 포인트

• Fine-tuning 은 모델 가중치 변경, 비용 ↑, 데이터 필요 ↑
• RAG 는 가중치 변경 없음, 최신 데이터 반영, 비용 ↓
• Bedrock KB 는 S3, Confluence, Salesforce 등 다양한 소스와 직접 연결 가능
• Aurora (pgvector) 는 기존 SQL DB를 사용하는 기업에서 자주 언급됨