Danny's Blog

👗 Amazon Bedrock End-to-End Use Case (AI Stylist Demo)📌 Why This Demo MattersSo far, we’ve explored many features of Amazon Bedrock. But in reality, using Bedrock isn’t just about clicking around in the console.To build a real-world application, you need to make API calls to Bedrock and integrate those capabilities directly into your service. To demonstrate this, AWS provides an AI Stylist demo application.This demo shows how end users actually experience an application built on top of Be...

👗 Amazon Bedrock End-to-End Use Case (AI Stylist Demo)📌 왜 이 데모가 중요한가?앞에서 Amazon Bedrock의 여러 기능을 살펴봤지만, 실제로는 콘솔에서 클릭만 하는 것으로 끝나지 않습니다.실제 애플리케이션에서 Bedrock을 활용하려면 API 호출을 통해 Bedrock 기능을 불러오고, 이를 기반으로 서비스를 만들어야 합니다. AWS에서는 이를 보여주기 위해 AI Stylist라는 데모 애플리케이션을 제공합니다.이 데모를 통해 실제 사용자가 어떻게 Bedrock 기반 앱을 경험하는지 확인할 수 있습니다. 🔗 Try the AI Stylist Demo 📎 Demo Video: Your browser does not support the video tag. 👠 AI Stylist 동작 방식 사용자가 질문을 입력합니다. 예: “저는 컨설턴트인데, 다음 주 뉴욕 출장을 가는데 첫 출근 날 무슨...

📊 Amazon Bedrock & CloudWatch📌 CloudWatch란?Amazon CloudWatch는 AWS 리소스와 애플리케이션을 모니터링하는 서비스입니다.CloudWatch는 다음과 같은 기능을 제공합니다: Logs (로그) → 이벤트나 요청 내역을 기록 (디버깅에 유용) Metrics (지표) → 시스템 성능을 수치로 모니터링 Alarms (알람) → 특정 기준을 넘었을 때 알림 전송 Dashboards (대시보드) → 모니터링 정보를 시각화 👉 시험에 자주 나오는 포인트: CloudWatch Logs: 이벤트·로그 기록 CloudWatch Metrics: CPU, 메모리, 지연 시간 같은 성능 수치 CloudWatch Alarms: 기준치 초과 시 알림 CloudWatch Dashboards: 모니터링 결과 시각화 🔑 Bedrock + CloudWatch 연동1. 모델 호출(Invocation) 로깅 Bedrock...

🤖 Amazon Bedrock – Agents (에이전트)📌 에이전트란?Amazon Bedrock의 에이전트(Agents) 는 단순히 질문에 답변하는 모델이 아니라, 여러 단계를 계획하고 실행할 수 있는 고급 기능입니다.즉, 사람이 “생각하고 → 계획하고 → 행동하는” 과정을 흉내 내서 실제 작업까지 자동으로 수행할 수 있습니다. 에이전트는 단순 텍스트 생성 외에도 다음과 같은 일을 할 수 있습니다: AWS 인프라 생성 (서버, S3, Lambda 등) 애플리케이션 배포 자동화 데이터베이스/시스템 작업 수행 외부 API 및 사내 시스템 연동 🔑 Bedrock Agents 주요 특징 멀티스텝 작업 실행: 단순 질의응답이 아니라, 여러 단계를 거쳐 복잡한 업무를 수행 작업 순서 제어: 각 단계가 올바른 순서로 실행되고, 데이터가 단계 간 잘 전달됨 액션 그룹(Action Groups): API, Lambda 함수 등 미리 정의된 작업 단위를 사용 ...

🛡️ Amazon Bedrock – Guardrails (가드레일)📌 Guardrails란 무엇인가?Amazon Bedrock의 Guardrails(가드레일) 은 사용자가 입력한 내용과 모델이 생성하는 답변을 필터링하고 제어하는 안전장치입니다.즉, AI가 잘못된 답변이나 위험한 내용을 내놓지 않도록 보호막 역할을 합니다. 🔑 Guardrails 주요 기능 유해 콘텐츠 차단욕설, 혐오 표현, 성적인 내용, 폭력적인 내용 등을 자동으로 차단 특정 주제 제한민감하거나 허용하지 않은 주제(예: 의료 조언, 법률 상담, 레시피 등)는 답변하지 않도록 설정 개인정보 보호(PII)이메일, 전화번호, 주소 같은 개인정보를 자동 감지 후 마스킹 처리 환각(Hallucination) 줄이기모델이 근거 없는 답변을 하지 않도록 맥락 기반 사실 확인(grounding) 적용 금지어(Word Filter)직접 정의한 특정 단어·문구를 차단 정규식(Regex) 필터예: 신용카드 번호,...

📚 생성형 AI 핵심 개념 – 토큰화, 컨텍스트 윈도우, 임베딩이 세 가지는 생성형 AI(GenAI)의 기본 개념으로, 시험 문제에도 자주 등장하고 LLM(대규모 언어 모델)을 이해하는 데 꼭 필요합니다. 1. 🔹 토큰화(Tokenization)정의텍스트를 모델이 이해할 수 있는 작은 단위인 토큰(token) 으로 쪼개는 과정입니다.모델은 단어가 아니라 토큰 단위로 학습하고 추론합니다. 종류 단어 단위 토큰화 (Word-based) 문장을 단어 단위로 분리 예: "The cat sat" → ["The", "cat", "sat"] 서브워드 단위 토큰화 (Subword-based) 긴 단어나 잘 안 쓰이는 단어를 더 작은 의미 단위로 분리 예: "unacceptable" → "un" + "acceptable" 중요한 이유...

📚 Amazon Bedrock – RAG & 지식 베이스 설정이 문서는 Amazon Bedrock에서 RAG(Retrieval-Augmented Generation)파이프라인과 **지식 베이스(Knowledge Base)**를 설정하는 방법을 단계별로정리한 가이드입니다.스토리지는 Amazon S3, 벡터 데이터베이스는 Amazon OpenSearchServerless를 사용합니다. 1. 🔍 준비 사항 IAM 사용자 (루트 계정 ❌, IAM 계정 ✅) IAM 사용자에게 AdministratorAccess 정책 부여 필요한 AWS 서비스: Amazon Bedrock Amazon S3 Amazon OpenSearch Serverless (또는 외부 벡터 DB) 업로드할 문서 파일 (예: evolution_of_the_internet.pdf) 2. 🛠 단계별 설정Step 1 – IAM 사용자 만들기 IAM 콘솔 → 사용자 생성 사용자 이름 입력 (예: danny)...

📚 Amazon Bedrock – RAG & Knowledge Base1. 🔍 RAG란 무엇일까?RAG (Retrieval-Augmented Generation) 은 외부 데이터에서 정보를 검색(Retrieve) 하고 → 이를 프롬프트에 추가(Augment) 하여 → 모델이 더 정확한 답변을 생성(Generate) 하는 방법이에요. 검색(Retrieval): 모델이 학습하지 못한 최신 데이터나 특정 도메인 데이터를 가져와요. 증강(Augmentation): 검색한 데이터를 질문과 합쳐서 모델에 전달해요. 장점: 모델을 새로 학습(Fine-tuning)하지 않고도 최신 지식을 반영할 수 있어요. 2. 🏗 동작 방식 (Step-by-Step) 데이터 저장소 Amazon S3, Confluence, SharePoint, Salesforce, 웹사이트 등에 문서를 저장 벡터 임베딩 생성 Bedrock이 문서를 작은 조각으로 나누고 Amaz...

📊 Amazon Bedrock – 모델 평가 가이드Amazon Bedrock에서 Foundation Model (FM) 을 평가하는 과정은 단순히 성능 확인을 넘어서,👉 품질 관리, 👉 비즈니스 효과 측정, 👉 편향성(bias) 탐지 를 위해 꼭 필요합니다. Bedrock은 크게 자동 평가와 사람에 의한 평가 두 가지 방식을 제공하며,평가 시에는 기술적인 지표(ROUGE, BLEU 등) 와 비즈니스 지표(만족도, 매출 등) 를 함께 고려해야 합니다. 1. 🔄 자동 평가 (Automatic Evaluation)Bedrock이 직접 모델의 성능을 점수화해주는 방식입니다. 지원되는 기본 과제(Task) 텍스트 요약 (Summarization) 질문–답변 (Q&A) 텍스트 분류 (Classification) 자유 텍스트 생성 (Open-ended Generation) 작동 방식 평가용 데이터셋 준비 AWS가 제공하는 벤치마크 데이터 또는...

📚 Amazon Bedrock 파인튜닝 & 모델 선택1. 다양한 제공자와 모델 특징 대표 제공자(Providers): Anthropic, Amazon, DeepSeek, Stability AI 등 각 모델마다 잘하는 분야가 다름: Claude 3.5 Haiku → 텍스트 처리에 최적화 Amazon Nova Reel → 텍스트-영상, 이미지-영상 변환 💡 시험 포인트: 시험에서 “어떤 모델이 제일 좋은가?”를 묻지 않음 → 각 모델이 할 수 있는 것과 못 하는 것만 구분 2. 모델 비교하기 Bedrock Playground에서 여러 모델을 나란히 테스트 가능 비교 기준: ✅ 지원 기능 (텍스트, 이미지, 비디오) ✅ 출력 스타일/형식 ✅ 속도(지연 시간) ✅ 비용(토큰 사용량) 예시: Nova Micro → 이미지 업로드 불가 ❌, 대신 빠르고 간단한 답변 Claude 3.5 Sonnet → 이미지 지원 가능 ✅,...