(한국어) AWS Certified AI Practitioner (11) - CloudWatch

Created2025-08-20|Updated2025-08-21|CERTIFICATIONAWS_AI_PRACTITIONER_KR

|Post Views:

📊 Amazon Bedrock & CloudWatch

📌 CloudWatch란?

Amazon CloudWatch는 AWS 리소스와 애플리케이션을 모니터링하는 서비스입니다.
CloudWatch는 다음과 같은 기능을 제공합니다:

Logs (로그) → 이벤트나 요청 내역을 기록 (디버깅에 유용)
Metrics (지표) → 시스템 성능을 수치로 모니터링
Alarms (알람) → 특정 기준을 넘었을 때 알림 전송
Dashboards (대시보드) → 모니터링 정보를 시각화

👉 시험에 자주 나오는 포인트:

CloudWatch Logs: 이벤트·로그 기록
CloudWatch Metrics: CPU, 메모리, 지연 시간 같은 성능 수치
CloudWatch Alarms: 기준치 초과 시 알림
CloudWatch Dashboards: 모니터링 결과 시각화

🔑 Bedrock + CloudWatch 연동

1. 모델 호출(Invocation) 로깅

Bedrock이 실행될 때 입력과 출력 전부를 기록합니다.
기록 가능한 데이터:
- 텍스트 입력/출력
- 이미지
- 임베딩(Embedding) 데이터
로그 저장 위치:
- CloudWatch Logs → 실시간 모니터링
- Amazon S3 → 장기 저장용

장점

모든 모델 사용 내역 추적 가능
오류나 지연 시간 문제 분석
CloudWatch Logs Insights로 실시간 쿼리 및 분석

2. CloudWatch Metrics (지표)

Bedrock은 성능 관련 지표를 CloudWatch에 보냅니다.
주요 지표 예시:
- Invocation Count: 호출 횟수
- Invocation Latency: 응답 지연 시간
- Token Usage: 토큰 사용량
- ContentFilteredCount: Guardrails(안전장치)가 콘텐츠를 차단한 횟수

장점

모델 성능을 시간별로 추적 가능
지연 시간 스파이크(급증) 파악
Guardrails 동작 여부 확인
CloudWatch Alarms을 통해 SLA(서비스 수준 계약) 보장

⚙️ 실제 동작 흐름 (Workflow)

Invocation Logging 활성화
- Bedrock 콘솔에서 CloudWatch/S3 대상 선택
- 로그 그룹 생성 (예: BedrockInvocationLogs)
- IAM Role 연결
모델 호출 실행
- 예시: Amazon.Titan-Text-Express-V1 모델이 텍스트 처리
- 로그에는 다음이 기록됨:
  - 모델 ID
  - 리전(region)
  - 입력·출력 토큰 수
  - 응답 지연 시간 (예: 4,038ms)
CloudWatch 모니터링
- Logs: 상세 호출 내역 디버깅
- Metrics: 지연 시간 그래프 확인
- Alarms: 지연 시간 5초 초과 시 알림 전송

📝 요약표

기능	설명	예시
Invocation Logging	모든 입력/출력 기록	CloudWatch Logs, S3 저장
지원 데이터	텍스트, 이미지, 임베딩	사용자 요청 디버깅
Logs Insights	실시간 로그 분석	지연 시간 급증 추적
Metrics	성능 지표 수집	호출 수, 토큰 수, 지연 시간
ContentFilteredCount	Guardrail 차단 횟수	위험 콘텐츠 차단 모니터링
Alarms	기준 초과 시 알림	지연 시간 5초 초과 시 경고

✅ 왜 중요한가?

투명성 → 모델이 어떻게 사용되는지 추적 가능
신뢰성 → 성능 문제를 조기 감지
보안·컴플라이언스 → Guardrail 동작 확인 가능
최적화 → 토큰/호출 패턴 분석으로 비용 최적화 가능

👉 한 줄 정리:
Amazon Bedrock + CloudWatch를 연동하면 AI 모델 사용 현황을 실시간 추적하고, 성능 지표를 모니터링하며, 알람을 통해 안정적인 서비스 운영이 가능합니다.

📌 시험 대비 포인트

CloudWatch Logs vs S3 → Logs는 실시간 분석, S3는 장기 저장
ContentFilteredCount → Bedrock Guardrails 관련 지표
Alarms 설정 → 시험 문제에서 “지연 시간이 5초 초과하면 알림 받기” 같은 시나리오 자주 출제됨

Author: Danny Ki

Link: https://kish191919.github.io/2025/08/20/KO-AWS-Certified-AI-Practitioner-11/

Copyright Notice: All articles on this blog are licensed under CC BY-NC-SA 4.0 unless otherwise stated.

AWS AWS_AI_PRACTITIONER KOREAN

Related Articles

(한국어) AWS Certified AI Practitioner (1) - IT & AWS 기초

📚 IT & AWS 기초 요약1. 기본 IT 용어 네트워크(Network): 케이블, 라우터, 서버 등이 연결되어 데이터가 오가는 길. 라우터(Router): 인터넷에서 데이터를 어디로 보낼지 길잡이 역할을 하는 장치. 스위치(Switch): 네트워크 안에서 데이터가 정확한 서버나 컴퓨터로 가도록 도와주는 장치. 2. 클라우드 컴퓨팅의 5가지 핵심 특징 즉시 자원 사용(On-demand self service) → 필요한 자원을 바로 얻을 수 있음. 넓은 네트워크 접근(Broad network access) → 인터넷만 있으면 여러 기기에서 접근 가능. 자원 공유(Multi-tenancy & Resource pooling) → 여러 사용자가 안전하게 같은 자원 공유. 빠른 확장성(Rapid elasticity & Scalability) → 필요에 따라 서버나 자원을 늘리거나 줄일 수 있음. 사용량 기반 과금(Measur...

(한국어) AWS Certified AI Practitioner (10) - Agents (에이전트)

🤖 Amazon Bedrock – Agents (에이전트)📌 에이전트란?Amazon Bedrock의 에이전트(Agents) 는 단순히 질문에 답변하는 모델이 아니라, 여러 단계를 계획하고 실행할 수 있는 고급 기능입니다.즉, 사람이 “생각하고 → 계획하고 → 행동하는” 과정을 흉내 내서 실제 작업까지 자동으로 수행할 수 있습니다. 에이전트는 단순 텍스트 생성 외에도 다음과 같은 일을 할 수 있습니다: AWS 인프라 생성 (서버, S3, Lambda 등) 애플리케이션 배포 자동화 데이터베이스/시스템 작업 수행 외부 API 및 사내 시스템 연동 🔑 Bedrock Agents 주요 특징 멀티스텝 작업 실행: 단순 질의응답이 아니라, 여러 단계를 거쳐 복잡한 업무를 수행 작업 순서 제어: 각 단계가 올바른 순서로 실행되고, 데이터가 단계 간 잘 전달됨 액션 그룹(Action Groups): API, Lambda 함수 등 미리 정의된 작업 단위를 사용 ...

(한국어) AWS Certified AI Practitioner (14) - 프롬프트 엔지니어링

📝 프롬프트 엔지니어링 (Prompt Engineering)프롬프트 엔지니어링은 AI 모델이 더 정확하고 원하는 답변을 내도록 질문(프롬프트)을 설계하고 최적화하는 기술을 말합니다.단순히 “AWS를 요약해줘” 같은 질문을 던지는 것보다, 구체적으로 지시, 맥락, 입력 데이터, 출력 형식을 포함하면 훨씬 좋은 결과를 얻을 수 있습니다. 1. 기본 개념 (Naïve Prompt vs. 개선된 Prompt) Naïve Prompt (단순 프롬프트)예: “AWS를 요약해줘.”👉 모델이 알아서 답하긴 하지만, 원하는 수준의 답변이 아닐 수 있음. Prompt Engineering (프롬프트 엔지니어링)👉 프롬프트를 설계하고 개선하여 원하는 답변을 얻는 방법.👉 4가지 핵심 요소: Instructions (지시사항) – 모델이 어떤 일을 해야 하는지 (예: “요약문 작성”) Context (맥락) – 모델이 참고할 추가 정보 (예: “AWS 초보자를 가르치는 상황”) ...

(한국어) AWS Certified AI Practitioner (15) - LLM에서 텍스트 생성 과정 & 프롬프트 최적화

📖 LLM에서 텍스트 생성 과정 & 프롬프트 최적화1️⃣ 텍스트 생성 원리LLM(대규모 언어 모델)은 다음 단어가 무엇일지 확률적으로 계산해서 문장을 만들어 갑니다.예를 들어,“After the rain, the streets were …” 뒤에 올 수 있는 후보 단어와 확률이 있다고 할 때: wet (0.40) flooded (0.25) slippery (0.15) empty (0.10) muddy (0.05) 모델은 이 확률을 기반으로 무작위 선택(random sampling) 하여 다음 단어를 생성합니다.즉, LLM의 출력은 항상 확률적이므로, 같은 질문을 여러 번 해도 결과가 조금씩 달라질 수 있습니다. 2️⃣ 프롬프트 성능 최적화 (Prompt Performance Optimization)Amazon Bedrock 같은 서비스에서는 출력 품질을 조절할 수 있는 여러 파라미터를 제공합니다. 🔹 System Prompt 모델이 어떤 역할을 해...

(한국어) AWS Certified AI Practitioner (16) - 프롬프트 엔지니어링 기법

🎯 프롬프트 엔지니어링 기법 (Prompt Engineering Techniques)프롬프트 엔지니어링은 **생성형 AI(LLM)**이 원하는 방식으로 답변을 하도록 유도하는 핵심 기술입니다. 단순히 질문을 던지는 것이 아니라, 프롬프트를 설계·최적화하여 모델이 더 정확하고 일관된 결과를 내도록 만드는 과정이죠. AWS 자격증 시험에서도 종종 프롬프트 엔지니어링 기법(Zero-Shot, Few-Shot, Chain-of-Thought, RAG 등)이 언급되므로 꼭 이해해 두어야 합니다. 1️⃣ Zero-Shot Prompting (제로샷 프롬프트) 정의: 예시를 전혀 주지 않고, 모델의 일반 지식만 활용해 답변을 얻는 방식. 예시 프롬프트: “개가 미스터리를 해결하는 짧은 이야기를 써줘.” 응답: 모델이 스스로 개연성 있는 이야기를 생성. 👉 특징 대형 언어모델(LLM, Foundation Model)일수록 좋은 결과가 나옴. 시험 포인트:...

(한국어) AWS Certified AI Practitioner (17) - 프롬프트 템플릿과 보안

📝 프롬프트 템플릿과 보안 (Prompt Templates & Injection)📌 프롬프트 템플릿이란?프롬프트 템플릿은 프롬프트를 단순화하고 표준화하는 방법입니다.즉, 사용자가 입력한 내용을 일정한 구조에 맞춰 모델에 전달하도록 도와줍니다. 주요 특징 사용자 입력 처리 → 입력을 일정한 포맷으로 변환 FM(Foundation Model)과의 연계 → 액션 그룹, 지식 베이스와 연결 가능 일관된 출력 제공 → 사용자에게 항상 같은 형식으로 결과 제공 Few-Shot Prompting 활용 가능 → 예시를 포함시켜 모델 성능 개선 Bedrock Agent와 연동 가능 → 실제 애플리케이션 자동화에 사용 📖 프롬프트 템플릿 예시예를 들어, 영화 대본을 생성하는 템플릿을 만든다면: “당신은 영화 시나리오 전문가입니다.영화 대본 형식을 지키면서 간단한 장면을 작성하세요.” 여기서 영화 설명이나 요구사항 부분을 입력값으로 받아 템플릿에...