Danny's Blog

🧠 생성형 AI & Amazon Bedrock1. 생성형 AI란? Generative AI (생성형 AI): 학습한 데이터를 바탕으로 새로운 데이터를 만들어내는 AI. 만들 수 있는 것들: 텍스트, 이미지, 오디오, 코드, 비디오 예시: ChatGPT가 사람처럼 대화 문장을 만들어내는 것. 2. 파운데이션 모델(Foundation Models, FM) 대규모 데이터로 학습된 초거대 AI 모델. 개발 비용이 매우 큼 (수백억~수천억 원). 대표 모델: OpenAI → GPT 시리즈 Meta → LLaMA Google → BERT, Gemini Amazon → Titan Anthropic → Claude 오픈소스(무료)와 상용(유료) 모델이 있음. 3. 대규모 언어 모델(LLM) 텍스트 생성에 특화된 AI. 수십억 개 이상의 파라미터. 활용: 번역, 요약, Q&A, 글쓰기 4. 언어 모델 동작 방식 사용자가 프롬프트...

💰 AWS 비용 & 예산 관리1. IAM 사용자 접근 설정 AWS에서 비용과 결제(Billing & Cost Management) 화면을 보려면,단순히 계정만 있다고 바로 볼 수 있는 게 아니에요. 관리자(Admin) 가 먼저 설정에서👉 “IAM 사용자 및 역할이 Billing 정보에 접근할 수 있도록 허용” 옵션을 켜줘야 합니다. 이렇게 해야 IAM 사용자도 비용 내역을 확인할 수 있습니다. 2. 주요 비용 관리 도구 Bills (청구서)→ 매달 AWS가 어떤 서비스에서 얼마를 썼는지 상세 내역을 보여줍니다. Free Tier (프리 티어)→ 신규 계정에 제공되는 무료 사용량이 얼마나 남았는지 확인할 수 있습니다.💡 예: EC2 750시간 무료, S3 5GB 저장 무료 등 Budgets (예산 관리)→ 내가 설정한 금액을 초과하면 이메일로 알림을 줍니다.💡 예: 한 달 예산을 10달러로 정해두고, 예상 사용량이 10달러를 ...

📚 IT & AWS 기초 요약1. 기본 IT 용어 네트워크(Network): 케이블, 라우터, 서버 등이 연결되어 데이터가 오가는 길. 라우터(Router): 인터넷에서 데이터를 어디로 보낼지 길잡이 역할을 하는 장치. 스위치(Switch): 네트워크 안에서 데이터가 정확한 서버나 컴퓨터로 가도록 도와주는 장치. 2. 클라우드 컴퓨팅의 5가지 핵심 특징 즉시 자원 사용(On-demand self service) → 필요한 자원을 바로 얻을 수 있음. 넓은 네트워크 접근(Broad network access) → 인터넷만 있으면 여러 기기에서 접근 가능. 자원 공유(Multi-tenancy & Resource pooling) → 여러 사용자가 안전하게 같은 자원 공유. 빠른 확장성(Rapid elasticity & Scalability) → 필요에 따라 서버나 자원을 늘리거나 줄일 수 있음. 사용량 기반 과금(Measur...

📘 Amazon Bedrock – Pricing & Model Improvement1️⃣ Pricing Options🔹 On-Demand (Pay-as-you-go) How it works: Pay only for what you use, like an electricity bill. Pricing basis Text Models → Input/Output token count Embedding Models → Input token count Image Models → Number of images generated Available Models: Base Models only ✅ Pros: Flexible, good for unpredictable workloads ❌ Cons: Can become expensive if used continuously over time 🔹 Batch Mode (Bulk processing, ...

📘 Amazon Bedrock – Pricing & Model Improvement1️⃣ Pricing Options🔹 On-Demand (즉시 사용, 사용량만큼 결제) 방식: 전기요금처럼 쓴 만큼만 지불 (Pay-as-you-go) 요금 기준 텍스트 모델 → 입력/출력 토큰 수 임베딩 모델 → 입력 토큰 수 이미지 모델 → 생성된 이미지 수 사용 가능 모델: Base Models 전용 ✅ 장점: 유연성, 사용량 예측이 어려운 경우 적합 ❌ 단점: 장기간 사용 시 비용 부담 ↑ 🔹 Batch Mode (묶음 처리, 최대 50% 할인) 방식: 여러 요청을 한 번에 묶어서 처리 → 결과는 Amazon S3에 단일 파일 저장 할인 혜택: 최대 50% 저렴 ✅ 장점: 대량 처리에 유리, 비용 절감 효과 큼 ❌ 단점: 실시간 응답 불가, 결과 지연 발생 적합 상황: 즉각적인 응답 필요 없고, 대량 요청을 처리할 때 🔹...

📊 Amazon Bedrock & CloudWatch📌 What is CloudWatch?Amazon CloudWatch is a monitoring service for AWS resources and applications.It provides: Logs – Detailed records of events and invocations Metrics – Numerical measurements of system performance Alarms – Notifications when thresholds are crossed Dashboards – Visualizations for monitoring 🔑 Bedrock & CloudWatch Integration1. Model Invocation Logging Logs all inputs and outputs from Bedrock model invocations. Data can inclu...

🤖 Amazon Bedrock – Agents📌 What Are Agents?Agents in Amazon Bedrock are advanced components that can think, plan, and act on multi-step tasks.Unlike regular models that only provide answers, agents can perform real actions such as: Provisioning infrastructure Deploying applications Executing operations on systems Interacting with APIs, databases, and knowledge bases 🔑 Key Features of Bedrock Agents Multi-step task execution: Agents can follow a sequence of steps to complete...

🛡️ Amazon Bedrock – Guardrails📌 What Are Guardrails?Guardrails in Amazon Bedrock are a way to control and filter interactions between users and Foundation Models (FMs).They help ensure that AI responses are safe, reliable, and compliant with your requirements. 🔑 Key Features of Guardrails Filter harmful content: Block hate speech, insults, sexual, violent, or misconduct content. Block specific topics: Deny responses related to sensitive or restricted subjects (e.g., recipes, medic...

📚 GenAI Core Concepts – Tokenization, Context Window, EmbeddingsThese are foundational concepts in Generative AI.They appear frequently in exams and are critical to understanding how LLMs work. 1. 🔹 TokenizationDefinitionThe process of converting raw text into a sequence of smaller units called tokens.Tokens are what the model processes internally. Types of Tokenization Word-based tokenization Splits text into words. Example: "The cat sat" → ["The", "cat", ...

📚 Amazon Bedrock – Setting up RAG & Knowledge Base (Hands-on)This guide explains how to set up a Retrieval-Augmented Generation (RAG) pipeline and a Knowledge Base in Amazon Bedrock, using Amazon S3 for storage and Amazon OpenSearch Serverless as the vector database. 1. 🔍 Prerequisites IAM User (not root user) Administrator Access policy for the IAM user AWS services: Amazon Bedrock Amazon S3 Amazon OpenSearch Serverless (or external vector DB) PDF or text document to upload (e.g., e...