Danny's Blog

💼 Amazon Q Business1. Amazon Q Business란? 기업 전용 생성형 AI 비서(Assistant) 회사 내부의 지식과 데이터를 기반으로 작동 주요 기능 사내 문서 기반 질의응답 요약, 콘텐츠 생성 반복 업무 자동화 (예: 휴가 신청, 회의 초대장 전송) 외부 시스템과 연동해 작업 수행 Amazon Bedrock 기반으로 동작하지만, 사용자가 FM(Foundation Model) 을 직접 선택할 수는 없음 👉 시험 포인트: Bedrock 위에서 돌아가지만, FM 선택 불가라는 점 기억하기. 2. 주요 구성 요소🔹 데이터 커넥터 (Managed RAG) 40개 이상의 엔터프라이즈 데이터 소스 연결 가능 AWS 서비스: S3, RDS, Aurora, WorkDocs 등 외부 서비스: Microsoft 365, Google Drive, Gmail, Slack, Salesforce, SharePoint 등 ...

💼 Amazon Q Business1. What is Amazon Q Business? A fully managed generative AI assistant for enterprises. Works based on a company’s internal knowledge and data. Key capabilities: Q&A based on company documents Summarization & content generation Automating routine tasks (e.g., time-off requests, meeting invites) Integration with external systems for real actions Runs on Amazon Bedrock, but users cannot choose the underlying Foundation Model (FM). 👉 Exam Tip: Remember th...

📝 Prompt Templates & Prompt Injection Protection📌 What Are Prompt Templates?Prompt templates are a way to simplify and standardize prompt generation so that inputs and outputs follow a consistent structure. Benefits Process user input text and feed it into foundation models (FMs). Orchestrate interactions between FMs, action groups, and knowledge bases. Format and return responses in a consistent way to the user. Improve performance using few-shot examples inside the template. I...

📝 프롬프트 템플릿과 보안 (Prompt Templates & Injection)📌 프롬프트 템플릿이란?프롬프트 템플릿은 프롬프트를 단순화하고 표준화하는 방법입니다.즉, 사용자가 입력한 내용을 일정한 구조에 맞춰 모델에 전달하도록 도와줍니다. 주요 특징 사용자 입력 처리 → 입력을 일정한 포맷으로 변환 FM(Foundation Model)과의 연계 → 액션 그룹, 지식 베이스와 연결 가능 일관된 출력 제공 → 사용자에게 항상 같은 형식으로 결과 제공 Few-Shot Prompting 활용 가능 → 예시를 포함시켜 모델 성능 개선 Bedrock Agent와 연동 가능 → 실제 애플리케이션 자동화에 사용 📖 프롬프트 템플릿 예시예를 들어, 영화 대본을 생성하는 템플릿을 만든다면: “당신은 영화 시나리오 전문가입니다.영화 대본 형식을 지키면서 간단한 장면을 작성하세요.” 여기서 영화 설명이나 요구사항 부분을 입력값으로 받아 템플릿에...

🎯 프롬프트 엔지니어링 기법 (Prompt Engineering Techniques)프롬프트 엔지니어링은 **생성형 AI(LLM)**이 원하는 방식으로 답변을 하도록 유도하는 핵심 기술입니다. 단순히 질문을 던지는 것이 아니라, 프롬프트를 설계·최적화하여 모델이 더 정확하고 일관된 결과를 내도록 만드는 과정이죠. AWS 자격증 시험에서도 종종 프롬프트 엔지니어링 기법(Zero-Shot, Few-Shot, Chain-of-Thought, RAG 등)이 언급되므로 꼭 이해해 두어야 합니다. 1️⃣ Zero-Shot Prompting (제로샷 프롬프트) 정의: 예시를 전혀 주지 않고, 모델의 일반 지식만 활용해 답변을 얻는 방식. 예시 프롬프트: “개가 미스터리를 해결하는 짧은 이야기를 써줘.” 응답: 모델이 스스로 개연성 있는 이야기를 생성. 👉 특징 대형 언어모델(LLM, Foundation Model)일수록 좋은 결과가 나옴. 시험 포인트:...

🎯 Prompt Engineering TechniquesUnderstanding different prompting techniques is essential for getting the most out of Large Language Models (LLMs). These concepts are also important for AWS certification exams, especially when dealing with Amazon Bedrock and generative AI. 1. 🔹 Zero-Shot PromptingDefinition:Present a task to the model without providing any examples or prior training for that specific task. Prompt Example: 1Write a short story about a dog that helps solve a mystery. Respons...

🤖 LLM Text Generation & Prompt Optimization1. How Text is Generated in an LLMWhen a model generates text, it predicts the next word based on probabilities. Example:“After the rain, the streets were…”Possible next words and probabilities: wet (0.40) flooded (0.25) slippery (0.15) empty (0.10) muddy (0.05) clean (0.03) blocked (0.02) The model randomly selects a word according to these probabilities. 2. Prompt Performance Optimization🔹 System Prompts Define how the mode...

📖 LLM에서 텍스트 생성 과정 & 프롬프트 최적화1️⃣ 텍스트 생성 원리LLM(대규모 언어 모델)은 다음 단어가 무엇일지 확률적으로 계산해서 문장을 만들어 갑니다.예를 들어,“After the rain, the streets were …” 뒤에 올 수 있는 후보 단어와 확률이 있다고 할 때: wet (0.40) flooded (0.25) slippery (0.15) empty (0.10) muddy (0.05) 모델은 이 확률을 기반으로 무작위 선택(random sampling) 하여 다음 단어를 생성합니다.즉, LLM의 출력은 항상 확률적이므로, 같은 질문을 여러 번 해도 결과가 조금씩 달라질 수 있습니다. 2️⃣ 프롬프트 성능 최적화 (Prompt Performance Optimization)Amazon Bedrock 같은 서비스에서는 출력 품질을 조절할 수 있는 여러 파라미터를 제공합니다. 🔹 System Prompt 모델이 어떤 역할을 해...

📘 Prompt EngineeringWhat is Prompt Engineering?Prompt Engineering is the process of designing, refining, andoptimizing prompts to guide a foundation model (FM) or large languagemodel (LLM) toward producing the best possible output for your needs. A naïve prompt gives little guidance and leaves interpretation up tothe model.Example: “Summarize what is AWS.”This works, but the answer may not be clear or focused. By contrast, Prompt Engineering uses a structured approach toimprove results. Com...

📝 프롬프트 엔지니어링 (Prompt Engineering)프롬프트 엔지니어링은 AI 모델이 더 정확하고 원하는 답변을 내도록 질문(프롬프트)을 설계하고 최적화하는 기술을 말합니다.단순히 “AWS를 요약해줘” 같은 질문을 던지는 것보다, 구체적으로 지시, 맥락, 입력 데이터, 출력 형식을 포함하면 훨씬 좋은 결과를 얻을 수 있습니다. 1. 기본 개념 (Naïve Prompt vs. 개선된 Prompt) Naïve Prompt (단순 프롬프트)예: “AWS를 요약해줘.”👉 모델이 알아서 답하긴 하지만, 원하는 수준의 답변이 아닐 수 있음. Prompt Engineering (프롬프트 엔지니어링)👉 프롬프트를 설계하고 개선하여 원하는 답변을 얻는 방법.👉 4가지 핵심 요소: Instructions (지시사항) – 모델이 어떤 일을 해야 하는지 (예: “요약문 작성”) Context (맥락) – 모델이 참고할 추가 정보 (예: “AWS 초보자를 가르치는 상황”) ...