[GCP Associate Cloud Engineer] Google Cloud Prompt Engineering Guide

 

Generative AI: 사용자가 제공하는 입력을 기반으로 텍스트, 이미지 등 다양한 콘텐츠를 생성하는 AI의 하위 집합으로 2021년 이후 급격히 대중화되었으며, 의료, 금융, 소프트웨어 개발, 고객 서비스 등 여러 산업에서 사용된다.

이는 데이터의 패턴과 구조를 학습한 후 유사한 특성을 가진 새로운 데이터를 생성한다.

 

LLM(Large Language Models): 주로 언어 작업에 초점을 맞춘 Generative AI 모델의 하위 범주록 대규모 데이터셋과 수십억~수조 개의 매개변수로 훈련된다. 여기서 크다는 것은 훈련 데이터 사이트의 크기가 크다는 뜻이다.

다만, LLM은 실시간 정보에 액세스할 수 없고 프롬프트에서 명시적으로 제공된 정보만 이해한다.

LLM은 Pre-trained후 Fine-tuned과정을 거치는데 이는 일반적 언어 작업 후 특정 작업에 맞게 세부 조정하는 과정이다.

 

프롬프트: 특정 작업이나 응답을 시작하기 위해 컴퓨터 프로그램이나 사용자에게 특정한 지시, 질문 또는 제공되는 것으로 생성형 인공지능을 효과적으로 활용하기 위해서 프롬프트에 중점을 둬야 한다.

 

LLM이 비논리적이거나 잘못된 정보를 생성하는 현상을 할루시네이션이라고 하는데 이는 충분한 데이터로 학습되지 않고, 학습 데이터에 노이즈가 포함되거나, 제공된 프롬프트에 맥락이 부족 혹은 적절한 제약 조건이 주어지지 않았을 경우 발생한다.

Prompt Engineering

최적의 결과를 얻기 위해 모델에 대한 입력을 설계하는 방법으로 다음과 같은 유형이 있다.

 

 - Zero-shot Prompts: 예제 없이 질문만 제공

예: "프랑스의 수도는 무엇인가?"

 

 - One-shot Prompts: 단일 예제 포함

예: "이탈리아의 수도는 로마다. 프랑스의 수도는 무엇인가?"

 

 - Few-shot Prompts: 여러 예제 포함

예: "이탈리아-로마, 일본-도쿄. 프랑스의 수도는 무엇인가?"

 

 - Role Prompts: 역할 정의 포함

예: "비즈니스 교수로서 질문에 답하세요. 프랑스의 수도는 무엇인가?"

 

Prompt 구성 요소

 - Preamble: 문맥과 지침을 제공하는 것으로 모델이 작업을 더 잘 이해하도록 설정한다.

예: "당신은 클라우드 아키텍트입니다. VPC 네트워크를 설계하십시오."

 

 - Input: 주요 요청을 뜻한다.

예: "IPV4 및 IPV6 주소를 사용하는 네트워크를 어떻게 만드나요?"

 

Prompt Engineering을 잘 하기 위해서는 상세하고 명확한 지침을 작성하여 모호함에서 발생하는 부정확한 결과를 줄이도록 한다. 그리고 무엇을 해야 하는지 지시하여, 무엇을 하지 말아야 하는지는 와 같은 표현은 지양하는 것이 좋다.

:

만약 모델이 확신이 없을 때 사용할 기본 응답인 Fallback Outputs을 제공한다.

그리고 모델을 특정 역할에 특화되게 페르소나를 설정하여 정확성을 향상시킬 수 있다.