프롬프트 엔지니어링 꿀팁: 할루시네이션 최소화하기

Laptop - 이미지 출처: Pixabay

인공지능(AI) 챗봇을 활용할 때 원하는 답변을 정확히 얻는 것은 단순한 질문을 던지는 것보다 훨씬 섬세한 기술이 필요합니다. 이를 "프롬프트 엔지니어링(Prompt Engineering)"이라고 합니다.

AI는 인간의 언어를 이해하는 것처럼 보이지만, 실제로는 입력된 프롬프트(명령문)에 따라 확률적으로 가장 적절한 답을 생성하는 방식으로 작동합니다. 따라서 어떻게 질문하느냐에 따라 답변의 품질이 크게 달라질 수 있습니다.

이번 글에서는 프롬프트 엔지니어링이 중요한 이유와 함께, AI의 대표적인 문제점인 "할루시네이션(Hallucination)"을 최소화하는 방법을 알아보겠습니다.

ChatGPT와 같은 AI는 사용자의 요청을 해석하고 그에 맞는 답을 생성합니다. 하지만, 프롬프트가 모호하거나 불충분하면 AI도 정확한 답변을 제공하기 어렵습니다.

예시 1: 모호한 질문 vs. 구체적인 질문

예시 2: 모호한 요청 vs. 명확한 요청

모호: "이메일 초안 좀 만들어 줘."
명확: "신규 고객을 위한 환영 이메일을 작성해 줘. 형식은 1) 인사말, 2) 서비스 소개, 3) 가입 혜택, 4) 마무리 문장으로 구성해 줘."

AI는 정확한 정보를 판단하는 것이 아니라 확률적으로 가장 적절한 문장을 생성하는 모델입니다. 이로 인해 AI가 사실과 다른 정보를 만들어내는 현상이 발생하는데, 이를 "할루시네이션"이라고 합니다.

예시: 잘못된 정보 생성 (할루시네이션 사례)

→ AI가 존재하지 않는 정보를 만들어낼 가능성이 높음

예시: 신뢰할 수 없는 출처 인용

→ AI가 가짜 논문 제목이나 존재하지 않는 출처를 만들어낼 가능성이 있음

예시: 하지 말아야 할 것들만 나열

→ AI가 하지 않아야 하는 것에 집중하는 경우가 있음. 작성해야 하는 이메일 내용을 구체적으로 지시하는 것이 바람직함.

① 신뢰할 수 있는 출처를 요구하기

AI가 임의로 정보를 만들어내는 것을 방지하려면, 출처가 있는 정보만 제공하도록 요청하는 것이 중요합니다.

예: 출처를 포함해 답변 요청하기 "2023년 기준으로 최신 AI 트렌드를 신뢰할 수 있는 출처와 함께 설명해 줘."

② 검증 가능한 방식으로 질문하기

너무 열린 질문보다는 사실을 검증할 수 있는 방식으로 질문하면 정확도가 높아집니다.

예: 열린 질문 vs. 검증 가능한 질문

③ AI가 모른다고 답할 수 있도록 유도하기

AI가 모르는 내용을 억지로 답변하지 않도록 요청하는 것도 좋은 방법입니다.

예: 모르면 모른다고 답하도록 설정하기 "정확한 정보가 없으면 모른다고 답해 줘. 2023년 기준으로 AI 기술 발전에 대한 최신 연구 결과를 알려줘."

AI는 강력한 도구지만, 제대로 활용하려면 사용자의 질문 방식이 중요합니다. 이번 글에서 소개한 방법들을 활용해 ChatGPT를 더욱 스마트하게 사용해 보세요.

일잘러의 AI 툴박스