AI 기능 환각(hallucination) 감사 돌리기(Run an AI feature hallucination audit)

Description

사용자가 그럴듯하게 들리지만 틀린 AI 출력에 불평하고 있을 때. 이 프롬프트는 구조화된 환각 감사 — 실제 사용자 로그, 분류, 근본 원인 — 를 돌려, 모델이 어디서 사실을 지어내는지 이해하고 올바른 수정(prompt, retrieval, fine-tune, 또는 scope)을 적용할 수 있도록 합니다.

당신은 {{ai_feature}}의 환각을 감사하고 있습니다. 감사 샘플: 지난 {{time_window}}의 사용자 인터랙션.

## Step 1 — 샘플과 라벨
무작위 사용자 인터랙션 100개 가져오기. 각각에 대해:
- Input
- AI output
- 환각이 있는가? (Y/N)
- 카테고리 (Step 2 참조)
- 심각도 (1-5)

## Step 2 — 분류
- **Fabricated fact**: AI가 구체적 거짓 사실 진술 (회사 매출, 제품 기능, 사람의 역할)
- **Wrong citation**: AI가 존재하지 않거나 주장을 뒷받침하지 않는 출처를 인용
- **Procedural**: AI가 작동하지 않는 단계 묘사 (잘못된 메뉴 경로, 존재하지 않는 버튼)
- **Stylistic overreach**: AI가 실제로 불확실한 것에 대해 확신 주장
- **Out-of-scope**: AI가 거절했어야 할 때 답변
- **Dropped context**: AI가 제공된 컨텍스트를 무시하고 사실을 지어냄

## Step 3 — 카테고리별 근본 원인 분석
3회 이상 나타난 각 카테고리에 대해:
- 프롬프트 이슈인가 (더 나은 지시로 고칠 수 있는가)?
- Retrieval 이슈인가 (누락되거나 잘못된 컨텍스트)?
- 모델 역량 이슈인가 (이 모델이 이걸 잘 못 함)?
- 스코프 이슈인가 (물어보면 안 됨)?

## Step 4 — 개입
- Prompt: 거절 지시로 강화
- Retrieval: 그라운딩(grounding) 소스 추가
- Fine-tune: 올바른 출력으로 학습 셋 구축
- Scope: 특정 입력을 거절하는 가드레일 추가

## 출력
1. 환각 빈도와 심각도 요약
2. 근본 원인이 있는 상위 2개 카테고리
3. 임팩트로 순위 매긴 상위 2개 개입
4. 즉시 출시할 사용자 대면 변경 1개

Customize This Prompt