> ## Documentation Index
> Fetch the complete documentation index at: https://zerok-b6ccbc45.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

# AI도 거짓말을 합니다

> 그럴듯한 틀린 답, 환각을 알아보는 법

AI는 모르는 것도 **아는 것처럼 자신 있게** 말할 때가 있습니다. 이런 현상을 **환각**(영어로 hallucination)이라고 부릅니다. AI를 쓰는 모든 사람이 꼭 알아야 할 내용입니다.

## 실제로 일어난 일

이 사이트를 만들면서 AI에게 초등학생용 태양계 퀴즈를 내 달라고 했습니다. 결과는 이렇습니다.

![Gemini가 만든 태양계 퀴즈 화면. 오른쪽 퀴즈 창의 1번 문제 '태양에서 가장 가까운 첫 번째 행성은?'의 보기가 A 화성, B 수성, C 금성, D 지구인데, 왼쪽 정답 및 해설에는 '정답: 1번 (수성)'이라고 적혀 있습니다.](https://mintcdn.com/zerok-b6ccbc45/Z59m96l5mwIO4Z_b/images/safety/quiz-wrong-answer.png?fit=max\&auto=format\&n=Z59m96l5mwIO4Z_b\&q=85\&s=3c2bc12fbc58ec9e7cc93546c33c4723)

보기에서 수성은 B인데, 왼쪽 정답표에는 '정답: 1번(수성)'이라고 적혀 있습니다. 1번(A)은 화성입니다.

"수성"이라는 답 자체는 맞습니다. 하지만 **번호가 틀렸습니다.** 아이가 이 퀴즈로 공부했다면 헷갈렸을 겁니다. 이런 실수는 아주 흔합니다.

## 왜 이런 일이 생기나요?

[LLM이 뭔가요?](https://zerok-b6ccbc45.mintlify.site/basics/what-is-llm.md)에서 배운 것처럼, AI는 \*\*"다음에 올 자연스러운 말"\*\*을 이어 붙여 답을 만듭니다.

* AI의 목표는 **자연스러운 문장**이지, **사실 확인**이 아닙니다
* 그래서 모르는 내용도 그럴듯한 말로 채워 넣을 수 있습니다
* 틀린 답도 맞는 답과 **똑같이 자신 있는 말투**로 말합니다

> [!NOTE]
>
> AI 서비스 화면 아래에는 대부분 "AI는 실수를 할 수 있습니다" 같은 안내가 적혀 있습니다. 만든 회사도 이 문제를 알고 있다는 뜻입니다.

## 특히 조심해야 할 답

| 종류 | 예시 | 왜 위험한가 |
| - | - | - |
| **숫자, 계산** | 금액, 퍼센트, 합계 | 그럴듯한 숫자를 지어낼 수 있습니다 |
| **날짜, 최신 소식** | 행사 일정, 요즘 정책 | 배운 뒤에 바뀐 것을 모릅니다 |
| **출처, 인용** | "○○ 논문에 따르면", 책 제목 | 없는 책이나 기사를 만들어 낼 수 있습니다 |
| **사람 정보** | 유명인 경력, 동네 가게 정보 | 다른 사람과 섞거나 지어냅니다 |
| **건강, 법, 돈** | 약 복용법, 세금, 계약 | 틀리면 피해가 큽니다 |
| **장소 정보** | 영업시간, 교통편, 입장료 | 바뀌었거나 틀렸을 수 있습니다 |

## 확인하는 습관 네 가지

**1. 중요한 건 한 번 더 찾아보기**

돈, 건강, 법, 일정처럼 **틀리면 곤란한 정보**는 공식 사이트, 기관, 전문가에게 확인합니다.

**2. 출처를 물어보기**

"이 내용의 출처를 알려 주세요"라고 묻습니다. 출처가 나오면 **그 링크를 직접 열어** 정말 그런 내용이 있는지 봅니다. AI가 알려 준 출처 자체가 가짜일 수 있습니다.

**3. AI에게 다시 확인시키기**

"방금 답에 틀린 부분이 없는지 다시 확인해 주세요"라고 하면 스스로 실수를 찾는 경우가 많습니다. 위 퀴즈도 이렇게 물으면 번호를 고칩니다.

**4. 다른 AI에게도 물어보기**

같은 질문을 다른 서비스에도 해 봅니다. 답이 다르면 둘 중 하나는 틀렸다는 신호입니다.

## 모르면 모른다고 하게 만들기

질문할 때 이렇게 덧붙이면 지어내는 일이 줄어듭니다.

```text wrap theme={null}
확실하지 않은 내용은 "확실하지 않음"이라고 표시해 주세요. 모르면 모른다고 말해 주세요.
```

> [!TIP]
>
> 이 말을 매번 쓰기 번거롭다면 [기억과 프로젝트 기능](https://zerok-b6ccbc45.mintlify.site/beyond/memory-and-projects.md)에서 배우는 **맞춤 설정**에 한 번만 적어 두면 됩니다.

## 그래도 AI를 써도 되나요?

**됩니다.** 사람도 틀립니다. 중요한 것은 AI를 **믿되 확인하는 것**입니다.

* **초안, 아이디어, 설명:** 틀려도 큰 문제가 없으니 편하게 쓰세요
* **사실, 숫자, 결정:** AI를 출발점으로 쓰고, 마지막 확인은 직접 하세요

## 직접 해 보기

AI에게 이렇게 물어보고, 알려 준 책이 **실제로 있는지** 인터넷 서점에서 검색해 보세요.

```text wrap theme={null}
조선 시대 요리에 관한 한국어 책 세 권을 저자와 출판사와 함께 알려 주세요.
```

없는 책이 섞여 있다면 환각을 직접 본 것입니다.

## 다음으로

> [card] [개인정보 지키기](https://zerok-b6ccbc45.mintlify.site/safety/privacy.md)
>
> AI에게 말하면 안 되는 것들.


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.