[BOOK REVIEW] 왜 내가 쓰는 AI만 멍청해 보일까?

생능북스 출판사의 서평단 활동으로
제공받은 도서를 읽고 솔직하게 작성한 리뷰입니다.

---

📚 책 소개

오늘 소개할 책은 왜 내가 쓰는 AI만 멍청해 보일까? (이한빛) 이다.

 

📍 책 선택 이유

 AI 엔지니어로 일하면서 프롬프트를 작성하고 LLM의 응답을 개선하는 업무를 자주 하다 보니 같은 모델을 사용하더라도 어떻게 질문하고 맥락을 구성하느냐에 따라 결과의 품질이 크게 달라진다는 것을 체감하고 있다. 원하는 답변이 나오지 않을 때 조건을 추가하거나 표현을 바꾸며 프롬프트를 수정해왔지만 경험에 의존해 문제를 해결하는 경우가 많아 프롬프트를 좀 더 체계적으로 설계하는 방법을 배우고 싶다는 생각이 있었다.

 내가 하는 업무에서는 사용자의 요청과 여러 규칙을 함께 반영해야 하고 같은 프롬프트를 사용해도 모델에 따라 지시사항을 따르는 정도나 답변의 형태가 달라지는 경우가 많다. 최근에는 Claude Code, Codex와 같은 AI Agent를 활용한 개발에도 관심을 가지면서 AI에게 내 의도를 정확하게 전달하고 원하는 결과까지 이끌어내는 능력이 앞으로 더욱 중요해질 것이라고 느꼈다.

 그러던 중 '왜 내가 쓰는 AI만 멍청해 보일까?'를 접하게 되었다. 책에서 이야기하는 AI가 멍청한 것이 아니라 질문의 설계에서 전체가 빠졌을 가능성이 있다는 관점이 흥미로웠다. AI가 답변을 만들어내는 원리를 이해하고 의도를 정교하게 전달하는 질문 설계 방법과 원하는 결과에 도달하기 위한 대화 방식을 배울 수 있다는 점도 현재의 고민과 잘 맞았다.

 평소 시행착오를 거치며 익혀온 프롬프트 작성 방식을 점검하고 AI와 더 효과적으로 소통하기 위한 질문 설계의 기준을 만들어보고 싶어 이 책을 선택하게 되었다.

 

🔎 목차

 

책의 목차는 위와 같다.

 

추천사-AI가 먼저 읽어봤습니다
프롤로그-같은 AI를 쓰는데 왜 나만 바보 같을까?

1장 왜 같은 AI를 써도 결과가 다를까?
01 실패사례1: 존재하지 않는 논문은 어떻게 만들어졌을까?
02 실패사례2: ‘보고서처럼’이라는 말에는 기준이 없었다
03 AI가 멍청해 보이는 이유
04 우리는 생각보다 설명을 잘 못한다
05 말하지 않은 것이 답의 방향을 정한다

2장 AI에 대한 흔한 오해들
06 결과 차이는 정말 성능 때문일까?
07 맞춤 설정이 성능을 바꾸는 걸까?
08 우리는 AI와 대화하고 있을까?

3장 우리는 무엇을 말하지 않았을까?
09 프롬프트는 질문이 아니라 조건이다
10 왜 우리는 설명이 충분하다고 착각했을까?
11 AI의 보편적인 답변은 어떻게 만들어지는가?

4장 평균은 당신의 사고를 움직인다
12 우리는 스스로 선택했다고 믿는다
13 기본값은 왜 이렇게 강한가?
14 설명의 공백은 위임이다
15 책임은 어디로 가는가?

5장 설명은 설계되어야 한다
16 상태를 말하면 답이 달라진다
17 목적과 제약이 답의 범위를 정한다
18 단계적으로 요청해야 평균을 벗어난다
19 프롬프트가 아니라 설명 엔지니어링

6장 이제, 당신의 설계를 증명할 차례다
20 레벨 테스트: 당신은 몇 점짜리 설계자인가
21 성공사례1: 직장인 사이드 프로젝트 아이디어 얻는 법
22 성공사례2: 완성도 높은 보고서를 만드는 법
23 성공사례3: AI 환각 없이 논문 찾는 법
24 이제 당신은 설계자다

에필로그-AI가 행동하기 시작한 시대
Appendix-이 책의 관찰 조건

 

👏🏻 책의 특징 및 차별점

[어려운 AI 개념을 쉽고 흥미롭게 이해할 수 있는 전개]

 AI의 구조와 학습 방식처럼 어렵게 느껴질 수 있는 내용을 다루고 있지만, 전문적인 배경지식이 없어도 이해할 수 있을 정도로 쉽고 흥미롭게 설명한다. 인간의 대화 방식과 대화 심리학에서 시작해 AI의 UI, 구조, 답변 생성 방식, 학습 방식으로 차근차근 범위를 넓혀가며 왜 우리는 AI가 멍청하다고 느끼는지를 하나씩 풀어나가는 전개 방식이 특히 좋았다.

 각 내용이 자연스럽게 다음 내용으로 이어지는 구성도 인상적이었다. 하나의 목차가 끝날 때쯤 새로운 질문이나 궁금증을 던지고 그에 대한 답을 다음 목차에서 설명하는 방식이라 흐름이 끊기지 않았다. 덕분에 AI라는 다소 어려운 주제를 다루는 책임에도 재미있고 빠르게 읽을 수 있었다.

 책을 읽는 동안에는 자연스럽게 지금까지 내가 작성했던 프롬프트도 떠올랐다. 어떤 프롬프트에서는 원하는 답변을 얻을 수 있었던 이유가 무엇이었는지 반대로 어떤 부분이 부족했기 때문에 엉뚱한 결과가 나왔는지를 책의 설명에 대입하며 읽을 수 있었다. 실제로 후반부에는 최근 작성한 프롬프트를 이러한 관점에서 분석하는 내용까지 등장해 앞에서 배운 내용을 다시 정리해볼 수 있었다.

 

[어떤 상황에도 적용할 수 있는 구체적인 프롬프트 설계 방법론]

 책에서 가장 인상 깊었던 내용 중 하나는 AI에게 원하는 답변을 얻지 못하는 원인을 '공백'이라는 관점에서 설명한 부분이었다. 사용자가 충분한 맥락이나 조건을 제공하지 않으면 AI는 비어 있는 부분을 일반적인 답으로 채우게 되고 그 결과 사용자는 AI가 자신의 의도를 제대로 이해하지 못한다고 느끼게 된다는 것이다.

 우리는 AI가 제시한 답변을 보고 최종 선택은 자신이 한다고 생각하기 쉽지만, 실제로는 AI가 먼저 제시한 선택지와 조건 안에서 판단하고 있을 수 있다는 설명도 인상적이었다. 결국 AI에게 어떤 정보를 제공하고 무엇을 맡기며 어떤 조건을 사용자가 직접 정의할 것인지가 결과의 품질에 큰 영향을 미친다는 것이다.

 책에서는 이러한 문제를 해결하기 위해 STATE(3W), PURPOSE, CONSTRAINT, REQUEST, 3S와 같이 실제 프롬프트 작성에 활용할 수 있는 구체적인 방법론을 설명 엔지니어링이라는 용어로 다양한 예시와 함께 소개한다. 각각의 요소를 따라가다 보면 프롬프트에서 어떤 정보가 빠져 있는지 확인하고 자신의 의도와 상황을 AI에게 보다 명확하게 전달할 수 있다.

 무엇보다 마음에 들었던 점은 완성된 프롬프트를 그대로 가져다 쓰도록 제공하는 방식이 아니라 상황에 맞게 직접 프롬프트를 설계할 수 있는 기준을 알려준다는 것이었다. 특정 사례에 맞춰 만들어진 프롬프트는 상황이 조금만 달라져도 수정이 필요하지만 책에서 제시하는 방법론은 다양한 상황에 맞게 활용할 수 있다는 점에서 실용적이었다. 책을 읽으며 지금까지 경험을 바탕으로 나만의 프롬프트 설계 방법론을 만들어보고 싶다는 새로운 목표도 생겼다.

 

👤 추천 독자

1. AI에게 질문해도 원하는 답변이 나오지 않아 답답함을 느껴본 사람

2. 프롬프트를 어떻게 작성해야 AI에게 자신의 의도와 맥락을 정확하게 전달할 수 있는지 배우고 싶은 사람

3. 특정 프롬프트를 따라 쓰기보다 다양한 상황에 활용할 수 있는 자신만의 프롬프트 작성 방법을 익히고 싶은 사람

 

🪧 도서 구매 링크

• yes24: https://www.yes24.com/product/goods/193816812
• 교보문고: https://product.kyobobook.co.kr/detail/S000220525214
• 알라딘: https://www.aladin.co.kr/shop/wproduct.aspx?ItemId=398216949