AI를 활용하고 있지만, AI를 모르는 당신에게,
AI의 작동 원리를 제대로 알고 책임감 있게 비즈니스에 적용하는 방법을 알려주는 책!

생성형 AI의 등장은 기술의 대중화를 앞당겼다. 챗GPT, 클로드, 제미나이 등은 이제 전문가의 전유물이 아닌, 누구나 활용하는 일상 기술이 됐다. 그러나 기술의 확산 속도만큼 불안도 커지고 있다. 특히 직장인들은 실직 위협과 AI의 오류 가능성, 산업 구조의 재편에 대한 현실적인 걱정을 안고 있다.
『두 얼굴의 신기술: AI 딜레마』는 이러한 시대적 불안을 정면에서 다룬다. 이 책은 단순한 기술 설명서나 과장된 미래 예측서가 아니다. AI의 구조적 한계, 윤리적 위험, 사회적 영향력을 과학적이고 철학적으로 분석하며, 무엇보다 중요한 질문—AI를 어디에, 어떻게 써야 하는가—에 명확한 기준을 제시한다.
저자들이 제안하는 ‘AI 위험 관리 프레임워크’는 정밀도, 환경, 설명 가능성이라는 세 가지 기준을 중심으로, AI를 적용해도 되는 분야와 적용해서는 안 되는 분야를 구분할 수 있도록 돕는다. 광고, 번역처럼 오류 허용 범위가 넓은 분야와 달리, 신용평가, 의료 진단, 범죄 수사 등은 작은 오류도 심각한 결과를 초래할 수 있다. 이 책은 그런 위험 요소를 실제 사례와 함께 설명하고, 적절한 대응 전략과 윤리적 판단 기준을 함께 제시한다.
기술에 대한 맹신이나 공포가 아닌, 비판적 시각과 실질적 기준을 원하는 독자에게 꼭 필요한 책이다.

“AI 시대, 우리가 던져야 할 진짜 질문은 기술이 아니라 인간이다.”

AI를 안 쓰는 사람은 있어도, 한 번만 쓴 사람은 없을 것이다. 그만큼 AI는 우리 일상에 없어서는 안 될 중요한 존재가 됐으며, 누구나 AI를 개발하고 활용할 수 있게 됐다. 우리는 AI를 통해 큰 수익을 내길 바라며, AI를 이용해 더 나은 세상을 살길 바란다.

하지만 모든 것에 이면이 있듯, AI에도 이면은 있다. 즉, AI의 한계다.
많은 사람은 AI가 마치 사람처럼 정보를 모으고, 나름의 판단을 한다고 생각하지만, 실제로는 아니다. AI는 그저 수많은 데이터를 사용해, 특정한 패턴을 찾아 답을 내놓도록 학습을 받은 것뿐이다. 이런 일련의 일들 후에도 AI는 자신이 무슨 일을 하는지조차 모르며, 정보의 실제 의미를 이해하지 못할 수 있다. AI는 그저 사람이 지시한 일을 ‘흉내’ 낸다.

이 책을 읽는 독자들은 아마, 이 책을 덮고 난 뒤 다음과 같은 생각을 하게 될 것이다.

•경외감: “AI가 이런 일도 해낼 수 있다니 놀랍다.”
•경계심: “AI가 자신이 무엇을 하고 있는지, 왜 하는지도 모른다니 놀랍다.”

그런 점에서 이 책은 지금 우리 사회가 직면한 AI에 대한 현실적 고민을 가장 실용적이면서도 철학적인 시각으로 풀어낸다. 그렇다고 해서 기술을 맹목적으로 찬양하거나, 과장된 공포로 몰아가지 않는다. 대신, 기술의 진짜 가능성과 숨겨진 한계를 동시에 바라보며, AI가 인간을 대체하는 존재인가, 아니면 인간의 판단과 책임을 보완하는 도구인가라는 근본적인 질문을 던진다.
또한 실제 사례를 풍부하게 소개하며, 독자들이 쉽게 이해할 수 있도록 명쾌한 개념 정리를 제시하고, 곳곳에 도표와 시각 자료를 배치해 복잡한 이슈를 쉽고 명쾌하게 풀어낸다. 그 때문에 인공지능에 대해서 잘 모르는 사람도 쉽게 읽을 수 있다.
지금 우리가 해야 할 일은 기술을 무조건 받아들이거나 거부하는 것이 아니다.
우리가 마주한 이 ‘두 얼굴의 신기술’을 정확히 이해하고, 올바르게 다루기 위한 기준을 세우는 것이다. 그 출발점이 바로, 이 책이다.

“AI가 인간처럼 말한다고 해서, 인간처럼 생각하는 것은 아니다.”

하버드대 교수 클레이튼 크리스텐슨의 연구에 따르면, ‘기술이 산업에 미치는 영향은 기존의 상태만큼 좋지는 않더라도 비용 측면에서는 상당한 절감 효과를 가져온다’고 한다. 즉, AI가 불완전하더라도 비용 절감에는 큰 도움이 된다는 뜻이다.
실제로 AI 시스템의 정밀도와 신뢰성이 떨어지더라도, 비용 절감이라는 장점만으로 기존 시스템을 대체할 수 있을까? 단지 비용을 절감하고, 빠르게 출력값을 낸다는 이유로 편향된 결정을 하는 AI를 도입하는 것이 사회에 큰 문제가 되지는 않을까?

이 책에서는 이러한 사람들의 의문에 명쾌한 답을 제시한다. 바로 ‘AI 프레임워크’를 통해서다. ‘AI 프레임워크’는 AI의 입력 제어, 정밀도, 결정 근거의 필요성을 기준으로 AI에 적용할 수 있는 분야와 적용할 수 없는 분야를 나눈다. 그리고 이를 쉽게 설명하는 예시들을 나열해, 사람들이 ‘AI 프레임워크’에 대해 완벽하게 이해할 수 있도록 돕는다.

예를 들어, 전쟁에서 AI가 발포를 결정하는 상황을 떠올려 보자. 이때 우리는 AI에게 이 중요한 것을 맡겨야 할까? 돈과 관련된 사항에서는 어떨까? 금융기관에서 대출 승인을 해주는 업무를 AI에 맡길 수 있을까?
제조업에서 조립 라인을 시각적으로 검사하는 경우는? 자율주행 차량은?
범죄자를 잡기 위한 도구로는? 다양한 마케팅 광고의 도구로서는?

당신이 이 모든 물음에 답을 제대로 할 수 있다면 이 책을 읽을 필요가 없다.
하지만 제대로 답을 하지 못한다면 이 책을 읽어야 한다. AI는 점점 더 우리 삶에 깊숙이 침투할 것이고, 우리는 원하든 원하지 않든, 그들과 공생해야 하기 때문이다.

“기술이 인간을 재정의하는 시대, 우리는 AI를 어떻게 받아들여야 할까?”

새로운 기술의 발견은 항상 예기치 못한 결과를 가져온다. 핵무기를 발명한 오펜하이머가 자신의 발명품이 전쟁에 쓰이자 후회했듯이, 만병통치약으로 쓰인 ‘라듐’이 알고 보니 사람에게 해로운 방사선 물질이었듯이, 좋은 일에는 나쁜 일이 따라올 때가 많다.

AI 또한 그렇다. 맨 처음 AI는 세상을 바꿀 혁신과도 같았으며, 챗GPT가 공개됐을 땐 ‘기계가 인간처럼 행동할 날이 얼마 남지 않았다’며, 과학의 발달을 극찬했다. 그러나 이후 카오스GPT가 등장했고, 그 기계가 처음 취한 행동은 가장 강력한 무기를 찾는 것이었다. 그리고 그 과정에서 실제로 구소련의 핵무기 정보를 발견하고, 폭탄 관련 정보를 수집하기도 했다.

이에 사람들은 두려움을 느끼기 시작했고, 점점 AI에 제한을 두자는 목소리가 나왔다. 그리고 이 사건의 연장선이 돼, AI의 신뢰도 문제, 프라이버시 침해 문제 등으로 현재 사회적인 이슈가 되고 있는 상태다. 이런 상황에서 우리는 어떻게 AI를 현명하고 책임감 있게 사용해야 할까?

명확한 정답을 안다면 그건 ‘신’일 것이다. 하지만 그렇다고 해서 아무 행동도 하지 않으면 사회는 올바른 길로 가지 못한다. 이 책은 이런 점을 역설하며, AI 같은 신기술을 제대로 교육하고, 위험을 관리하며, 기업과 정부 기관의 거버넌스를 통해 제대로 된 가이드라인을 만들자고 한다.

또한, 레이시(RACI) 프레임워크를 통해. 각 조직들의 구체적 책임 소재를 분명히 하며, 인공지능 ID(AII)를 만들어 AI 계정의 모든 행동을 공개적으로 확인할 수 있게 하도록 촉구한다. 인터넷에 접속하는 우리들이 ID를 만들듯이, AI 계정 또한 ID를 보유해 투명성을 부여해야 한다는 것이다.

물론, 이런 일들로 AI의 어두운 면이 사라지지는 않겠지만, 이 정도만 구축하더라도 우리는 더 안전하고 나은 세상을 살 수 있다. 그리고 이것들은, AI 관련 업계뿐만 아니라, 우리 모두가 외치고 원하는 것들이다. 더 밝은 미래를 위해 이 책을 읽어보라. 어떤 어려움도, 그것을 이길 힘은 당신 안에 있으니까.

"『두 얼굴의 신기술: AI 딜레마』는 AI의 본질과 한계, 활용 방안과 주의점을 이해하는 데 큰 도움이 되는 책이다. 미디어가 조장하는 'AI 종말론'이라는 허상에서 벗어나 AI를 하나의 도구로 바라보고 이해하는 데 좋은 길잡이가 될 것이다."
-루이스 로세토(Louis Rossetto), 「와이어드」 창립자

"이 책은 AI를 진정한 난제로 규정하면서 시작된다. 또한, AI를 잘 안다고 자신했던 우리의 생각을 뒤흔들며, AI의 본질을 정확히 짚어내고 있다. 더불어 AI를 어떻게 활용할지에 대한 깊이 있는 통찰과 실천 가능한 방안을 제시한다."
-빅토어 마이어 쇤버거(Viktor Mayer-Schonberger),
옥스퍼드대, 『프레임의 힘』(21세기북스, 2022)과 『Guardrails』(Princeton University Press, 2024)의 공저자

"케일럽과 렉스 브릭스는 AI의 작동 원리와 의인화를 경계해야 하는 이유, 그리고 AI의 본질적 의미를 명쾌하게 설명한다. 『두 얼굴의 신기술: AI 딜레마』는 AI에 대한 풍부한 지식을 담고 있어 우리의 미래를 준비하는 데 훌륭한 안내서가 될 것이다."
-게르트 기거렌저(Gerd Gigerenzer), 독일 막스플랑크연구소 심리학자

"이 책은 매우 실용적이다. AI 과학자부터 현장 실무자, 그리고 AI에 관심 있는 모든 사람을 위해 쓰였다. 전문 용어를 배제하고 AI 혁명을 이끄는 핵심 기술을 알기 쉽게 설명하면서, 동시에 AI가 지닌 잠재적 위험도 꼼꼼히 다루고 있다."
-톰 차베스(Tom Chavez), AI 스타트업 스튜디오인 ‘super{set}’의 공동 창립자

“케일럽과 렉스 브릭스는 AI의 복잡한 영역을 단순화해서, 오늘날의 AI 중심 환경에서 성공하는 데 필수적인 실용적 통찰을 제공한다. 이들의 작업은 AI 분야에서 성공하고자 하는 이들이 꼭 읽어야 할 책이다.”
-에이미 위글러(Amy Wigler), 「PBS」, 멀티플랫폼 통합 마케팅 및 콘텐츠 담당 부사장 겸 수석 부사장

"현장에서 AI를 직접 다뤄온 전문가들이 쓴 알찬 입문서다. AI의 강점을 제대로 이해하고 책임감 있게 활용하고 싶은 이들에게 꼭 필요한 책이다."
-해리슨 칠턴(Harrison Chilton), 기업, 소프트웨어 및 비즈니스 서비스 부문의 인수 및 성장 투자자 및 칼라일 그룹 기술 투자자

"AI는 방대한 정보를 다룰 수 있지만, 실제로는 그 의미를 진정으로 이해하지 못한다는 게 핵심이다. 『두 얼굴의 신기술: AI 딜레마』는 이런 AI의 본질을 파헤치며 허상을 걷어내고, AI가 잘하는 것과 그렇지 않은 것을 명확하게 보여준다. AI 도입을 고민하는 모든 사람에게 꼭 필요한 책이다."
-스테파니 프리드호프(Stefanie Friedhoff), 브라운대 부교수 겸 정보 미래 연구실 공동 설립자

“케일럽이 Inc. 5000 컨퍼런스에서 250여 명의 CEO들 앞에서 발표하는 모습을 보고 『두 얼굴의 신기술: AI 딜레마』의 가치를 깨달았다. 그의 발표 후 즉시 그와 협업해 금융 분야에 그의 아이디어를 적용했고, 기대 이상의 놀라운 성과를 거뒀다. 이 책으로 여러분도 성공하시길 바란다!"
-래리 코너스(Larry Connors), 코너스 그룹, 코너스 리서치 LLC, 코너스.AI CEO

"이제는 프로그래밍을 전혀 모르는 사람도 코드를 작성하지 않고도 자신만의 AI 프로그램을 만들 수 있는 ‘노 코드(no code)’ 방식이 생겼다. 프로그래머들 역시 이미 만들어진 다양한 AI 도구들을 활용하면 복잡한 수학 지식 없이도 여러 프로그램에 AI 기능을 추가할 수 있게 됐다. 더욱이 아마존, 구글, 마이크로소프트, 오픈AI 같은 큰 기업들은 누구나 신용카드로 결제하고 몇 번만 클릭하면 자사의 클라우드에서 AI를 쉽게 사용할 수 있도록 서비스를 제공하고 있다."
- p.26 ‘서론’에서

“컴퓨터, 즉 AI의 관점을 더 깊이 이해하기 위해서는 또 다른 중요한 차이점을 알아야 한다. 그건 바로 AI는 우리처럼 세상을 직접 경험하지 않는다는 것이다. 대신, 인간의 언어와는 완전히 다른 기호들로 구성된 문서를 통해서만 정보를 받아들인다. 따라서 이러한 낯선 세계에서 올바른 답을 찾기 위해서는 오직 주어진 문서 속에서 반복되는 패턴을 발견하고 학습할 수밖에 없다.”
- p.53 ‘1장. 인공지능은 인간 지능이 아니다’에서

"UCLA의 연구 사례는 AI가 데이터 편향성으로 인해 얼마나 심각한 의료 불평등을 초래할 수 있는지를 잘 보여주는데, 한 예로 라임병의 경우, 학습 데이터가 백인 환자의 피부 사진에만 편중돼 있어 다른 피부색을 가진 환자들의 증상을 제대로 진단하지 못하는 문제가 발생했다. 이로 인해 흑인 환자들은 백인 환자들에 비해 진단이 늦어지고, 결과적으로 관절염과 같은 심각한 합병증이 발생한 후에야 진단을 받게 되는 심각한 의료 격차가 발생한 것이다. 이는 AI가 데이터의 연관성만을 학습해 편향된 결과를 도출하는 경계 사례의 전형적인 예시이다."
- p.120 ‘4장. 경계 사례, 압축, 그리고 연관 지능의 한계’에서

"GPT-3는 두 자릿수 계산도 꽤 잘한다. 덧셈은 100%, 뺄셈도 거의 비슷한 정확도를 보이는데, 이때 학습해야 할 두 자릿수 조합은 4만 개도 안 된다. 이건 AI가 수학을 제대로 이해했다는 뜻이 아니다. AI는 그저 덧셈과 뺄셈 표를 외운 것뿐이다. 이는 자릿수가 늘어날수록 확연히 드러나는데, 세 자릿수에서는 정확도가 90%로 떨어지고, 네 자릿수에서는 30% 정도로 크게 떨어지기 때문이다. 게다가 다섯 자릿수의 경우 가능한 모든 조합을 한 번씩이라도 보려면 수백억 개의 예시가 필요한데, 이때는 정확도가 10% 정도밖에 안 된다."
- p.135 ‘4장. 경계 사례, 압축, 그리고 연관 지능의 한계’에서

"AI의 편향성은 우리가 쉽게 해결할 수 없다는 점을 반드시 인식해야 한다. 그렇기에 AI 편향 대책을 마련할 때는 우리가 발견하지 못하고, 해결할 수도 없는 숨겨진 편향이 존재할 수 있다는 점을 항상 고려해야 한다. 이러한 상황에서 우리가 던져야 할 핵심 질문은 두 가지다. “AI가 편향돼 잘못된 판단을 내릴 때 어떤 결과가 발생하는가?”, 그리고 “이러한 위험을 감안하더라도 AI 사용이 가치가 있는가?”
- p.285 ‘10장. AI의 사례 연구: 얼굴 인식, 인력 채용, 그리고 광고 분야의 편향성’에서

"우리는 이 책을 읽는 당신에게 이 주제에 걸맞은 마지막 말을 전하고 싶다. 장기적으로 AGI로 나아가는 길은 신중하게 탐색 돼야 하며, 주체성, 안전성, 유용성의 균형을 잡아야 한다는 것을 말이다. 단기적으로 AI는 막대한 혜택을 제공할 수 있지만, 동시에 AI에 대한 더 폭넓은 이해가 필요하며, 이때 AI의 막대한 잠재력이 안전하게 발현될 수 있도록 책임 있는 사용을 위한 프레임워크를 구축해야 한다."
- p. 308 ‘11장. AI라는 딜레마’에서

케일럽 브릭스(Caleb Briggs)

열 살때 코딩을, 열네 살때 AI를 개발하기 시작했다. 또한 여러 AI 응용 프로그램을 맨 처음부터 만들면서 유전적 알고리듬, 머신 비전, 자연어 등의 분야에서 경험을 쌓았다. 현재 오리건 주 포틀랜드에 소재한 리드 칼리지에서 순수 수학과 컴퓨터 과학을 공부하고 있다.

렉스 브릭스(Rex Briggs)

AI와 데이터 전문가로 다섯 개의 특허를 보유하고 있으며, 여러 AI 비즈니스를 구축하는 데 도움이 줬다. 현재 마케팅 무역 협회인 MMA 글로벌에서 AI 분야의 전문가로 활동하고 있다. 『What Sticks』(Kaplan Publishing, 2006)의 공동 저자이며 『SIRFs-Up』(CreateSpace Independent Publishing Platform, 2012)의 저자이다.

김상현

캐나다에서 정보공개 및 프라이버시 전문가로 일하고 있다. 토론토 대학교, 앨버타 대학교, 요크 대학교에서 개인정보보호와 프라이버시 법규, 사이버보안을 공부했다. 캐나다 온타리오 주 정부와 앨버타 주 정부, 브리티시 컬럼비아(BC) 주의 의료서비스 기관 FNHA, 밴쿠버 아일랜드의 수도권청(Capital Regional District) 등을 거쳐 지금은 캘리언 그룹(Calian Group)의 프라이버시 디렉터로 일하고 있다.
저서로 『AI와 프라이버시』(커뮤니케이션북스, 2024), 『디지털의 흔적을 찾아서』(방송통신위원회, 2020), 『유럽연합의 개인정보보호법, GDPR』(커뮤니케이션북스, 2018), 『디지털 프라이버시』(커뮤니케이션북스, 2018), 『인터넷의 거품을 걷어라』(미래 M&B, 2000)가 있고, 번역서로는 에이콘출판사에서 출간한 『통계의 함정』(2024), 『해커의 심리』(2024), 『어둠 속의 추적자들』(2023), 『공익을 위한 데이터』(2023), 『인류의 종말은 사이버로부터 온다』(2022), 『프라이버시 중심 디자인은 어떻게 하는가』(2021), 『마크 저커버그의 배신』(2020), 『에브리데이 크립토그래피 2/e』(2019), 『보이지 않게, 아무도 몰래, 흔적도 없이』 (2017), 『보안의 미학』(2015), 『똑똑한 정보 밥상』(2012), 『불편한 인터넷』(2012), 『디지털 휴머니즘』(2011) 등이 있다.