1980년대 중반, 언어를 분석하기 위해 말뭉치와 데이터 기반 기술을 많이 사용하면서 자연어 처리는 중대한 변화를 겪었다. 그 이후 자연어 처리에서 통계 기법을 사용하는 방법은 많은 발전이 있었다. 자연어 처리에 대한 베이지안 접근 방식은 1990년대 후반에서 2000년대 초반에 본격적으로 발전하기 시작했다. 빈도주의적 접근 방식의 단점을 개선하고 특히 통계적 학습이 제대로 수행되지 않는 비지도학습 환경에서 많은 부분을 보완했다.
이 책에서는 자연어 처리의 베이지안 학습에 관련된 연구를 할 때 이를 이해하는 데 필요한 방법과 알고리즘을 다룬다. 이러한 알고리즘은 대부분 머신러닝과 통계에서 차용되고 부분적으로 자연어 처리 방법을 참고한다. 마코프 체인, 몬테카를로 샘플링 및 변분 추론, 베이지안 추정, 비모수 모델링과 같은 추론 기법을 다룬다. 또한 사전분포, 켤레 및 생성 모델링과 같은 기본적인 베이지안 통계 개념도 함께 다룬다. 마지막으로 문법 모델링, 신경망 및 표현학습과 같은 자연어 처리의 기본 모델링 기술과 베이지안을 활용한 분석도 다룬다.

1장은 베이즈 자연어 처리와 관련된 확률과 통계에 대한 내용을 다룬다. 랜덤변수, 랜덤변수 간의 독립성, 조건부 독립성 랜덤변수 기댓값 등과 같은 기본적 개념을 다룬다. 또한 베이즈 통계학과 빈도주의 통계학이 어떻게 다른지 간략하게 설명한다. 컴퓨터 과학이나 통계학의 기본적인 지식이 있다면 1장을 건너뛰고 봐도 좋다.
2장에서는 2가지 예시(잠재 디리클레 할당 모델과 베이즈 텍스트 회귀 분석)를 활용해 자연어 처리에서 베이즈 분석을 소개하고, 이 책의 주제에 대한 높은 수준의 개요를 설명한다.
3장은 베이즈 통계 모델링에서 중요한 구성 요소인 사전분포를 다룬다. 특히 디리클레분포, 사전분포에 대한 정보가 없는 경우, 정규분포 등과 같이 베이즈 자연어 처리에 자주 사용되는 사전분포에 대한 내용을 논한다.
4장은 사후분포 요약을 통해 빈도주의적 통계와 베이즈 통계를 종합하는 아이디어에 대해 다룬다. 또한 베이즈에 관한 개념을 유지한 상태로, 일련의 매개변수에 대한 점 추정치를 계산하는 접근법을 상세하게 설명한다.
5장은 베이즈 통계학의 주요 추론법 중 하나인 마르코프 체인 몬테 카를로(Markov Chain Monte Carolo)를 설명한다. 깁스 샘플링과 메트로폴리스-헤이스팅스 샘플링(Metropolis-Hastings sampling)과 같은 베이즈 자연어 처리에서 흔하게 다루는 샘플링 알고리즘(sampling algorithm)을 자세하게 알려준다.
6장에서는 베이즈 자연어 처리에서 또 다른 중요한 추론법으로 여겨지는 변분추론을 다룬다. 평균-장 변분추론과 변분 기댓값 최대화 알고리즘을 설명한다.
7장은 베이즈 자연어 처리에서 가장 중요한 모델링 기법인 비모수적 모델링에 대해 설명한다. 또한 디리클레 프로세스(Dirichlet Process)와 피트만-요 프로세스(Pitman-Yor process)와 같은 비모수 모델을 살펴본다.
8장에서는 확률론적 문맥 자유 문법과 동시성 문법과 같은 자연어 처리 기본 언어 모델을 다고, 이러한 언어 모델을 어댑터 문법, 계층적 디리클레 프로세스, PCFG(Probabilistic Context-Free Grammars) 등과 연관지어 베이즈 내용을 바탕으로 설명한다.
또한 책의 뒷부분에는 이 책을 읽기 위해 필요한 배경 정보를 제공하는 두 개의 부록이 포함돼 있다. 5개 이상의 문제가 각 장마다 포함돼 있어 수업 교재로 활용할 수도 있다. 특히 자연어 처리에서 베이즈 분석에 대한 강의를 할 수 있을 것이다. 예를 들어 베이즈 자연어 처리에 대한 강의를 4번 정도 한다면, 3장부터 7장을 각각 하나의 강의로 엮을 수 있다. 또한 8장의 어댑터 문법 또는 베이즈 PCFG 등과 같은 개별 주제들은 각 강의마다 예시로 제공할 수 있다.

베이즈 통계학(Bayesian Statistics)과 자연어 처리(Natural Language Processing) 두 주제를 교차하는 주제에 관해 글을 쓸 때, 각 분야에 대한 관점을 고려해야 한다. 대학원 재학 시절, 나와 비슷한 상황에 있는 사람들을 위해 다소 실용적인 관점에서 책을 집필했다. 그때는 이미 자연어 처리 분야의 문제와 머신러닝의 기본 원리에 대한 지식을 합리적으로 파악하고 있었다. 나는 추상적인 방법으로라도 베이즈 통계학, 특히 자연어 처리와 관련된 부분에 대해 더 배우고 싶었다. 따라서 이 책은 전산 언어학자들이 베이즈 접근법을 적용할 때 필요한 주요 기술, 용어 및 모델에 대한 추상적인 정보를 제공하는 관점에서 썼다.
그러므로 이 책의 대부분의 장은 다소 일반적이고 베이즈 통계학과 밀접한 관련이 있다. 그러나 마지막 장에서는 언어 모델을 위해 주로 사용되는 몇몇 자연어 처리를 응용법을 소개한다.
이 책은 자연어 처리의 통계 모델링에 대해 이미 어느 정도 알고 있는 사람들과, 자연어 처리에서 베이즈 통계학이 특히 어떻게 사용되는지 더 자세히 알고 싶은 사람들을 위한 책이다. 베이즈 자연어 처리의 수학적인 해석에 대해 더 초점을 맞추게 된 동기는 매우 간단하다. 대부분의 전산 언어학자들은 언어 구조를 예측하거나, 언어학적 동기부여를 일으키는 자연어 처리의 기초 핵심 용어에 생각보다 일찍 노출된다. 종종 베이즈 통계학과 다른 통계학 도구들에 대해 깊이 이해하지 못하고 놓치게 되는데, 이로 인해 때때로 오해가 생기고 큰 그림을 놓치는 경우가 발생한다. 이 책은 독자들이 놓칠 수 있는 부분들을 자세하게 설명해줄 것이다.
내가 처음 핵심 아이디어를 접했을 때, 베이즈 통계학의 수학적 뛰어남과 우아함 등에 매료됐지만(원칙적으로 베이즈 통계학은 데이터와 매개변수 사이 관계를 반전시키기 위한 베이즈 규칙을 적용하는 하나의 특정 원리를 기반으로 한다), 이 책에서는 실용적인 접근법을 취하며 베이즈 통계학이 자연어 처리에 대한 통계학적 분석을 궁극적인 이론으로 제시하려고 하지 않았다. 그리고 베이즈 통계학을 설명할 수 있는 또 다른 철학적 주장을 제시하지 않았다. 대신에 베이즈 통계학의 뒷받침이 되는 기술적 메커니즘을 설명하고, 독자들이 자연어 처리 문제에서 더 좋은 방법론을 선택할 수 있도록 도와줄 것이다. 또한 베이즈 통계학과 빈도주의적 접근법과의 관계, 아울러 그 밖의 다른 부분과 결합되는 부분도 설명한다.

샤이 코헨(Shay Cohen)

에든버러 대학교 정보학과, 언어, 인지 및 계산 연구소의 강사다. 2011년 카네기멜론대학교에서 언어 기술 전공으로 박사학위를 받았으며 석사 및 학사학위는 텔아비브 대학교에서 각각 컴퓨터 과학 및 수학 전공으로 학위를 받았다. 2011년에서 2013년 사이에 Computing Innovation Fellowship을 받으며 컬럼비아 대학교에서 박사후 과정을 연수했으며 2013년에서 2018년 사이에 에든버러 대학교에서 Chancellor’s Fellowship을 받았다. 연구 관심사는 자연어 처리와 머신러닝이며 구문 및 구문 분석과 같은 구조적 예측 문제에 중점을 둔다.

인공지능 기술이 발전하면서 비약적인 성장을 이루고 있는 자연어 처리 분야에 관련된 책이다. 자연어 처리에 대한 일반적인 내용을 이해하고 있다면 베이지안을 활용한 접근을 통해 자연어 처리를 새로운 시각에서 바라볼 수 있을 것이다. 통계 개념이 많이 등장하고 다소 어렵게 느껴질 수는 있으나, 통계적인 추정에 근거한 자연어 처리는 어떤 모습이고 어떻게 연구되고 있는지 접할 수 있다. 주제와 내용은 어려울 수 있지만 저자가 최대한 쉽게 설명하려고 했으며, 나 또한 저자의 의도에 따라 이해하기 쉽게 번역하려고 노력했다.

이재원

미국에서 컴퓨터공학과 통계를 전공했으며, 금융권에서 머신러닝을 활용한 데이터 분석을 연구한 후, IT 회사에서 자연어 처리 모델 연구를 했다. 특히 자연어 처리 모델을 활용해 챗봇을 연구 개발했다. 이후 산업공학과 박사과정에 재학 중이며, 현재 세컨핸드 패션 플랫폼을 만드는 스타트업에서 CTO로 재직하고 있다.

김명준

미국에서 수학과 경제학을 전공했으며 이후 다계층 네트워크 머신러닝 모델 연구로 박사학위를 받았다. 현재 박사후 연구원으로 그래프 기반 머신러닝 연구와 이를 활용한 바이오메디컬, 역사 분야의 응용 연구를 수행하고 있다.