이 책에서 제공되는 예제는 https://github.com/acornpub/bigdata-on-clouds에서 확인할 수 있다. 수정사항도 꾸준하게 업데이트될 예정이다.

퍼블릭 클라우드의 대표인 아마존 AWS와 구글 클라우드 API를 사용하여 빅데이터 분석을 수행하고 실제 서비스까지 올리는 방법에 대해 설명한다. 단순한 맵리듀스는 물론, 고 수준의 데이터 분석이 필요한 추천 서비스까지 클라우드를 사용해서 해결하는 방법에 대해서 설명한다.

현재 그리고 앞으로의 IT 환경에서 클라우드와 빅데이터를 빼놓고는 IT를 이해한다고 할 수 없을 정도로 클라우드 인프라와 빅데이터 기술은 핵심으로 자리잡았습니다. 클라우드가 단순히 빌려 쓰는 서비스를 넘어 컴퓨팅 파워가 클러스터링 되면서 대용량 데이터까지도 큰 어려움 없이 분석할 수 있는 인프라까지 제공함으로써 클라우드는 IT 백엔드 서비스의 모든 것이 되어가고 있음을 느낄 수 있습니다. 새로운 서비스를 시작하는 스타트업부터 이미 성장의 단계에 올라선 넷플릭스 같은 대형 서비스까지, 아마존 같은 클라우드 서비스를 이용해 모든 것을 해결하고 있는 모습을 보면 클라우드가 특히나 서비스 인프라의 확장성에 얼마나 유용한가를 가늠해볼 수 있습니다.

이 책은 구글과 아마존 등에서 클라우드 컴퓨팅을 이용해 그 안에서 데이터를 분석하기 위한 실질적인 방법을 제공하기 위해 빅쿼리, EMR 등의 여러 솔루션을 선정하고 그 사용법을 구체적으로 설명하고 있어서 해당 백엔드 기술을 깊이 이해하지 못하는 일반 개발자라고 하더라도 클라우드를 이해하고 실무에 적용하는 데 좋은 가이드가 될 것으로 보입니다.

아무쪼록 IT에 종사하는 많은 사람이 새로운 시스템이나 솔루션 도입에 큰 구애를 받지 않고 클라우드를 이용해 자신이 당면한 문제를 해결하는 데 이 책이 도움되길 바랍니다.
- 권영길 / 그루터 대표

적절한 예를 통해 이론적인 부분과 실제적인 부분을 잘 설명했습니다. 이 책은 IaaS 서비스에 하둡과 협업 필터링 같은 빅데이터 분석 서비스를 올리고자 하는 사람들께 좋은 자료가 될 것입니다.
- 제임스 클라크(James Clark) / Solinea 부사장(Vice President)

빅데이터와 클라우드 분야에서 열정적인 엔지니어로 살아온 저자의 경험과 인사이트가 고스란히 책 속에 담겨 있습니다. 이 분야에서 열정적으로 배우기를 원하는 수많은 독자에게 기쁜 소식이 될 것이라 생각합니다.
- 심탁길 / 쿠팡 데이터과학자, 데이터사이언스&분석팀 팀장

최근 가장 주목받고 변화가 빠른 구글과 아마존, 2대 IT 분야에 대해, 저자의 실무 경험을 기반으로 한 실용적 관점에서의 지식을 이해하기 쉽게 담고 있습니다. 특히 클라우드 환경에서의 데이터 분석 노하우를 필요로 하는 스타트업 개발자 분들께 이 책을 추천합니다.
- 강명철 / BDwise 대표이사

인프라, 플랫폼 전문가 없이 데이터를 분석하고자 하는 사람에게 이 책은 최고의 실습서다.
- 오영일 / 피보탈 빅데이터 플랫폼팀 수석 엔지니어

■ AWS, GAE API 기본 사용 방법
■ 하둡, 맵리듀스 구조 및 사용 방법과 맵리듀스를 통한 분석 프로그램 개발 방법
■ 클라우드 API를 통해 맵리듀스 및 기계 학습 알고리즘을 개발하는 방법
■ 하둡용 기계 학습 패키지인 머하웃을 사용해 데이터를 분석하는 방법
■ 기계 학습 알고리즘과 데이터 분석 API를 사용해 추천 시스템을 개발하는 방법
■ 분석 결과물을 구글 차트 및 앱엔진을 통해 퍼블리싱하는 방법
■ 데이터 분석 툴을 클라우드와 연결해 분석하는 방법

■ 빅데이터와 기계 학습 관련 기초 지식과 실제 개발에 대한 지식이 필요한 사람
■ 클라우드 서비스에 대한 지식이 필요한 사람
■ 데이터 분석을 해본 경험은 있으나 클라우드 관련 지식이 필요한 사람

이 책은 크게 3부로 구성된다. 1부인 1장과 2장에서는 데이터 분석 일반에 대해 설명하고 데이터 분석 기법 중 탐험적 데이터 분석EDA의 목적과 여기에 사용되는 분석 기법을 설명한다. 2부인 3장에서 6장까지는 구글 클라우드를 사용해 데이터 분석을 수행하는 방법에 대해 설명한다. 구글의 경우 데이터 분석 서비스 API를 제공하기 때문에 이 서비스에 대한 소개와 사용 방법을 설명하고 최종적으로 구글 클라우드에 웹 서비스를 올리는 방법을 알아본다. 마지막 3부인 7장에서 12장까지에서는 아마존 AWS를 사용한 빅데이터 분석 방법을 설명한다. 아마존 API를 사용해 하둡을 생성하고 맵리듀스를 수행해 필요한 분석을 하고, 아마존 클라우드에 웹 서비스를 올리는 방법에 대해 설명한다.

각 장에서 다루는 내용은 다음과 같다.
1장, ‘클라우드 서비스 프로바이더 종류와 특징’에서는 3대 클라우드 서비스인 아마존 AWS, 구글 앱엔진, 윈도우 애저의 특징을 설명한다.
2장, ‘빅데이터 분석의 종류와 특징’에서는 빅데이터 분석 시에 사용하는 분석 단계와 여기서 사용되는 알고리즘을 간단히 설명한다. 상용 알고리즘 패키지에 대해서도 알아본다.
3장, ‘구글 빅쿼리를 사용한 데이터 분석’에서는 구글의 데이터 분석 API 중에서 빅쿼리 서비스에 대해 알아본다. 빅쿼리의 구조를 설명하고, 샘플 데이터를 사용해 커맨드라인이나 자바를 통해 분석하는 방법을 설명한다.
4장, ‘구글 빅쿼리 활용’에서는 구글 빅쿼리를 엑셀과 연결해 분석하는 방법을 설명한다. 그리고 구글 앱엔진에서 빅쿼리를 사용해 데이터 분석 결과를 사용하는 방법도 알아본다.
5장, ‘구글 프레딕션 API’에서는 구글 프레딕션 API에 대한 기초적인 설명과 모델을 만들고 데이터를 통해 훈련시키는 방법을 설명한다. 그리고 간단하게 커맨드라인에서 사용하는 방법을 알아본다.
6장, ‘구글 프레딕션 API 활용’에서는 프레딕션 API를 사용해 영화 추천 서비스를 만들어본다. 데이터 모델을 만들고 훈련시키고 개선하고, 추천 서비스를 위한 사이트를 만드는 방법을 설명한다.
7장, ‘빅데이터 분석 커널 하둡’에서는 하둡 파일 시스템과 맵리듀스를 간단히 설명하고, 맵리듀스 개발 패턴에 대해 설명한다. 맵리듀스의 유닛 테스트부터 대규모 배포까지의 과정을 알아본다.
8장, ‘하둡 온디맨드 프레임워크’에서는 HOD라는 하둡 온디맨드 프레임워크에 대해 알아보고, 이것을 설치해 운영하는 방법을 설명한다. 그리고 AWS와 EMR에 대해 간단히 설명한다.
9장, ‘AWS EMR 사용’에서는 아마존의 맵리듀스 서비스인 EMR에 대해 알아본다. EMR의 사용법과 테스트 데이터를 사용해 데이터를 분석하는 방법을 설명하고, 커맨드라인을 통해 EMR API를 사용하는 방법에 대해서도 설명한다.
10장, ‘머하웃과 하둡을 활용한 데이터 분석’에서는 하둡의 기계 학습 분석용 패키지인 머하웃에 대해 설명한다. 머하웃에 들어가 있는 기계 학습 알고리즘을 간단히 알아보고, 추천 알고리즘을 사용하는 방법을 설명한다.
11장, ‘아마존 클라우드 서비스를 활용한 추천 서비스 개발’에서는 EMR과 머하웃을 사용한 데이터 분석 방법을 설명하고, 6장에서 만든 분석용 서비스와 연결하는 방법도 알아본다.

클라우드가 처음 대중에게 알려진 지 약 5년 정도가 지났다. 관련 책들도 몇 권씩 나오긴 했지만, 클라우드 서비스의 소개에 그치는 경우가 많고 실제로 어떤 문제나 서비스를 클라우드 기반으로 만드는 방법을 다루는 책은 많지 않다. 아마도 클라우드 자체가 이해하기 어렵고, 실제적인 경험이 많이 없다면 더 어려운 형태의 기반 서비스이기 때문인 것 같다.

빅데이터는 클라우드보다는 좀 더 최근에 알려지기 시작했다. 그리고 데이터 사이언스라는 말과 학교에서 다시금 통계학, 수학 열풍이 돌 정도로 엄청난 센세이션을 일으켰다. 하지만 이것을 배우려는 사람들은 프로그래밍은 물론이고 기초 통계학과 기계 학습 등 너무 많은 범위를 접해야 하므로 접근 자체가 쉽지 않았다. 그리고 더 중요한 부분인 빅데이터에 사용되는 기술을 실제로 적용해 문제를 해결하는 부분에 대한 이야기와 사례는 거의 나오지 않는 듯하다.

클라우드 자체를 개발하거나 클라우드를 사용해 다른 서비스를 개발할 때 가장 중요한 일은 기존과의 차이점을 인지하는 것이다. 클라우드의 가장 큰 특징은 ‘ephemeral(단명, 짧은)’이다. 등장했다가 금방 사라지는 인프라 또는 서비스이기 때문에 이를 뒷받침해주는 기술이나 클라우드를 사용하는 기술 역시 반드시 어떤 컴퓨팅 리소스가 사라질 수 있다는 가정하에서 만들어져야 한다. 그래서 클라우드 컴퓨팅에서는 ‘고가용성’ 또는 ‘이중화’를 더 이상 인프라 레벨에서 하는 게 아니라 애플리케이션 내에서 처리해줘야 한다. 그리고 또 하나의 특징은 ‘스케일 아웃(scale out)’이라 불리는 확장성이다. 처음에는 한두 개의 인스턴스로 시작하다가 사용량이 많아지면 바로 몇 십 개 혹은 몇 백 개로 확장 가능하다는 것이다. 물론 애플리케이션이 이렇게 지원해야 한다.

이 부분은 빅데이터와 통하는 특징이다. 전문가들은 항상 빅데이터의 기본은 페타(peta byte)급 이상은 되어야 한다고 한다. 물론 나중에 데이터를 쌓다 보면 이렇게 커질 수는 있지만, 그 시작은 항상 작다. 빅데이터 커널인 하둡의 효시가 된 구글도 시작할 당시에는 컴퓨터 8대로 출발했다. 그 후에 확장성을 갖도록 인프라를 만들고 코드를 올렸다. 또한 이것은 래리 페이지(Larry Page)의 ‘페이지랭크(PageRank)’라는 유명한 알고리즘을 뒷받침하기 위한 트레이닝 데이터로 사용됐다. 즉 빅데이터보다 더 먼저인 것은 데이터에 대한 직관이며, 툴은 그것을 증명하기 위해 사용돼야 한다. 그런 면에서 빅데이터 관련 툴들은 작은 시작(lean start), 즉 한두 대로 시작해 필요해지면 크게 확장하는 데 아주 적당하다.

클라우드와 빅데이터의 이런 특징을 사용해 애플리케이션을 만드는 방법을 설명코자 책을 만들었다. 이 책에서 설명하는 방법들은 수많은 방법과 기술 가운데 일부에 지나지 않는다. 하지만 이렇게 간단하고 편리한 방법조차 설명하는 책을 몇 권 본 적이 없었기에 이 책이 독자들에게 조금이나마 도움이 되지 않을까 생각한다.

공용준

한양대 기계공학과를 졸업하고 동 대학원에서 석사학위를 취득했다. 박사 공부 중에 분산 매트릭스 솔버(distributed matrix solver) 개발 일을 시작하면서 정보통신 분야에서 커리어를 쌓고 있다. 본격적으로 2012년에 정통부 산하의 클라우드 정책 연구단 기술고문을 역임했고, 2013년부터 클라우드와 빅데이터에 대한 강의를 하고 있다. 요즘은 인메모리 기반 분석과 complex event processing 관련 연구를 진행 중이며, 항상 좀 더 빠르고 편하고 간단한 문제 해결을 위해 노력 중이다.