[대용량 빅데이터 분석과 머신 러닝까지 활용하는]
빅데이터 분석을 위한 스칼라와 스파크
- 원서명Scala and Spark for Big Data Analytics: Tame big data with Scala and Apache Spark! (ISBN 9781785280849)
- 지은이레자울 카림(Rezaul Karim), 스리다 알라(Sridhar Alla)
- 옮긴이김용환
- ISBN : 9791161752402
- 50,000원
- 2018년 12월 24일 펴냄
- 페이퍼백 | 1,092쪽 | 188*235mm
- 시리즈 : acorn+PACKT, 데이터 과학
책 소개
소스 코드 파일은 여기에서 내려 받으실 수 있습니다.
2019년 대한민국학술원 우수학술도서 선정도서
본문에 쓰인 컬러 이미지는 여기에서 내려 받으세요.
요약
스파크를 이용해 데이터 분석 방법을 배우려는 사람에게 매우 유용한 책이다. 가장 먼저 스칼라를 소개하고, 스칼라 애플리케이션 개발에 필요한 객체지향 개념과 함수형 프로그래밍 개념을 설명한다. 스파크에 초점을 맞춰 RDD와 데이터 프레임을 사용한 기본 추상화를 다룬다.
그 다음 스파크 SQL, GraphX, 스파크 구조화 스트리밍을 사용해 구조화된 데이터와 구조화되지 않은 데이터를 분석하고 모니터링, 설정, 디버깅, 테스팅, 배포와 같은 고급 주제를 살펴본다. 또한 SparkR 및 PySpark API를 사용한 스파크 애플리케이션을 개발하는 방법, 아파치 제플린(Zeppelin)을 사용한 대화식 데이터 분석, Alluxio를 함께 사용해 인메모리 데이터를 처리하는 방법을 다룬다.
이 책을 다 살펴본 후, 스파크를 완벽하게 이해하고 풀 스택 데이터 분석을 수행할 수 있을 것이다. 이 책은 최신 2.3.2 버전을 기준으로 작성됐다. 기존의 원서에서 제공하는 코드의 오타와 호환성을 수정한 옮긴이의 github 저장소를 제공한다.
이 책에서 다루는 내용
■ 스칼라의 객체지향 개념과 함수형 프로그래밍 개념 이해
■ 스칼라 컬렉션 API 이해
■ 스파크의 핵심 추상화를 알기 위해 RDD와 데이터 프레임으로 작업하기
■ 스파크 SQL과 GraphX를 사용해 구조 데이터와 구조화되지 않은 데이터 분석
■ 스파크 구조화 스트리밍을 사용해 확장 가능하고 내결함성 있는 스트리밍 애플리케이션 개발
■ 스파크 MLlib과 스파크 ML에서 많이 사용되는 알고리즘으로 예측 모델을 구축할 수 있는 분류, 회귀 분석, 차원 감소, 추천 시스템과 같은 머신 러닝 모범 사례
■ 방대한 양의 데이터를 클러스터링하는 클러스터링 모델 구축
■ 스파크 애플리케이션 튜닝, 디버깅, 모니터링 이해
■ 실제 독립형(Standalone), 메소스(Mesos), 얀(YARN), 쿠버네티스(Kubernetes) 모드의 클러스터에 스파크 애플리케이션 배포
이 책의 대상 독자
스파크를 이용해 데이터 분석 방법을 배우려는 사람에게 매우 유용한 책이다. 스파크나 스칼라에 대한 지식은 없더라도 이전 프로그래밍 경험(특히 다른JVM 언어)이 있다면 스파크나 스칼라에 대한 개념을 이해하는 데 매우 유용하다.
스칼라는 지난 몇 년 동안 특히 데이터 과학과 분석 분야에서 꾸준히 증가하고 있다. 스파크는 스칼라로 작성됐고 분석 분야에서 널리 사용되고 있다. 이 책은 빅데이터를 잘 다룰 수 있는 스파크를 설명한다.
이 책의 구성
1장, ‘스칼라 소개’에서는 스파크의 스칼라 기반 API를 사용해 빅데이터를 분석한다. 시작점으로 스파크 내부가 스칼라로 작성됐음을 설명하고 자연스럽게 스칼라의 역사, 목적, 윈도우/리눅스/맥OS에 스칼라를 설치하는 방법과 같은 기본 내용 등 스칼라에 대해 간단히 설명한다. 그리고 스칼라 웹 프레임워크에 대해 간략히 설명한다. 그다음 자바와 스칼라를 비교 분석한다. 마지막에 스칼라를 시작하기 위해 스칼라 프로그래밍을 살펴본다.
2장, ‘객체지향 언어, 스칼라’에서는 객체지향 프로그래밍(OOP) 패러다임이 완전히 새로운 추상화 계층을 제공한다고 설명한다. 간단히 말해 OOP 언어의 가장 큰 장점인 탐색 가능성,모듈성, 확장성을 설명한다. 특히 스칼라에서 변수를 처리하는 방법을 살펴본다. 스칼라에서 변수, 메소드, 클래스, 객체뿐 아니라 패키지, 패키지 객체, 트레이트, 트레이트 선형화, 자바와의 상호 호환성 등을 다룬다.
3장, ‘함수형 프로그래밍 개념’에서는 스칼라의 함수형 프로그래밍 개념을 소개한다. 스칼라가 데이터 과학자에게 무기가 되는 이유, 스파크 패러다임/순수 함수/고차 함수를 배우는 것이 중요한 이유와 같은 몇 가지 주제를 다룬다. 고차 함수를 사용하는 실제 사용 사례도 함께 소개한다. 그다음 스칼라 표준 라이브러리를 사용해 컬렉션 외부의 고차 함수에서 예외를 처리하는 방법을 살펴본다. 마지막으로 함수형 스칼라가 객체의 가변성에 어떤 영향을 주는지 살펴본다.
4장, ‘컬렉션 API’에서는 스칼라 사용자가 가장 큰 흥미를 얻는 기능 중 하나인 컬렉션 API를 소개한다. 스칼라 컬렉션 API는 매우 강력하고 유연하며 결합된 많은 연산을 갖고 있다. 그리고 스칼라 컬렉션 API의 기능을 소개할 뿐 아니라 다양한 타입의 데이터를 수용하고 다양한 문제를 해결할 때 컬렉션 API의 사용 방법을 소개한다. 마지막으로 스칼라 컬렉션 API, 타입과 계층 구조, 성능 특성, 자바 상호운용성, 스칼라 암시를 설명한다.
5장, ‘스파크로 빅데이터 다루기’에서는 데이터 분석과 빅데이터에 대해 설명한다. 빅데이터에서 제기되는 도전 과제, 분산 컴퓨팅 처리 방법, 함수형 프로그래밍 접근 방식을 살펴본다. 구글의 맵리듀스, 아파치 하둡, 아파치 스파크를 소개하고, 해당 오픈소스의 접근 방법과 기술의 사용 방법을 살펴본다. 아파치 스파크가 처음 만들어졌던 이유와 빅데이터 분석 및 처리 시 부딪혔던 도전 과제 등 아파치 스파크의 진화 과정을 살펴본다.
6장, ‘스파크로 REPL과 RDD로 작업’에서는 스파크 작동 방법을 다룬다. 그다음 아파치 스파크의 기본 추상화인 RDD를 소개하고 단순히 스칼라와 유사한 API를 제공하는 분산 컬렉션인지 확인한다. 아파치 스파크의 배포 옵션을 살펴보고 스파크 셸을 사용해 로컬에서 실행한다. 아파치 스파크의 내부 구조, RDD의 개념, DAG, RDD 계보, 트랜스포메이션, 액션을 다룬다.
7장, ‘특수 RDD 연산’에서는 다양한 요구 사항을 RDD가 어떻게 충족시키는지, 어떻게 RDD가 새로운 기능(위험성도 갖고 있다)을 제공하는지에 대해 중점적으로 다룬다. 또한 브로드캐스트 변수와 스파크에서 제공하는 누산기와 같은 유용한 객체를 살펴본다. 마지막으로 셔플링과 집계를 다룬다.
8장, ‘스파크 SQL’에서는 RDD의 하이레벨 추상화인 스파크 SQL로 구조화된 데이터를 분석하는 방법과 스파크 SQL API로 구조화된 데이터를 간단하면서도 견고하게 쿼리하는 방법을 소개한다. 또한 데이터셋을 소개하고 데이터셋, 데이터 프레임, RDD 간의 차이점을 살펴본다. 마지막으로 데이터 프레임 API를 사용해 복잡한 데이터 분석을 수행할 수 있는 조인 연산과 윈도우 함수를 살펴본다.
9장, ‘스파크 스트리밍’에서는 스파크 스트리밍을 소개하고, 스파크 API를 사용해 데이터 스트림을 스파크 스트리밍으로 처리하는 방법을 설명한다. 또한 트위터에 글을 트윗하고 처리하는 실제 사례를 사용해서 실시간 데이터 스트림을 처리하는 다양한 방법을 다룬다. 실시간 처리를 위해 아파치 카프카와 통합하는 방법도 살펴본다. 마지막으로 애플리케이션에서 실시간 쿼리를 제공할 수 있는 구조화 스트리밍을 살펴본다.
10장, ‘GraphX’에서는 그래프를 사용해 얼마나 많은 실제 문제를 모델링하고 해결할 수 있는지 살펴본다. 페이스북을 예로 들어 그래프 이론, 스파크의 그래프 처리 라이브러리 GraphX, VertexRDD와 EdgeRDD, 그래프 연산자, aggregateMessages, triangleCount, Pregel API, 페이지랭크 알고리즘과 같은 사용 사례를 살펴본다.
11장, ‘머신 러닝 학습: 스파크 MLlib과 ML’에서는 통계 머신 러닝에 대한 개념적인 소개를 제공한다. 스파크의 머신 러닝 API인 스파크 MLlib과 스파크 ML을 집중적으로 다룬다. 디시전 트리(decision tree)와 랜덤 포레스트 알고리즘(random forest algorithm)을 이용한 분류 작업을 해결하는 방법과 선형 회귀 알고리즘을 이용한 회귀 문제를 해결한다.
또한 분류 모델을 훈련하기 전에 피처 추출에서 원핫(one-hot) 인코딩과 차원 축소 알고리즘을 사용함으로써 얻을 수 있는 이점을 보여준다. 그다음에는 협업 필터링 기반 영화 추천 시스템을 개발하는 단계별 예제를 보여준다.
12장, ‘고급 러닝 머신 모범 사례’에서는 스파크를 사용한 머신 러닝 고급 주제에 대한 이론과 실용적인 측면을 살펴본다. 그리드 검색, 교차 검증, 하이퍼파라미터 튜닝을 사용해 성능을 최적화하는 머신 러닝 모델 튜닝 방법을 배운다. 그리고 모델 기반의 추천 알고리즘 중인 하나인 ALS를 사용해 확장 가능한 추천 시스템 개발 방법을 다룬다. 마지막으로 주제 모델링 애플리케이션은 텍스트 클러스터링 기법을 활용한다.
13장, ‘나이브 베이즈’에서는 빅데이터 분야의 머신 러닝이 학계와 산업계 모두의 연구 분야에 큰 영향을 미친 급진적인 결합이라고 말한다. 빅데이터는 실제 가치를 찾기 위해 ML, 데이터 분석 툴, 알고리즘에 어려운 과제를 부과한다. 그러나 거대한 데이터셋을 기반으로 미래를 예측하는 것은 결코 쉬운 일이 아니다. 미래 예측과 관련해 ML을 자세히 살펴보고, 간단하지만 강력한 방법으로 다항 분류, 베이지안 추론, 나이브 베이즈, 디시전 트리, 나이브 베이즈와 디시전 트리의 비교 분석 등 확장 가능한 분류 모델과 개념을 구축하는 방법을 알아본다.
14장, ‘스파크 MLlib으로 데이터 클러스터링’에서는 스파크의 기본 아키텍처 기반으로 스파크가 클러스터 모드에서 어떻게 동작하는지 설명한다. 이전 여러 장에서 다양한 스파크 API를 사용해 실제 애플리케이션의 개발 방법을 살펴봤다면 14장에서는 클러스터에 전체 스파크 애플리케이션을 배포하는 방법뿐 아니라 기존 하둡을 설치했는지 또는 설치하지 않았는지 확인한다.
15장, ‘스파크 ML을 이용한 텍스트 분석’에서는 스파크 ML을 사용해 텍스트 분석을 설명한다. 텍스트 분석은 머신 러닝의 넓은 분야며, 정서 분석, 채팅 봇, 이메일 스팸 탐지, 자연어 처리 등과 같은 많은 사용 사례에서 유용하다. 10,000개의 트위터 샘플 데이터셋을 텍스트 분류 사용 사례에 중점을 둔 텍스트 분석에 스파크를 사용하는 방법을 살펴본다. 또한 실제 텍스트를 잘 모르는 상태에서 문서에서 주제를 생성하는 인기 있는 기술인 LDA를 살펴보고, LDA가 잘 동작하는지 트위터 데이터를 기반으로 텍스트 분류를 구현한다.
16장, ‘스파크 튜닝’에서는 스파크 내부를 깊이 있게 살펴본다. 그리고 스파크를 사용하는 것이 스칼라 컬렉션을 사용하는 것처럼 느껴지지만 실제 스파크가 분산 시스템에서 실행된다는 것을 잊지 말아야 한다. 또한 스파크 잡 모니터링, 스파크 설정, 스파크 애플리케이션 개발 시 발생하는 일반적인 실수, 최적화 기술에 대해 설명한다.
17장, ‘클러스터에 스파크 배포’에서는 스파크가 기본 아키텍처를 기반으로 클러스터 모드에서 어떻게 동작하는지 살펴본다. 클러스터에서 스파크 아키텍처, 스파크 생태계, 클러스터 관리를 살펴보고 독립형, 메소스(Mesos), 얀(Yarn), 쿠버네티스(kubernetes)에 스파크 애플리케이션을 배포하는 방법을 살펴본다. 마지막으로 클라우드 기반 AWS 클러스터에 스파크 애플리케이션을 배포하는 방법도 살펴본다.
18장, ‘스파크 테스팅과 디버깅’에서는 분산 배포된 애플리케이션의 테스팅에 대한 어려움을 설명하고, 테스팅을 해결할 방법을 살펴본다. 분산 환경에서 테스팅을 수행하는 방법과 스파크 애플리케이션을 테스팅하고 디버깅하는 방법을 다룬다.
19장, ‘PySpark과 SparkR’에서는 파이썬과 R을 사용해 스파크 코드를 작성하는 데 사용되는 두 API, 즉 PySpark와 SparkR을 설명한다. 먼저 PySpark를 시작하는 방법을 설명한 후 PySpark로 데이터 프레임 API와 UDF에 상호작용하는 방법을 설명한다.
그리고 PySpark를 사용해 데이터 분석을 수행한다. 그다음에 SparkR을 시작하는 방법을 설명한다. 또한 데이터 처리과 조작 방법, SparkR을 사용한 RDD와 데이터 프레임을 사용하는 방법, 마지막으로 SparkR을 사용하는 일부 데이터 시각화 방법을 살펴본다.
부록 A, ‘Alluxio로 스파크의 처리 성능 높이기’에서는 Alluxio를 스파크와 함께 사용해 처리 속도를 향상시키는 방법을 보여준다. Alluxio는 스파크를 포함한 여러 플랫폼에서 많은 애플리케이션의 속도를 높여주는 오픈소스 분산 메모리 저장 시스템이다.
Alluxio의 가능성을 살펴보고 Alluxio을 스파크와 통합해 스파크 잡을 실행할 때마다 메모리에 데이터를 캐시할 필요 없이 더 좋은 성능을 보여주는 부분을 보여준다.
부록 B, ‘아파치 제플린에서 대화형 데이터 분석’에서는 데이터 과학 관점에서 데이터 분석의 대화형, 시각적 효과가 중요함을 설명한다. 제플린은 여러 백엔드와 인터프리터가 있는 대화형, 대규모 데이터 분석을 위한 웹 기반 노트북이다. 그리고 백엔드에서 인터프리터로 스파크를 사용해 대규모 데이터를 분석할 수 있게 아파치 제플린을 사용하는 방법을 설명한다.
목차
목차
- 1장. 스칼라 소개
- 스칼라의 역사와 목적
- 플랫폼과 편집기
- 스칼라 설치와 설정
- 자바 설치
- 윈도우
- 맥 OS
- 스칼라: 확장 가능한 언어
- 스칼라는 객체지향
- 스칼라는 함수형
- 스칼라는 정적 타입 지원
- 스칼라는 JVM에서 동작
- 스칼라는 자바 코드를 실행 가능
- 스칼라는 동시 및 동기화 처리 수행 가능
- 자바 프로그래머를 위한 스칼라
- 모든 타입은 객체
- 타입 추론
- 스칼라 REPL
- 중첩 함수
- import문
- 연산자를 메소드로 사용
- 메소드와 파라미터 목록
- 메소드 안의 메소드
- 스칼라 생성자
- 정적 메소드 대신 객체
- 트레이트
- 초보자를 위한 스칼라
- 처음 작성하는 스칼라 코드
- 대화형으로 스칼라 실행
- 컴파일
- 요약
- 2장. 객체지향 언어, 스칼라
- 스칼라 변수
- 참조와 값 불변성
- 스칼라의 데이터 타입
- 스칼라의 메소드, 클래스, 객체
- 스칼라의 메소드
- 스칼라의 클래스
- 스칼라의 객체
- 패키지와 패키지 객체
- 자바 상호운용성
- 패턴 매칭
- 스칼라의 암시
- 스칼라의 제네릭
- 제네릭 클래스의 정의
- SBT와 기타 빌드 시스템
- SBT로 빌드
- 이클립스에 메이븐 사용
- 이클립스에서 그래들 사용
- 요약
- 스칼라 변수
- 3장. 함수형 프로그래밍 개념
- 함수형 프로그래밍 소개
- 함수형 프로그래밍의 장점
- 데이터 과학자를 위한 함수형 스칼라
- 스파크를 공부하는 데 와 FP 스칼라를 설명하는 이유
- 스파크인 이유
- 스칼라와 스파크 프로그래밍 모델
- 스칼라와 스파크 생태계
- 순수 함수와 고차 함수
- 순수 함수
- 익명 함수
- 고차 함수
- 함수를 리턴 값으로 사용
- 고차 함수 사용
- 함수형 스칼라의 에러 핸들링
- 스칼라의 실패와 예외
- 예외 던지기
- try와 catch를 사용한 예외 처리
- finally
- Either 생성
- Future
- 하나의 태스크를 실행하고 대기
- 함수형 프로그래밍과 데이터 가변성
- 요약
- 함수형 프로그래밍 소개
- 4장. 컬렉션 API
- 스칼라 컬렉션 API
- 타입과 계층
- Traversable
- Iterable
- Seq, LinearSeq, IndexedSeq
- 가변과 불변
- 배열
- 리스트
- 셋
- 튜플
- 맵
- Option
- exists
- forall
- filter
- map
- take
- groupBy
- init
- drop
- takeWhile
- dropWhile
- flatMap
- 성능 특징
- 컬렉션 객체의 성능 특징
- 컬렉션 객체가 사용하는 메모리 사용량
- 자바 상호 운영성
- 스칼라 암시 사용
- 스칼라의 암시적 변환
- 요약
- 5장. 스파크로 빅데이터 다루기
- 데이터 분석 소개
- 데이터 분석 프로세스 내부
- 빅데이터 소개
- 빅데이터의 4V
- 하둡을 이용한 분산 컴퓨팅
- 하둡 분산 파일 시스템(HDFS)
- 맵리듀스 프레임워크
- 아파치 스파크
- 스파크 코어
- 스파크 SQL
- 스파크 스트리밍
- 스파크 GraphX
- 스파크 ML
- PySpark
- SparkR
- 요약
- 데이터 분석 소개
- 6장. 스파크로 REPL과 RDD 작업
- 스파크에 대해 깊이 살펴보기
- 아파치 스파크 설치
- 스파크 독립형
- 얀 기반의 스파크
- 메소스 기반의 스파크
- 쿠버네티스 기반 스파크
- RDD 소개
- RDD 생성
- 스파크 셸의 사용
- 트랜스포메이션과 액션
- 트랜스포메이션
- 액션
- 캐싱
- 데이터 로드와 저장
- 데이터 로드
- RDD 저장
- 요약
- 7장. 특수 RDD 연산
- RDD 타입
- 쌍 RDD
- DoubleRDD
- SequenceFileRDD
- CoGroupedRDD
- ShuffledRDD
- UnionRDD
- HadoopRDD
- NewHadoopRDD
- 집계
- groupByKey
- reduceByKey
- aggregateByKey
- combineByKey
- groupByKey, reduceByKey, combineByKey, aggregateByKey의 비교
- 파티셔닝과 셔플링
- 파티셔너
- 셔플링
- 브로드캐스트 변수
- 브로드캐스트 변수 생성
- 브로드캐스트 변수 정리
- 브로드캐스트 정리
- 누산기
- 요약
- RDD 타입
- 8장. 스파크 SQL
- 스파크 SQL과 데이터 프레임
- 데이터 프레임 API와 SQL API
- 피벗
- 필터
- 사용자 정의 함수(UDF)
- 데이터의 스키마 구조
- 데이터셋 로드와 저장
- 집계
- 집계 함수
- groupBy
- rollup
- cube
- 윈도우 함수
- 조인
- 조인의 내부 동작
- 브로드캐스트 조인
- 조인 타입
- 조인의 성능 결과
- 요약
- 9장. 스파크 스트리밍
- 스트리밍에 대한 간략한 소개
- 최소 한 번 처리 방식
- 최대 한 번 처리 방식
- 정확히 한 번 처리
- 스파크 스트리밍
- StreamingContext
- 입력 스트림
- binaryRecordsStream
- queueStream
- textFileStream 예
- twitterStream 예
- 불연속 스트림
- 트랜스포메이션
- 윈도우 연산
- 상태 저장/상태 비저장 트랜스포메이션
- 상태 비저장 트랜스포메이션
- 상태 저장 트랜스포메이션
- 체크 포인팅
- 메타데이터 체크 포인팅
- 데이터 체크포인팅
- 드라이버 실패 복구
- 스트리밍 플랫폼과의 상호운용성(아파치 카프카)
- 수신기 기반의 접근 방식
- 다이렉트 스트림
- 구조화 스트리밍
- 구조화 스트리밍
- 이벤트 시간과 지연 데이터 처리
- 내결함성 의미 체계
- 요약
- 스트리밍에 대한 간략한 소개
- 10장. GraphX
- 그래프 이론에 대한 간략한 소개
- GraphX
- VertexRDD와 EdgeRDD
- VertexRDD
- EdgeRDD
- 그래프 연산자
- filter
- mapValues
- aggregateMessages
- triangleCount
- Pregel API
- 연결된 컴포넌트
- 여행하는 세일즈맨 문제
- ShortestPaths
- 페이지랭크
- 요약
- 11장. 머신 러닝 학습: 스파크 MLlib와 ML
- 머신 러닝 소개
- 일반적인 머신 러닝 워크플로우
- 머신 러닝 작업
- 스파크 머신 러닝 API
- 스파크 머신 러닝 라이브러리
- 피처 추출과 트랜스포메이션
- CountVectorizer
- 토큰화
- StopWordsRemover
- StringIndexer
- OneHotEncoder
- 스파크 ML 파이프라인
- 간단한 파이프라인 생성
- 비지도 머신 러닝
- 차원 축소
- PCA
- 이진 및 다중 클래스 분류
- 성능 메트릭
- 로지스틱 회귀 분석을 이용한 다중 클래스 분류
- 랜덤 포레스트를 사용해 분류 정확도 향상
- 요약
- 머신 러닝 소개
- 12장. 고급 머신 러닝 모범 사례
- 머신 러닝 모범 사례
- 오버피팅과 언더피팅에 주의
- 스파크 MLlib과 ML에 집중
- 애플리케이션에 적합한 알고리즘 선택
- 알고리즘을 선택할 때 고려해야 할 사항
- 알고리즘을 선택할 때 데이터를 검사
- ML 모델의 하이퍼파라미터 튜닝
- 하이퍼파라미터 튜닝
- 그리드 검색 파라미터 튜닝
- 교차 검증
- 신용 위험 분석: 하이퍼파라미터 튜닝 예
- 스파크를 사용한 추천 시스템
- 스파크를 이용한 모델 기반 추천
- 주제 모델링: 텍스트 클러스터링에서 모범 사례
- LDA 동작 방법
- 스파크 MLlib를 이용한 주제 모델링
- 요약
- 머신 러닝 모범 사례