Google Cloud Platform 사용하기 - Google Cloud Datalab을 개인 노트북에 설치하는 방법

Google Cloud Datalab(https://datalab.cloud.google.com/)이 베타 버전으로 공개 되었다. 

Datalab은 수집된 빅데이터을 분석하여 챠트 등 데이터를 가시화 하는데 유용하다. Datalab을 사용한 빅데이터 처리는 Twitter 이슈 빅데이터 처리 포스팅에 다룰 예정이다.

(Cloud Datalab makes it easy to securely access all your data and public datasets, and use the power of Google BigQuery with SQL and Python to explore, visualize, analyze, and transform data.)

기존 버전에서는 Google Cloud Platform의 프로젝트와 연동되어 자동으로 Compute Engine(VM) 인스턴스가 하나 생성되어 처리했는데, 새로운 버전에서는 개인 노트북이나 컴퓨터에도 설치하여 사용이 가능하다. 시험적으로 옛날 버전으로 하나 생성했는데, 원하지 않게 24시간 Compute Engine이 실행되고 있어서 무료 사용기간이 아니라면 비용이 청구될 수 있을 것 같다.

따라서 지속적인 사용이 아니라면 개인 노트북이나 컴퓨터에 설치해서 사용하는 것이 비용 측면에서 좋을 것 같다.

개인 노트북이나 컴퓨터에 Datalab을 설치하기 위해서는 위 화면에서 Please use the new version of Datalab beta. This version is now obsolete. 을 선택하면 새로운 Datalab을 어떤 방법으로 설치할 것인지 선택하는 페이지가 나온다. 
  1. Run Cloud Datalab locally
  2. Run Cloud Datalab kernels on Google Cloud Platform
  3. Run Cloud Datalab notebooks on Google Cloud Platform VM
개인 노트북에 설치하기 위해서는 'Run Cloud Datalab locally'을 선택한다. 설치 단계는 다음과 같다. Linux, macOS 및 Windows 모두 지원을 한다. 이 포스팅은 macOS을 기준으로 하며, 다른 OS는 웹 페이지를 참고하면 된다. (https://cloud.google.com/datalab/docs/quickstarts/quickstart-local)

  1. Docker 최신 버전 설치
  2. gcloud 툴 설치
  3. Google Cloud Platform의 프로젝트 설치
  4. Docker 실행

1. Docker 최신 버전 설치

각 OS 에 맞춰 설치 파일들이 제공된다. 다운로드 후 설치만 하면 된다. 설치할 때는 환경 변수 저장을 위해 관리자의 권한이 필요하다.
Docker가 설치 후 실행하면 서비스는 백그라운드에서 실행된다.

2. gcloud 툴 설치(Google Cloud SDK 설치)

 gcloud 툴 설치는 두 가지 방법이 있다. 하나는 Google Cloud SDK 설치 파일을 다운로드 받아 실행하는 것이고, 다른 방법은 Interactive installer을 사용하는 것이다. 웹 페이지에 설치 방법이 설명되어 있다. (https://cloud.google.com/sdk/downloads)

2.1 SDK 설치 파일 다운로드 방식

각 OS 에 맞춰 SDK을 다운로드 받은 후 압축 파일을 푼다.

(1) SDK 설치

아래와 같이 OS 별로 셀 또는 배치 파일을 실행한다.

  • On Linux or Mac OS X:
    

    
./google-cloud-sdk/install.sh
  • On Windows:
    

    
.\google-cloud-sdk\install.bat

(2) SDK 초기화 

다음과 같이 SDK을 초기화 한다.
./google-cloud-sdk/bin/gcloud init

2.2 Interactive installer 사용 방식

OS에 맞춰 웹 페이지를 참고하면 쉽게 설치가 가능하다.
 

3. Datalab Docker Container 실행 

Linux와 macOS는 Command Line에서 Datalab Docker Container 실행 방법이 동일하나, Windows는 어플리케이션에서 바로 실행할 수 있다.

3.1 Linux/macOS 실행

3.2 Windows에서 실행


4. 웹 브라우저에서 Cloud Datalab 사용하기 

Docker Container가 실행되면 Cloud Datalab을 사용할 수 있는 웹 서버가 실행되며, 다음과 같이 웹 주소가 표시가 된다. 
Open your browser to http://localhost:8081/ to connect to Datalab.

웹 브라우저에서 'http://localhost:8081' 주소를 입력하면 다음과 같이 Datalab 웹 페이지가 표시되고, 빅데이터을 검색하고 챠트 등 그래프를 그릴 수 있다.

댓글

댓글 쓰기

이 블로그의 인기 게시물

macOS가 갑자기 부팅이 되지 않을 경우 데이터 복구 또는 백업 방법

이미지
어느날 갑작스럽게 Mac이 부팅 되지 않을 때, 그 안에 담겨진 소중한 자료들을 복구 할 수 있는 방법을 소개 합니다. 최악의 상황인 HW 문제가 있다면 소중한 자료들의 확보는 분명 어렵겠지만, OS적인 문제로 부팅이 되지 않을 경우는 다음과 같은 시도를 통해 확보가 가능할 수 있다. Mac 제품 특히 저장 장치가 SSD인 Mac은 저장장치가 메인 보드에 장착되기 때문에 일반 노트북처럼 2.5인치 내장 저장장치를 꺼내 다른 컴퓨터에 연결할 수 없다. 이런 경우 수리 센터에 맡길 수 있겠지만, 데이터 복구는 개인 정보 때문에 지원받지 못할 수 있다. 그렇다면 어떻게 하면 될까? 바로 '외장 저장장치'에 최신 macOS를 설치 후(시동 디스크 생성과 동일), 이 외장 저장장치로부터 macOS을 부팅하여 Mac 내부에 있는 저장장치에 접근이 가능할 수 있고, 데이터도 복구를 할 수 있다. 1. MacBook 또는 iMac 하드웨어 설정 초기화(NVRAM 초기화) 사용하다가 갑자기 어느날 macOS가 부팅이 안되면 우선 머리가 하얗게 되어 아무런 생각이 없을 것이다. 부팅을 여러번 시도할 것이고, 그래도 안된다면 수리 센터를 생각해 볼 것이다. 비용도 비용이지만 소중한 내 자료를 백업 가능할지 모르겠다. 일반 사용자가 하드웨어 설정(보통 이런 설정은 NVRAM에 저장됨)을 바꾸지는 않을 것이다. 하지만 설치한 하드웨어 또는 소프트웨어들에 의해 값들이 변경될 수 있다. NVRAM에 저장되는 정보의 예를 들면 무선랜에 연결되면 다음에 다시 연결될 수 있도록 연결된 무선랜의 이름과 암호를 저장한다. 이러한 하드웨어 설정들이 동작에 일부 영향을 줄 수 있다. 이 NVRAM을 초기화를 위해서는 전원 버튼을 누른 후 바로 'option' + 'command' + 'P' + 'R' 네 키를 동시에 누르면서  약 20초 동안 유지하면 된다. 애플 로고가 두 세번 보일 수도
자세한 내용 보기

C++로 프로그래밍할 때 인자 또는 리턴 값으로 std::vector 등 STL 데이터 타입 처리하는 좋은 방법

C++ 프로그래밍할 때 std::vector 등 STL 데이터 타입을 호출하는 함수로 넘겨주거나 받아야 할 경우가 있다. 이런 경우 메모리 문제 또는 속도 문제 때문에 고민을 많이 할 것 같은데, C++11 이상을 지원하는 컴파일러를 사용하는 분이라면 이 글에서 도움을 받아 가기 바란다. 함수 인자로 넘길 때 이 경우는 사용이 명확하다. Call by Reference으로 데이터를 넘기면 된다.  Call By Reference로 인자로 넘기는 방법은 pointer 를 사용해도 되지만, reference을 사용하는 것이 좋다. void foo1(std::vector & data) {   ... } void foo2(std::vector const& data) {   ... } void foo3(std::vector data) { } int main(int argc, char* argv[]) {   std::vector my_data {10, 20, 30};   foo1(my_data);   foo2(my_data); } 위 코드에서 foo1()과 foo2()는 Call by Reference로 값을 넘기는 반면에 foo3()는 Call by Value로 main()에서 my_data를 넘기게 된다.  foo1()의 data는 main()의 my_data를 참조(reference)하고 있어서 foo1()에서의 데이터 변경은 main()의 my_data에 영향을 주게 된다. 그리고 foo2()는 main()의 my_data를 참조는 하지만 수정을 할 수가 없는 것이라서 단순히 값만 참조할 수 있게 된다. 반면 foo3()에서의 data는 main()의 my_data를 넘기는 순간에 값을 복사하기 때문에 메모리가 증가하게 된다. 또한 foo3()에서 data를 수정하더라도 my_data에 영향을 주지 않는다. 함수에서
자세한 내용 보기

Git 저장소를 병합하는 방법(How to merge repositories in Git)

GIT 저장소를 다른 저장소에 병합하는 방법 Git? Git은 컴퓨터 파일의 변경 내용을 추적하고 여러 사람들일 공유하는 파일에 대해 협업할 수 있도록 파일의 변경을 제어하는 버전 제어 시스템이다. 기존에 CVS, SVN 등 다양한 버전 제어 시스템들이 나왔지만, 최근에는 Git으로 통일되는 것 같다. Git은 분산 리비전(개정) 관리 시스템으로서 속도, 데이터 무결성 및 분산 된 비선형 작업 진행을 지원하는 것이 목표이다.  Git은 Linux 커널 개발을 위해 2005년 리누스 토발즈(Linus Torvalds)가 개발 되었으며, 다른 커널 개발자들도 초기 개발에 기여했다. 대부분의 다른 분산 버전 제어 시스템과 마찬가지로 Client-Server 버전 제어 시스템과는 다르게 중앙 서버와 관계없이 모든 컴퓨터의 Git 디렉토리는 파일 변경 이력(버전)을 추적할 수 있는 분산형 저장소이다. Client-Server 버전 제어 시스템으로 많이 사용했던 SVN(Subversion)은 네트워크 연결이 안될 경우 독립적인 위치에서 동시에 개발이 진행될 때 코드 병합과 이력 관리에 많은 어려움이 있었다. Git은 이런 기본적인 문제점들을 해결하면서 보다 진보적인 방법들을 제공한다.  인터넷 검색을 통해 보다 세부적인 내용과 더불어 다양한 기능들에 대해 찾아 보기 바란다. 서로 다른 저장소를 한 곳에 병합하는 방법 프로젝트 특성에 따라 한 개 이상의 저장소들에서 개발이 진행되다가 저장소의 병합이 필요할 때가 있다. 특정 디렉토리를 생성하여 복사해서 추가하면 되겠지만, 이련 경우에는 기존 저장소의 수정 이력(버전) 정보는 포기해야 한다.  쉽게 기존 저장소의 수정 이력 정보를 포함하여 저장소를 병합하는 방법이 있다. 우선 다음과 같이 세 개의 저장소가 있다고 가정한다. git/project1 git/project2 git/project3 project2와 project3를 pro
자세한 내용 보기