arrow_back

BigQuery에 내 데이터 로드하기

가입 로그인
Test and share your knowledge with our community!
done
Get access to over 700 hands-on labs, skill badges, and courses

BigQuery에 내 데이터 로드하기

Lab 1시간 30분 universal_currency_alt 크레딧 1개 show_chart 입문
Test and share your knowledge with our community!
done
Get access to over 700 hands-on labs, skill badges, and courses

GSP865

Google Cloud 사용자 주도형 실습

개요

BigQuery는 Google의 완전 관리형, 노옵스(NoOps), 저비용 분석 데이터베이스입니다. BigQuery를 사용하면 관리할 인프라나 데이터베이스 관리자가 없어도 테라바이트 단위의 데이터를 쿼리할 수 있습니다. BigQuery는 SQL을 사용하므로 사용한 만큼만 지불하는 모델의 장점을 활용할 수 있습니다. BigQuery는 데이터를 분석하여 의미 있고 유용한 정보를 찾는 데 집중할 수 있게 해줍니다.

이 실습에서는 NYC 택시 운행 데이터의 하위 집합을 BigQuery 내부의 테이블에 수집합니다.

학습할 내용

  • 다양한 소스에서 BigQuery에 데이터 로드하기
  • CLI 및 콘솔을 사용하여 BigQuery에 데이터 로드하기
  • DDL을 사용하여 테이블 만들기

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머에는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지 표시됩니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 직접 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

  • 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)
참고: 이 실습을 실행하려면 시크릿 모드 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학생 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.
  • 실습을 완료하기에 충분한 시간---실습을 시작하고 나면 일시중지할 수 없습니다.
참고: 계정에 추가 요금이 발생하지 않도록 하려면 개인용 Google Cloud 계정이나 프로젝트가 이미 있어도 이 실습에서는 사용하지 마세요.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

  1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 팝업이 열립니다. 왼쪽에는 다음과 같은 항목이 포함된 실습 세부정보 패널이 있습니다.

    • Google 콘솔 열기 버튼
    • 남은 시간
    • 이 실습에 사용해야 하는 임시 사용자 인증 정보
    • 필요한 경우 실습 진행을 위한 기타 정보
  2. Google 콘솔 열기를 클릭합니다. 실습에서 리소스가 가동된 후 로그인 페이지가 표시된 다른 탭이 열립니다.

    팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

    참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.
  3. 필요한 경우 실습 세부정보 패널에서 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다. 다음을 클릭합니다.

  4. 실습 세부정보 패널에서 비밀번호를 복사하여 시작 대화상자에 붙여넣습니다. 다음을 클릭합니다.

    중요: 왼쪽 패널에 표시된 사용자 인증 정보를 사용해야 합니다. Google Cloud Skills Boost 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.
  5. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

    • 이용약관에 동의합니다.
    • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
    • 무료 평가판을 신청하지 않습니다.

잠시 후 Cloud 콘솔이 이 탭에서 열립니다.

참고: 왼쪽 상단에 있는 탐색 메뉴를 클릭하면 Google Cloud 제품 및 서비스 목록이 있는 메뉴를 볼 수 있습니다. 탐색 메뉴 아이콘

BigQuery 콘솔 열기

  1. Google Cloud 콘솔에서 탐색 메뉴 > BigQuery를 선택합니다.

Cloud 콘솔의 BigQuery에 오신 것을 환영합니다라는 메시지 상자가 열립니다. 이 메시지 상자에서는 빠른 시작 가이드 및 출시 노트로 연결되는 링크가 제공됩니다.

  1. 완료를 클릭합니다.

BigQuery 콘솔이 열립니다.

작업 1. 테이블을 저장할 새 데이터 세트 만들기

  1. BigQuery 콘솔에서 프로젝트 ID 옆에 있는 작업 보기 아이콘(작업 보기 아이콘)을 클릭하고 데이터 세트 만들기를 클릭합니다.

프로젝트 이름과 데이터 세트 만들기 링크가 강조 표시된 BigQuery 콘솔

  1. 데이터 세트 IDnyctaxi로 설정합니다. 다른 필드는 기본값 그대로 둡니다.

  2. 데이터 세트 만들기를 클릭합니다.

이제 프로젝트 이름 아래에 nyctaxi 데이터 세트가 표시됩니다.

이 실습의 진행 상황을 확인하려면 아래의 내 진행 상황 확인하기를 클릭하세요. 체크표시가 있으면 실습을 정상적으로 진행한 것입니다.

새 테이블을 저장할 데이터 세트 만들기

작업 2. CSV에서 새 데이터 세트 수집

이 섹션에서는 로컬 CSV 파일을 BigQuery 테이블에 로드해 보겠습니다.

  1. 이 링크에서 2018년 NYC 택시 운행 데이터의 하위 집합을 다운로드하여 컴퓨터에 로컬 파일로 저장합니다.

  2. BigQuery 콘솔에서 nyctaxi 데이터 세트 옆에 있는 작업 보기 아이콘을 클릭한 후 테이블 만들기를 클릭합니다.

  3. 다음 테이블 옵션을 지정합니다.

소스:

  • 다음 항목으로 테이블 만들기: 업로드
  • 파일 선택: 앞서 다운로드한 로컬 파일 찾아보기
  • 파일 형식: CSV

대상:

  • 테이블 이름: 2018trips

나머지 설정은 모두 기본값으로 둡니다.

스키마:

  • 자동 감지에 체크 표시(: 체크박스가 보이지 않을 경우 파일 형식이 Avro가 아닌 CSV인지 재확인)

고급 옵션

  • 기본값으로 유지
  1. 테이블 만들기를 클릭합니다.

이제 nyctaxi 데이터 세트 아래에 2018trips 테이블이 표시됩니다.

2018trips 테이블을 선택하여 다음과 같은 세부정보를 봅니다.

  1. 미리보기를 선택하고 모든 열이 로드되었는지 확인합니다.

CSV 파일을 새 BigQuery 테이블에 성공적으로 로드했습니다.

SQL 쿼리 실행

다음으로, 2018trips 테이블에서 기본적인 쿼리를 실습해 보겠습니다.

  • 1년간 요금 액수 기준으로 5위까지의 운행 기록을 표시하는 쿼리를 쿼리 편집기에서 작성합니다.
#standardSQL SELECT * FROM nyctaxi.2018trips ORDER BY fare_amount DESC LIMIT 5

이 실습의 진행 상황을 확인하려면 아래의 내 진행 상황 확인하기를 클릭하세요. 체크표시가 있으면 실습을 정상적으로 진행한 것입니다.

CSV에서 새 데이터 세트 수집하기

작업 3. Google Cloud Storage에서 새 데이터 세트 수집

이제 Cloud Storage에 있는 동일한 2018년 운행 데이터의 다른 하위 집합을 로드해 보겠습니다. 이번에는 CLI 도구를 사용합니다.

  1. Cloud Shell에서 다음 명령어를 실행합니다.
bq load \ --source_format=CSV \ --autodetect \ --noreplace \ nyctaxi.2018trips \ gs://cloud-training/OCBL013/nyc_tlc_yellow_trips_2018_subset_2.csv 참고: 이 로드 작업을 통해, 앞서 만들었던 기존 2018trips 테이블에 이 하위 집합이 추가되도록 지정할 수 있습니다.

로드 작업이 완료되면 화면에 확인 메시지가 표시됩니다.

  1. BigQuery 콘솔로 돌아가 2018trips 테이블을 선택하고 세부정보를 봅니다. 행의 개수가 이제 거의 2배가 되었는지 확인합니다.

  2. 앞서 사용한 쿼리를 실행하여 요금액 기준으로 5위까지의 운행 기록이 달라졌는지 확인할 수도 있습니다.

이 실습의 진행 상황을 확인하려면 아래의 내 진행 상황 확인하기를 클릭하세요. 체크표시가 있으면 실습을 정상적으로 진행한 것입니다.

Google Cloud Storage에서 데이터 세트 수집하기

작업 4. DDL이 있는 다른 테이블에서 테이블 만들기

지금 2018trips 테이블에는 1년간의 운행 데이터가 있습니다. 1월의 운행 기록만 확인하고 싶을 때는 어떻게 하면 될까요? 이 실습의 취지에 맞게 날짜와 시간에 초점을 맞춰 간단하게 살펴보려고 합니다. DDL을 사용하여 이 데이터를 추출하고 다른 테이블에 저장해 보겠습니다.

  1. 쿼리 편집기에서 다음 CREATE TABLE 명령어를 실행합니다.
#standardSQL CREATE TABLE nyctaxi.january_trips AS SELECT * FROM nyctaxi.2018trips WHERE EXTRACT(Month FROM pickup_datetime)=1;
  1. 이제 쿼리 편집기에서 아래 쿼리를 실행하면 1월 기록 중 최장 거리 운행을 찾을 수 있습니다.
#standardSQL SELECT * FROM nyctaxi.january_trips ORDER BY trip_distance DESC LIMIT 1

이 실습의 진행 상황을 확인하려면 아래의 내 진행 상황 확인하기를 클릭하세요. 체크표시가 있으면 실습을 정상적으로 진행한 것입니다.

DDL이 있는 다른 테이블에서 테이블 만들기

수고하셨습니다

새로운 데이터 세트를 만들고 CSV, Google Cloud Storage, 기타 BigQuery 테이블에서 BigQuery로 데이터를 수집하는 방법을 학습했습니다.

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2023년 9월 25일

실습 최종 테스트: 2023년 9월 25일

Copyright 2024 Google LLC All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.