Google BigQuery

GoogleNext 2019レポート:3日目

こんにちは、エクスチュアの權泳東(権泳東/コン・ヨンドン)です。

GoogleNext2019の3日間が終わりました。

最終日の3日目はキーノートはなかったので、朝からブレークアウトセッションに参加。
その中から、BigQuery関連のセッションを2つ紹介します。

Unlocking the Power of Google BigQuery

BigQueryのアーキテクチャと新機能(アルファ版)についてのセッションでした。

BigQueryのアーキテクチャ

BigQueryのメタデータ管理にはSpannerの技術も流用されるのかーと関心しつつ、新機能「Scripting」のリリースが驚きでした。

動画の22:30過ぎから出てきますが、BigQueryにスクリプト機能が実装されました。
クエリをループしたり、条件分岐でクエリを変えたりなど、従来なら何度も繰り返しクエリを実行する必要があった処理も、ひとつのクエリの中で実行出来る訳です。
プロシージャのような使い方が出来ますね。

例えば複数の会員データソースから同じユーザーを名寄せする処理においてユーザーを識別するキーが重複しなくなるまでクエリを回し続けるなんて処理がSQLだけで出来る事が期待されます。

また、UDFもアップデートがありました。
従来はテンポラリなUDFしか作れませんでしたが、今後は永続UDFもサポートされます。
クエリを実行する度にUDFを書く必要がなくて、UDFを一度宣言しておけば、他のクエリからでも使える訳です。

BigQueryがどんんどん痒いところに手が届いてくように進化します。

Making Planet Scale Geospatial Processing Possible with BigQuery GIS

BigQuery GISとEarth Engineを使って、AIS船舶位置情報+衛星データを元に違法操業してる漁船を見つけ出すという事例です。

BigQuery GIS + Earth Engine

まずAISデータを機械学習する事で、船の動きからその船舶が漁船なのか一般船舶なのかを判定します。
しかし違法操業船はAISデータなんて発信しません。

なので、今度は衛星データの中からAIS信号を発信している漁船と、AIS信号に一致しない漁船を識別して、どこで違法操業が行われてるかというのを見つけ出す事例でした。

BigQuery GISと空間データを使った分析は今後も需要が増えそうです。

漁船とその他の船舶を識別

というわけで、あっという間の3日間でした。

弊社はGCPサービスパートナーです。
来年のGoogle Nextに一緒に参加してくれる仲間を募集しております。
お問合わせはこちらからどうぞ。

ブログへの記事リクエストはこちらまで

ピックアップ記事

  1. 最速で理解したい人のためのIT用語集

関連記事

  1. Google Cloud Platform

    Looker: LookerbotでSlackにグラフ画像をスケジュール投稿する

    こんにちは、エクスチュアの權泳東(権泳東/コン・ヨンドン)です。…

  2. Google BigQuery

    GCP: 今月のGCP課金額をslackに自動的に書き込む

    こんにちは、エクスチュアの權泳東(権泳東/コン・ヨンドン)です。…

  3. Adobe Analytics

    BigQuery: テーブルに格納されたURL文字列をKey-ValueのSTRUCT型で抽出する

    こんにちは、エクスチュアの權泳東(権泳東/コン・ヨンドン)です。…

  4. Adobe Analytics

    Adobe Analyticsに入り切らないデータをBigQueryに投入する

    こんにちは、エクスチュアの權泳東(権泳東/コン・ヨンドン)です。…

  5. Adobe Analytics

    Adobe Analytics: Datafeedにデバイスデータがないけど慌てない

    こんにちは、エクスチュアの權泳東(権泳東/コン・ヨンドン)です。…

  6. Adobe Analytics

    Adobe Analytics: DatafeedをGoogle BigQueryにロード(2019…

    こんにちは、エクスチュアの權泳東(権泳東/コン・ヨンドン)です。…

カテゴリ

最近の記事

  1. 進化学に倣う最適化手法「遺伝的アルゴリズム」
  2. dbt_expectationsでデータ品質を向上させよう
  3. BigQueryとSnowflakeのLLM関数を比較してみ…
  4. dbtCloud使ってみた
  5. ChainlitでのOAuth認証にスコープを追加する方法
  1. GA 360 Suite

    BigQuery: Google Analytics 360のネストされたデータ…
  2. GitHub Actions

    GitHub ActionsでGCEへのデプロイを楽にしてみた
  3. ヒートマップ

    【Tips】ヒートマップ機能について①~クリック・スクロール編~
  4. Databricks

    Databricks: Delta Lakeを使ってみる
  5. 未分類

    ThoughtSpotとSnowflakeを使ってセルフBIの世界を体験してみた…
PAGE TOP