はてブログ

はてなブックマーク新着エントリーの過去ログサイトです。



タグ Google BigQuery

新着順 人気順 5 users 10 users 50 users 100 users 500 users 1000 users
 
(1 - 25 / 29件)

BigQuery や Google Workspace のログを使って分析環境を管理する|Mercari Analytics Blog

2023/09/05 このエントリーをはてなブックマークに追加 7 users Instapaper Pocket Tweet Facebook Share Evernote Clip BigQuery 野本 メルカリ 監査ログ ロク

BI Product チームの野本です。 メルカリでは Google BigQuery 監査ログと Google Workspace ログイベントを BigQuery にエクスポートして、データ分析環境の管理に活用しています。アクセス履歴を詳細に調べられる BigQuery 監査ログは、分析環境のコスト最適化やテーブルの変更時の影響範囲調査などの管理業務にとても... 続きを読む

楽天グループが数ペタバイト級の会員分析DBを刷新、Google BigQueryを選んだわけ

2022/04/19 このエントリーをはてなブックマークに追加 8 users Instapaper Pocket Tweet Facebook Share Evernote Clip 楽天グループ クラウ DWH BigQuery グーグル

楽天グループは2022年4月19日、ユーザーの属性情報や行動情報などを分析するデータベース(DB)である「楽天スーパーDB」の稼働環境に、米Google(グーグル)のクラウドサービス「BigQuery」を採用したと発表した。これまでオンプレミス環境のデータウエアハウス(DWH)で管理していた数ペタバイト級のデータを、クラウ... 続きを読む

複数の AWS アカウントの AWS Security Hub 検出結果を Google BigQuery と Google DataPortal(DataStudio) により可視化した話 - Adwaysエンジニアブログ

2022/03/25 このエントリーをはてなブックマークに追加 8 users Instapaper Pocket Tweet Facebook Share Evernote Clip エクスポート DataStudio 構想 インフラ 選定

こんにちは、インフラの天津です。今日は 複数アカウントの AWS Security Hub 検出結果の可視化についてお話したいと思います。 前提 モチベーション AWS Security Hub とは 構想 ツール・サービスの選定 検出結果データのエクスポートについて 可視化用データベース(またはクエリサービス)と可視化ツールについて 構... 続きを読む

Amazon AuroraのデータをリアルタイムにGoogle BigQueryに連携してみた / Realtime data linkage from Amazon Aurora to Google BigQuery - Speaker Deck

2021/01/28 このエントリーをはてなブックマークに追加 20 users Instapaper Pocket Tweet Facebook Share Evernote Clip Speaker Deck リアルタイム BigQuery

Transcript Amazon AuroraのデータをリアルタイムにGoogle BigQueryに連携してみた
 株式会社ZOZOテクノロジーズ
 SRE部
 塩崎 健弘 Copyright © ZOZO Technologies, Inc. © ZOZO Technologies, Inc. 株式会社ZOZOテクノロジーズ
 SRE部
 塩崎 健弘
 2年前にRedshiftをBigQueryにマイグレーションしたことが きっかけで... 続きを読む

6,000スロットを使うBigQueryのリソース配分最適化への挑戦

2020/03/31 このエントリーをはてなブックマークに追加 12 users Instapaper Pocket Tweet Facebook Share Evernote Clip BigQuery リソース配分 エンジニア かなりヘビー 工夫

こんにちは。エンジニアのg0eです。 今回は、6,000スロットを使うBigQueryのリソース配分最適化への挑戦と題して、Google BigQueryの主にスロット周りの話について書いてみたいと思います。 背景当社ではプロダクトの中でBigQueryをかなりヘビーに活用しています。どのような使い方をしているか、どのような工夫をしてい... 続きを読む

オープンソースのWebアプリケーション分析ツール「Cube.js」 - エンジニア・プログラマのソーシャルITメディア

2019/09/08 このエントリーをはてなブックマークに追加 254 users Instapaper Pocket Tweet Facebook Share Evernote Clip プログラマ npm YARN エンジニア RDB

「Cube.js」は、npmやyarnでインストールできるオープンソースのWebアプリケーション用分析ツールです。RDBだけでなく、AWS AthenaやGoogle BigQueryなどのサーバーレスクエリエンジンと連携するように設計されています。機能が非常に豊富なので、今回は初期セットアップに的を絞ってご紹介します。 ◆ オープンソースのW... 続きを読む

オープンソースのWebアプリケーション分析ツール「Cube.js」 | AnyPicks

2019/07/25 このエントリーをはてなブックマークに追加 254 users Instapaper Pocket Tweet Facebook Share Evernote Clip npm YARN AnyPicks RDB オープンソース

「Cube.js」は、npmやyarnでインストールできるオープンソースのWebアプリケーション用分析ツールです。RDBだけでなく、AWS AthenaやGoogle BigQueryなどのサーバーレスクエリエンジンと連携するように設計されています。機能が非常に豊富なので、今回は初期セットアップに的を絞ってご紹介します。 ◆ オープンソースのW... 続きを読む

BigQueryの新機能を使ってクエリ料金を1/1000にする - Kaizen Platform 開発者ブログ

2018/09/19 このエントリーをはてなブックマークに追加 76 users Instapaper Pocket Tweet Facebook Share Evernote Clip BigQuery BigQue 大迫 エンジニア ウェブサイト

こんにちは、エンジニアの大迫です。 Kaizen Platformでは、以前からGoogle BigQueryを利用して、ウェブサイトの行動ログや広告の配信レポートなど様々なデータを保存・活用できるような仕組みを整え、お客様のウェブサイトや広告クリエイティブの改善に取り組んできました。特にここ最近では、非エンジニア向けにBigQue... 続きを読む

Google BigQueryがサービスのデバグに役に立った話 - ゆーすけべー日記

2015/12/08 このエントリーをはてなブックマークに追加 35 users Instapaper Pocket Tweet Facebook Share Evernote Clip デバグ データウェアハウス BigQuery 実話 一貫

2015-12-08 Google BigQueryがサービスのデバグに役に立った話 GoogleがCloud Platformの一貫として提供するBigQueryというサービス。データウェアハウスともビッグデータ解析ツールとも言われていますが、今回は「サービスのデバグに便利」ということをガチの実話を交えて話してみましょう。 BigQueryざっくり紹介 BigQueryはの機能をわかりやすく言う... 続きを読む

なぜ私たちはSumo Logicを捨ててBigQueryを選んだのか - tech.guitarrapc.cóm

2015/08/16 このエントリーをはてなブックマークに追加 193 users Instapaper Pocket Tweet Facebook Share Evernote Clip BigQuery tech.guitarrapc.cóm

2015-08-16 なぜ私たちはSumo Logicを捨ててBigQueryを選んだのか BigQuery SumoLogic NewRelic ASP.NET C# ログ分析サービスはアプリケーションのインフラであり、サービス開発/運用の中で重要な位置を占めます。謎社では、今年に入って利用しているログ分析サービスを、 Sumo Logic から Google BigQuery に完全移行しまし... 続きを読む

Google BigQuery クエリーリファレンス - Google Cloud Platform

2015/06/16 このエントリーをはてなブックマークに追加 41 users Instapaper Pocket Tweet Facebook Share Evernote Clip Google Cloud Platform

このページは、2015 年 3 月 1日現在の https://cloud.google.com/bigquery/query-reference の翻訳です。最新の情報は、こちらの英語のページもご確認ください。 修正等のフィードバックがあれば、こちらからお寄せください。 BigQuery のクエリーは、標準 SQL の SELECT 文にアレンジを加えたものを使って書きます。BigQuery は... 続きを読む

実践 Google BigQuery - Google スライド

2015/04/09 このエントリーをはてなブックマークに追加 53 users Instapaper Pocket Tweet Facebook Share Evernote Clip スライド Google

続きを読む

誰でも簡単に超高速なクエリができるBigQueryとは? - Build Insider

2015/03/31 このエントリーをはてなブックマークに追加 203 users Instapaper Pocket Tweet Facebook Share Evernote Clip MapReduce BigQuery クエリ パブリック 実装

この2つの技術は、グーグル独自の技術というわけではない。しかし、ハードウェアから構築している、既存のグーグルのクラウド技術を活用し、パブリックなクラウドサービスとして提供可能なレベルの実装になっている点がGoogle BigQueryの強みとなっている。 BigQueryの特徴 他の類似サービスとの比較 巨大データを処理する技術としては、同じグーグルが使ってきたMapReduceというものがある。... 続きを読む

VMwareとGoogleがパブリッククラウドで連携。vCloud AirからBigQueryやGoogle Cloud Storageなどが利用可能に - Publickey

2015/01/29 このエントリーをはてなブックマークに追加 32 users Instapaper Pocket Tweet Facebook Share Evernote Clip VMware Publickey BigQuery 連携 機能

VMwareとGoogleはパブリックラウドで連携、vCloud Airの機能としてGoogle Cloud Platformを緊密に連携させることを発表しました。 具体的には、vCloud Airから以下のGoogle Cloud Platformの機能が利用可能になります。 Google Cloud Storage(分散オブジェクトストレージ) Google BigQuery(大規模データ処理... 続きを読む

Google BigQueryについて 紹介と推測

2015/01/20 このエントリーをはてなブックマークに追加 29 users Instapaper Pocket Tweet Facebook Share Evernote Clip 推測 紹介

Pornographic Defamatory Illegal/Unlawful Spam Other Violations Thanks for flagging this SlideShare! Oops! An error has occurred. 続きを読む

データ加工機としての Google BigQuery - ゆーすけべー日記

2014/12/30 このエントリーをはてなブックマークに追加 98 users Instapaper Pocket Tweet Facebook Share Evernote Clip ゆーすけべー日記

ボケてでは既に「お題」が110万レコード、「ボケ」が2,300万レコード、それに対するユーザーの「評価」が1億1,000万レコード数存在します。このところそれをちょいと利用して、楽しことをしましょうっていうんで、直近1年間の範囲である条件下のデータをエキスポートする必要がありました。ボケての基本的なデータは全て Amazon RDS の MySQL ストレージに格納されていて、この件で出力する形式... 続きを読む

Google BigQueryで今期アニメに関するツイートを分析するぞい! - Qiita

2014/10/29 このエントリーをはてなブックマークに追加 79 users Instapaper Pocket Tweet Facebook Share Evernote Clip Qiita ぞい ファイルブラウザ BigQuery CSV

BigQueryでアニメに関するツイートを分析する アニメツイートを記録したCSVをBigQueryに上げる データ形式を選択する CSV/JSON/AppEngine Backupが選べますが今回はCSVとします。 File Uploadでブラウザからファイルアップロード・・・といきたい所ですがファイルブラウザからのアップロードは10Mバイトに制限されています。 10Mバイト以上のファイルはGo... 続きを読む

Google BigQueryを使ってみた!

2014/10/24 このエントリーをはてなブックマークに追加 55 users Instapaper Pocket Tweet Facebook Share Evernote Clip Presentation Transcript サイズ

Google BigQueryを使ってみた! Presentation Transcript 1. Google BigQueryを つかってみた! PerlCasual#06 2014/10/24 Yusuke Wada a.k.a. yusukebe 2. 2つの問題意識 3. 1. 開発サイドから • 例えばアクセスログが膨らんで活用できない 1.サイズが大きい 2.分散されている 3.量が... 続きを読む

Google BigQuery の話 #gcpja // Speaker Deck

2014/09/17 このエントリーをはてなブックマークに追加 33 users Instapaper Pocket Tweet Facebook Share Evernote Clip gcpja Speaker Deck

gcp ja night で話した BigQuery のスライド。YAPC::Asia のものに数枚だけスライドを追加したもので、ほぼ同じです。 続きを読む

Google Enterprise Japan 公式ブログ: Google BigQuery を使って歴史事象パターンの関連を探しだす

2014/09/02 このエントリーをはてなブックマークに追加 22 users Instapaper Pocket Tweet Facebook Share Evernote Clip Google Enterprise Japan 関連 言語

2014年9月2日火曜日 Google BigQuery を使って歴史事象パターンの関連を探しだす 今年の6月、米国、ジョージタウン大学の Kalev Leetaru は 2.5 億レコードの完全な GDELT イベントデータベースが BigQuery で利用可能になったことを発表しました。このデータセットは、100 以上の言語に渡る世界中の放送、印刷、およびWebニュースメディアから配信された内... 続きを読む

Google BigQuery の話 #yapcasia // Speaker Deck

2014/08/30 このエントリーをはてなブックマークに追加 223 users Instapaper Pocket Tweet Facebook Share Evernote Clip yapcasia Speaker Deck

All slide content and descriptions are owned by their creators. 続きを読む

BigQuery と Google の Big Data Stack 2.0 - naoyaのはてなダイアリー

2014/08/15 このエントリーをはてなブックマークに追加 351 users Instapaper Pocket Tweet Facebook Share Evernote Clip Ove naoya アーキテクチャー BigQuery 洋書

先日、有志で集まって「BigQuery Analytics」という書籍の読書会をやった。その名の通り Google BigQuery について書かれた洋書。BigQuery を最近仕事で使い始めたのだけど、BigQuery が開発された背景とかアーキテクチャーとかあまり調べもせずに使い始めたので、今更ながらその辺のインプットを増やして以降と思った次第。それで、読書会の第1回目は書籍の中でも Ove... 続きを読む

Google BigQuery で DWH 構築 - YAPC::Asia Tokyo 2014

2014/06/27 このエントリーをはてなブックマークに追加 23 users Instapaper Pocket Tweet Facebook Share Evernote Clip DWH YAPC Asia TOKYO 構築

Currently this talk is in PENDING state. If you would like to see this talk at the event, please consider using the social media buttons below to express your interest! 続きを読む

GoogleBigQuery - BigQuery Connector for Excelを使ってExcelで超高速クエリ実行を行う - Qiita

2014/06/05 このエントリーをはてなブックマークに追加 57 users Instapaper Pocket Tweet Facebook Share Evernote Clip クエリ Qiita Excel 結果

Google BigQueryは超高速でクエリを実行できて便利であるが、結局のところExcelデータでください、みたいなことを言われたりして面倒なことがある。こういったとき、Google BigQuery Connector for Excelを使用すれば、Microsoft Excelから直接Google BigQueryにクエリを発行し結果を取得することが出来る。 BigQuery Conne... 続きを読む

FluentdでGoogle BigQueryにログを挿入してクエリを実行する - Qiita

2014/05/27 このエントリーをはてなブックマークに追加 130 users Instapaper Pocket Tweet Facebook Share Evernote Clip Qiita fluentd 虎の子 BigQuery クエリ

Googleの虎の子BigQueryをFluentdユーザーが使わない理由はなくなったとのこと。 Googleの虎の子「BigQuery」をFluentdユーザーが使わない理由がなくなった理由 #gcpja - Qiita よし、Google BigQueryを使って超高速ログ解析だ!!!!と思っているとそこまでの道のりは長かった。 Google BigQueryの環境を構築する Google B... 続きを読む

 
(1 - 25 / 29件)