Snowflake
■ はじめに https://dk521123.hatenablog.com/entry/2022/07/04/172738 で行ったSnowflakeのデータ アンロード で、 使用していて、ちょこちょこ気になることが出てきたので まとめておく。 目次 【0】公式ドキュメント「データのアンロードに関する考慮事…
■ はじめに https://dk521123.hatenablog.com/entry/2021/11/15/221245 で、Snowflake の データロードについて扱ったが、 今回は、業務でデータアンロード について扱いそうなので 復習も兼ねて、まとめておく。 目次 【1】アンロード(Unload)とは? 【…
■ はじめに Snowflakeのストレージ統合(Storage Integration)について 予習をする 目次 【1】ストレージ統合(Storage Integration) 【2】利点 【3】基本操作 1)ストレージ統合作成 - CREATE STORAGE INTEGRATION - 2)ストレージ統合確認 - DESC I…
■ はじめに Snowflake の generator() ってメソッドで、 テストデータを簡単に作れるって聞いたので調べてみた。 調べてみて generator() だけでなく、 他のメソッドと組み合わせる必要があるので、それらもまとめてみる。 Snowflakeに関して、調べてみたも…
■ はじめに Snowflake の 日時(日付、時刻含む)について 少しづつだが、まとめておく。 目次 【1】日時(日付、時刻含む)のデータ型 【2】現在日時を返す関数 【3】日時(日付、時刻含む)の変換 1)キャスト 2)DATE_FROM_PARTS関数 【4】日時の計…
■ はじめに Snowflakeのデータ取り込みで、 重複データの調査を依頼されたのでメモ。 目次 【0】お題 補足:単純にそのデータがユニークどうか調べる場合 【1】関連するSQL 1)GROUP BY 2)HAVING 3)自己相関サブクエリ 4)DISTINCT 【2】サンプル …
■ はじめに 小ネタ。 AWS GlueからSnowflakeにクエリを実行した際に エラーになった時の解析について、学んだのでメモしておく 目次 【1】プログラムなどから実行した際の解析方法 【2】Tips 【3】使用上の注意点 1)保持期間は過去14日間 2)リロード…
■ はじめに https://dk521123.hatenablog.com/entry/2021/11/16/231010 で、アクセス制御で少し触れた GRANT OWNERSHIP を使って 所有者の変更したので、メモしておく 目次 【1】GRANT OWNERSHIP 1)オプション「[ REVOKE | COPY ] CURRENT GRANTS」 補足…
■ はじめに Snowflake で、「show users」や「show roles」 などを 使ったので、メモしておく。 ついでに、DESCRIBE に関してもメモ。 目次 【1】SHOW <オブジェクト> 1)SHOW USERS 2)SHOW ROLES 3)SHOW GRANTS 4)SHOW TABLES 【2】DESCRIBE <オブ…
■ はじめに https://dk521123.hatenablog.com/entry/2021/12/15/162658 で少し触れているのだが、 エラー「Failed to cast variant value "" to TIMESTAMP_NTZ」などの 例外が発生したので、その際に行った対応策をメモしておく。 目次 【1】現象詳細 1)…
■ はじめに https://dk521123.hatenablog.com/entry/2021/12/15/162658 の続き。 データ型で「VARIANT」とかでてきたので 今回は、Snowflakeのデータ型について、扱う。 目次 【0】Snowflake で扱うデータ型 1)サポートされていないデータ型 【1】数値デ…
■ はじめに Snowflake における データ型 の キャスト(Cast)について扱う 目次 【0】Snowflakeのキャストの仕方 【1】CAST 【2】:: 演算子 【3】TO_ データ型 【4】TRY_CAST 【5】TRY_TO_ データ型 【0】Snowflakeのキャストの仕方 snowflake での…
■ はじめに https://dk521123.hatenablog.com/entry/2021/11/02/130111 https://dk521123.hatenablog.com/entry/2021/11/22/212520 の続き。 Snowflake の特徴の一つでもある「ゼロ コピー クローン」について扱う。 目次 【1】ゼロコピークローン 【2】構…
■ はじめに https://dk521123.hatenablog.com/entry/2021/11/02/130111 の続き。 既に出来合いのシステムの Snowflake を触りだしたのだが、 やっぱり、ちゃんと学びたいと思った。 Snowflakeは、30日間無料トライアルでの使用があるので 基本的な操作をメモ…
■ はじめに https://dk521123.hatenablog.com/entry/2021/11/02/130111 https://dk521123.hatenablog.com/entry/2021/11/22/212520 https://dk521123.hatenablog.com/entry/2021/11/15/221245 の続き。 今回は、Snowflake の ロールや権限などのアクセス制御…
■ はじめに https://dk521123.hatenablog.com/entry/2021/11/02/130111 https://dk521123.hatenablog.com/entry/2021/11/22/212520 の続き。 Snowflake を触わる機会があった。 主に、データロードまでやったのだが そこにいきつくまでに、色々なことを学べ…
■ はじめに Snowflake (スノーフレイク) を扱うことになったのでメモ。 目次 【1】Snowflake 【2】特徴 【3】構成 / アーキテクチャ 1)ストレージ層 - Storage 2)コンピューティング層 - Compute 3)サービス層 - Services 【4】キャッシュ 1)ク…
【1】LIMIT * 出力する行数を制限する * PostgreSQL や Snowflake でも使えるみたい 【2】構文 SELECT [項目1] (, ...) FROM [テーブル名] LIMIT ([開始位置(行数],) 取得する行数 【3】サンプル SELECT * FROM user LIMIT 5 1)出力結果 "1" "1" "Kim"…