Snowflake

【Snowflake】Snowflakeアンロード の 使用上の注意

■ はじめに https://dk521123.hatenablog.com/entry/2022/07/04/172738 で行ったSnowflakeのデータ アンロード で、 使用していて、ちょこちょこ気になることが出てきたので まとめておく。 目次 【0】公式ドキュメント「データのアンロードに関する考慮事…

【Snowflake】Snowflake ~ データ アンロード ~

■ はじめに https://dk521123.hatenablog.com/entry/2021/11/15/221245 で、Snowflake の データロードについて扱ったが、 今回は、業務でデータアンロード について扱いそうなので 復習も兼ねて、まとめておく。 目次 【1】アンロード(Unload)とは? 【…

【Snowflake】Snowflake ~ ストレージ統合 ~

■ はじめに Snowflakeのストレージ統合(Storage Integration)について 予習をする 目次 【1】ストレージ統合(Storage Integration) 【2】利点 【3】基本操作 1)ストレージ統合作成 - CREATE STORAGE INTEGRATION - 2)ストレージ統合確認 - DESC I…

【Snowflake】Snowflake ~ テストデータ作成 / generator ~

■ はじめに Snowflake の generator() ってメソッドで、 テストデータを簡単に作れるって聞いたので調べてみた。 調べてみて generator() だけでなく、 他のメソッドと組み合わせる必要があるので、それらもまとめてみる。 Snowflakeに関して、調べてみたも…

【Snowflake】Snowflake ~ 日時関連 ~

■ はじめに Snowflake の 日時(日付、時刻含む)について 少しづつだが、まとめておく。 目次 【1】日時(日付、時刻含む)のデータ型 【2】現在日時を返す関数 【3】日時(日付、時刻含む)の変換 1)キャスト 2)DATE_FROM_PARTS関数 【4】日時の計…

【SQL】複合キーの重複データを取得することを考える

■ はじめに Snowflakeのデータ取り込みで、 重複データの調査を依頼されたのでメモ。 目次 【0】お題 補足:単純にそのデータがユニークどうか調べる場合 【1】関連するSQL 1)GROUP BY 2)HAVING 3)自己相関サブクエリ 4)DISTINCT 【2】サンプル …

【Snowflake】Snowflake ~ エラー時の解析方法 ~

■ はじめに 小ネタ。 AWS GlueからSnowflakeにクエリを実行した際に エラーになった時の解析について、学んだのでメモしておく 目次 【1】プログラムなどから実行した際の解析方法 【2】Tips 【3】使用上の注意点 1)保持期間は過去14日間 2)リロード…

【Snowflake】Snowflake ~ GRANT OWNERSHIP ~

■ はじめに https://dk521123.hatenablog.com/entry/2021/11/16/231010 で、アクセス制御で少し触れた GRANT OWNERSHIP を使って 所有者の変更したので、メモしておく 目次 【1】GRANT OWNERSHIP 1)オプション「[ REVOKE | COPY ] CURRENT GRANTS」 補足…

【Snowflake】Snowflake ~ SHOW / DESCRIBE ~

■ はじめに Snowflake で、「show users」や「show roles」 などを 使ったので、メモしておく。 ついでに、DESCRIBE に関してもメモ。 目次 【1】SHOW <オブジェクト> 1)SHOW USERS 2)SHOW ROLES 3)SHOW GRANTS 4)SHOW TABLES 【2】DESCRIBE <オブ…

【Snowflake】【トラブル】エラー「Failed to cast variant value "" to XXX」時の対応

■ はじめに https://dk521123.hatenablog.com/entry/2021/12/15/162658 で少し触れているのだが、 エラー「Failed to cast variant value "" to TIMESTAMP_NTZ」などの 例外が発生したので、その際に行った対応策をメモしておく。 目次 【1】現象詳細 1)…

【Snowflake】Snowflake ~ 基本編 / データ型 ~

■ はじめに https://dk521123.hatenablog.com/entry/2021/12/15/162658 の続き。 データ型で「VARIANT」とかでてきたので 今回は、Snowflakeのデータ型について、扱う。 目次 【0】Snowflake で扱うデータ型 1)サポートされていないデータ型 【1】数値デ…

【Snowflake】Snowflake ~ 基本編 / キャスト ~

■ はじめに Snowflake における データ型 の キャスト(Cast)について扱う 目次 【0】Snowflakeのキャストの仕方 【1】CAST 【2】:: 演算子 【3】TO_ データ型 【4】TRY_CAST 【5】TRY_TO_ データ型 【0】Snowflakeのキャストの仕方 snowflake での…

【Snowflake】Snowflake ~ 基本編 / ゼロコピークローン ~

■ はじめに https://dk521123.hatenablog.com/entry/2021/11/02/130111 https://dk521123.hatenablog.com/entry/2021/11/22/212520 の続き。 Snowflake の特徴の一つでもある「ゼロ コピー クローン」について扱う。 目次 【1】ゼロコピークローン 【2】構…

【Snowflake】Snowflake ~ 入門編 / Hello world ~

■ はじめに https://dk521123.hatenablog.com/entry/2021/11/02/130111 の続き。 既に出来合いのシステムの Snowflake を触りだしたのだが、 やっぱり、ちゃんと学びたいと思った。 Snowflakeは、30日間無料トライアルでの使用があるので 基本的な操作をメモ…

【Snowflake】Snowflake ~ 基本編 / アクセス制御 ~

■ はじめに https://dk521123.hatenablog.com/entry/2021/11/02/130111 https://dk521123.hatenablog.com/entry/2021/11/22/212520 https://dk521123.hatenablog.com/entry/2021/11/15/221245 の続き。 今回は、Snowflake の ロールや権限などのアクセス制御…

【Snowflake】Snowflake ~ 基本編 / データロード ~

■ はじめに https://dk521123.hatenablog.com/entry/2021/11/02/130111 https://dk521123.hatenablog.com/entry/2021/11/22/212520 の続き。 Snowflake を触わる機会があった。 主に、データロードまでやったのだが そこにいきつくまでに、色々なことを学べ…

【Snowflake】Snowflake ~ 基礎知識編 ~

■ はじめに Snowflake (スノーフレイク) を扱うことになったのでメモ。 目次 【1】Snowflake 【2】特徴 【3】構成 / アーキテクチャ 1)ストレージ層 - Storage 2)コンピューティング層 - Compute 3)サービス層 - Services 【4】キャッシュ 1)ク…

【SQL】 LIMIT ~ 出力する行数を制限する ~

【1】LIMIT * 出力する行数を制限する * PostgreSQL や Snowflake でも使えるみたい 【2】構文 SELECT [項目1] (, ...) FROM [テーブル名] LIMIT ([開始位置(行数],) 取得する行数 【3】サンプル SELECT * FROM user LIMIT 5 1)出力結果 "1" "1" "Kim"…