Hive

【Hive】Hive / HiveQL ~ 基本編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/02/25/231235 の続き。 HiveQL を書く機会が得られて、 ちょこちょこSQLと違うので、基本文法を中心にメモる。 目次 【0】データベース関連 【1】テーブル作成 【2】テーブル削除 【3】テーブル…

【トラブル】【Hive】Hive / Partition に関するトラブルシューティング

■ はじめに https://dk521123.hatenablog.com/entry/2020/05/27/175610 などで、でてきたトラブルを纏める 目次 【1】エラー「Column repeated in partitioning columns」が発生する 【2】エラー「Need to specify partition columns」が表示 ※ その他のHi…

【分散処理】PySpark ~ Hive ~

■ はじめに https://dk521123.hatenablog.com/entry/2019/11/14/221126 https://dk521123.hatenablog.com/entry/2019/11/24/225534 https://dk521123.hatenablog.com/entry/2020/01/04/150942 の続き。 今回は、Python から Hive / HiveQL を使えるやり方を …

【Hive】Hive / HiveQL ~ HiveQL関数 / 文字列置換編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/02/25/231235 の続き。 今回は、 文字列置換の関数に絞って、知識を整理する 目次 【0】API仕様 【1】translate() 【2】replace() 【3】regexp_replace() 【0】API仕様 https://cwiki.apache.or…

【Hive】Hive / HiveQL ~ あれこれ編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/02/25/231235 の続き。 Hiveの解析を行っていて、 徐々にだが知識が積み重なってきたので、ここで整理。 目次 【0】Hiveコマンド 【1】 Hiveコマンドオプション 【2】 WITH 句 【0】Hiveコマンド…

【Hive】Hive / HiveQL ~ 入門編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2019/12/28/021109 https://dk521123.hatenablog.com/entry/2020/01/02/000000 https://dk521123.hatenablog.com/entry/2019/11/25/235219 で、Hive の環境設定を行った。 今回は、HiveQL の Hello World …

【Hive】Hive / HiveQL ~ 環境設定 / Linux編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/01/01/000000 の続き。 目次 【0】設定環境 1)前提条件 【1】Derby のインストール 1)Derby の ダウンロード 2)Derby の インストール 3)環境変数の設定 4)環境変数の有効化 5)動作確…

【Hive】Hive / HiveQL ~ 環境設定 / Windows編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2019/12/26/223506 の続き。 やっとこ、Apache Hadoop on Windows が終わったので 今度は、Hive環境を構築する ■ 設定環境 DBについては、サポートされているDB(※)から 選択すればいいが、今回は、Derby…

【Hive】Hive / HiveQL ~ 基礎知識編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2019/09/15/100727 の続き。 今回は、「Hive / HiveQL」を扱う。 目次 【1】Hive 【2】HiveQL (ハイブキューエル) 【3】関連用語 1)パーティション(Partition) 2)メタストア (Metastore) 3)メ…