2020-07-01から1ヶ月間の記事一覧

【分散処理】PySpark ~ CSV / Read/Writeのプロパティ ~

■ はじめに https://dk521123.hatenablog.com/entry/2019/11/24/225534 https://dk521123.hatenablog.com/entry/2020/07/09/000832 https://dk521123.hatenablog.com/entry/2020/11/23/224349 の続き。 今回は、PySpark において、 CSV の Read/Writeのプロ…

【Hive】Hive / HiveQL ~ デバッグ編 ~

■ はじめに Hive / HiveQL のデバッグで得た知識を纏める。 目次 【1】標準出力するには 【2】詳細ログ・ログの抑制を行うには 【1】標準出力するには !echo "hello world. ${value1}"; 参考文献 https://stackoverflow.com/questions/28703405/output-ec…

【トラブル】【Android】Android でのトラブル その1

■ はじめに Android でのトラブル を徐々にまとめる 目次 【1】「X app (Error: Default Activity Not Found)」が表示 【1】「X app (Error: Default Activity Not Found)」が表示 Android Studio で気が付いたら、「X app」(X:×アイコン)が表示されて …

【Kotlin】 Kotlin ~ 基本編 / 日付・時間 ~

■ はじめに 基本的に Java の 日付・時間 を使えるので なんってことはないが、あまりにも使うので まとめておく 実行環境 https://try.kotlinlang.org/#/Examples/Hello,%20world!/Simplest%20version/Simplest%20version.kt ■ サンプル package com.dk.jpa…

【Android】ダイアログ表示 ~ 基本編 / 日付・時間ダイアログ ~

■ はじめに https://dk521123.hatenablog.com/entry/2013/10/14/002656 https://dk521123.hatenablog.com/entry/2013/10/05/214058 https://dk521123.hatenablog.com/entry/2013/10/06/122942 https://dk521123.hatenablog.com/entry/2013/10/07/005850 の続…

【Android】Android の ログ に関する あれこれ

■ はじめに 今更ながら、Android の ログ に関して、まとめていく 目次 【1】ログを表示する 【2】ログ種類 【3】ログ構文・サンプル 【1】ログを表示する https://developer.android.com/studio/debug/am-logcat?hl=ja [View] > [Tool Windows] > [Logc…

【トラブル】【Android】Realm に関するトラブル

■ はじめに https://dk521123.hatenablog.com/entry/2018/09/01/213649 https://dk521123.hatenablog.com/entry/2018/09/02/130212 https://dk521123.hatenablog.com/entry/2020/07/20/232009 などで扱った Realm に関するトラブルシューティングに関して ま…

【Kotlin】Kotlin ~ 基本編 / クラス ~

■ はじめに https://dk521123.hatenablog.com/entry/2018/09/13/001546 の続き。 Kotlin の クラス や コンストラクタ を纏めていく。 結構、Javaと違う点が多い。いい変更もありますが。 目次 【1】クラス 0)Javaとの違い 1)data (データクラス) 2…

【AWS】AWS のコスト節約を考える ~ S3編 ~

AWS

■ はじめに https://dk521123.hatenablog.com/entry/2017/07/26/115400 https://dk521123.hatenablog.com/entry/2017/12/07/223753 の続き。 今回は、S3でのコスト節約を考える。 普通のシステムを扱う場合、S3のコストはあんまり考えたことがなかったが、 …

【Android】画面コンポーネント / RecyclerView ~ 入門編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2013/10/10/005010 https://dk521123.hatenablog.com/entry/2018/09/02/130212 で、ListView を扱ったが、Android Studio の Palette をみると Legacy(レガシー)の中にあったので、古いのかなーっと。 …

【Android】Kotlin / Realm で英単語帳を作る

■ はじめに Android の勉強を再開して、いつの間にか Ankoが非推奨になったりと、色々変化があった。 とりあえず、Anko抜きで、簡単なアプリとして 英単語帳でも作ってみる 補足:Github * つらつらと、以下の Github で全コードを置いておく https://github…

【Kotlin】Kotlin ~ 基本編 / スコープ関数 ~

■ はじめに https://dk521123.hatenablog.com/entry/2018/09/13/001546 https://dk521123.hatenablog.com/entry/2020/07/07/000000 の続き。 今回は、Kotlin特有のスコープ関数について、学ぶ。 目次 【1】with関数 【2】apply関数 【3】let関数 【4】ru…

【Android】音声を再生するには

■ はじめに Android で 音声 を 再生 する方法を学ぶ。 なお、音声ファイルは、以下のサイトから落とせる。 ダウンロードしたwavファイルを以下に置く。 ~~~~~ res/raw/***.wav ~~~~~ https://maoudamashii.jokersounds.com/core.cgi https://soundeffect-la…

【Python】 Python ~ 基本編 / 条件分岐 ~

■ はじめに if 文などの条件分岐について、学ぶ。 Java や他のプログラムと比較すると、 switch文がないなどかなり違う点がある。 目次 【1】if文 1)ifのみ 2)if / elif / else 【2】比較演算子「and / or / not」 【3】三項演算子 【4】in / not in…

【Hive】Hive / HiveQL ~ パーティション / 基本編 ~

■ はじめに Hive の パーティション (partition) について、まとめる cf Partition = 仕切り壁、分割、分配 目次 【1】文法 1)CREATE TABLE 2)INSERT SELECT 3)ALTER TABLE ADD PARTITION 4)MSCK REPAIR TABLE 【1】文法 1)CREATE TABLE 2)INS…

【AWS】Athena ~ 基本編 / AWS Glue との連携 ~

AWS

■ はじめに https://dk521123.hatenablog.com/entry/2020/06/17/173717 の続き。 今回は、AWS Glue で、クローリングしたデータを Athena で表示する際のメモ。 AWS Glue の クローラについては、以下の関連記事を参照のこと。 https://dk521123.hatenablog.…

【Android】アラーム機能 ~ 入門編 ~

■ はじめに 目覚まし機能(アラーム機能)について、まとめる 目次 【1】アラーム実装の手順 【2】Hello World 【3】アラーム種類 【1】アラーム実装の手順 1)アラーム通知を受け取るためのクラスを作成 ⇒ 以下「【2】Hello World」の「AlarmBroadcas…

【Python】 PyTorch ~ CNN編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/07/05/000000 の続き。 今回は、畳み込みニューラルネットワーク(CNN)について、扱う。 ■ サンプル 例1:SRCNN(Super-Resolution Convolutional Neural Network) => 超解像 畳み込みニューラルネ…

【Git】状態を戻す際には ~ reset / revert etc ~

Git

■ はじめに https://dk521123.hatenablog.com/entry/2020/07/11/182959 の続き。 上記の関連記事で関係したGitの文法やGitコマンドについて、まとめる。 目次 【1】関連する基本文法 1)HEAD 2)^ (キャレット) 3)~ (チルダ) 【2】関連するコマン…

【Git】Gitで状態を戻す方法を考える

Git

■ はじめに Git で開発する際に、自分や他のメンバーがミスって 状態を戻したい場合の対処方法を調べて、まとめる 今回は、リモートリポジトリの状態を戻すことに絞る (ローカルや個人ブランチは、下手にやるより、 最悪、取り直して、再度、修正をしたほう…

【トラブル】【PySpark】PySpark でエラー「Exception: It appears ...」が表示された

■ 現象 https://dk521123.hatenablog.com/entry/2020/07/09/000832 の機能を、クラス内部に組み込んだ際(詳細は後述の「修正後」を参照)に 以下「■ エラーメッセージ」が表示された ■ エラーメッセージ Exception: It appears that you are attempting to …

【分散処理】PySpark ~ エスケープされた区切り文字が含んだデータを扱う ~

■ はじめに https://dk521123.hatenablog.com/entry/2019/11/24/225534 で、PySpark で、CSVファイルを扱った。 ただ、以下のサイト「Spark 2.0 Scala - Read csv files with escaped delimiters」 https://stackoverrun.com/ja/q/10868798 のように、項目「…

【分散処理】PySpark ~ データをクリーニングする ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/07/06/232350 で行った処理を、PySpackで行ってみた 目次 【1】CASE文を使って値を置き換える 【1】CASE文を使って値を置き換える from pyspark import SparkContext from pyspark.sql import Spar…

【Kotlin】Kotlin ~ 基本編 / 配列・コレクション ~

■ はじめに https://dk521123.hatenablog.com/entry/2018/09/13/001546 の続き。 今回は、配列・コレクションについて扱う 実行環境 https://try.kotlinlang.org/#/Examples/Hello,%20world!/Simplest%20version/Simplest%20version.kt 目次 【1】配列(Arr…

【Hive】Hive / HiveQL ~ データをクリーニングする ~

■ はじめに HiveQL でデータをクリーニングすることをやったので メモっとく。 目次 【1】CASE文を使って値を置き換える 【2】日時・日付形式を変更する 【1】CASE文を使って値を置き換える * CASE文に関する詳細は、以下の関連記事を参照のこと Hive / H…

【Python】 PyTorch ~ 深層学習ライブラリ ~

■ はじめに ディープラーニングライブラリ である PyTorch(パイトーチ)について学ぶ 目次 【1】環境設定 【2】関連用語 1)確率的勾配降下法(SGC) 【3】サンプル 例1:偏微分 例2:勾配降下法 例3:確率的勾配降下法(SGC) 例4:ニューラルネットワ…

【Python】scikit-learn ~ 線形回帰 ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/03/02/233902 https://dk521123.hatenablog.com/entry/2020/03/08/113356 https://dk521123.hatenablog.com/entry/2020/04/04/021413 の続き。 今回は、scikit-learn で 線形回帰(Linear Regression…

【Android】画面コンポーネント / FloatingActionButton

■ はじめに Floating Action Button(FAB; フローティングアクションボタン)について、 学ぶ。 以下の動画が参考になる https://www.youtube.com/watch?v=cASXtRa6yDc ■ 初期設定 [1] 「build.gradle (Module:app)」に 「implementation 'com.google.androi…

【分散処理】PySpark ~ PySpark経由でDBに接続する ~

■ はじめに PySpark経由でDB(今回は「PostgreSQL」)に接続する方法を メモっておく。 ■ 準備 JDBC 接続するので、DB の JDBC ドライバを用意しておくこと 今回は、PostgreSQLなので、以下のサイトからダウンロードした (今回は、「postgresql-42.2.14.jar」)…

【Python】【TensorFlow】 TensorFlow ~ 基本編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2018/02/16/103500 https://dk521123.hatenablog.com/entry/2018/02/17/102927 の続き。 今回は、 TensorFlow を簡単な部分を扱う。 ■ 使用上の注意 TensorFlow で、Version1.X系 と 2.X系 で少し異なる。…