Python

【VS Code】Visual Studio Code ~ Python拡張 ~

■ はじめに https://dk521123.hatenablog.com/entry/2019/10/20/230323 https://dk521123.hatenablog.com/entry/2019/10/24/000000 の続き。 VS CodeでPythonを使う上で便利な拡張機能、 特に、Python で PEP8フォーマット や Docstring に対応できるように…

【Python】 OpenCV ~ 画像認識 ~

■ はじめに 前々からやってみたかった画像認識をやってみたくて勉強してたのだが いい動画をみつけた。 こちらの動画では、OpenCV を使っているので、環境設定も含めて、まとめる。 勉強になった動画 https://www.youtube.com/watch?v=WSTyoaK6dPU&list=PL1P…

【Python】LibROSA ~ 音声分析ライブラリ ~

■ はじめに Python の 音声分析ライブラリ 「LibROSA (リブロサ)」をメモ。 目次 【1】環境設定 【2】サンプル 例1:音声波形描画 例2:音声の特徴量を抽出する 【1】環境設定 pip pip install librosa Anaconda環境 conda install -c anaconda cffi …

【Python】Python ~ 基本編 / Excelを扱う・OpenPyXL ~

■ はじめに https://dk521123.hatenablog.com/entry/2019/11/05/221010 PythonでExcel を扱う機会があって 簡単にできたので、メモっとく なお、使用するライブラリは、OpenPyXL。 目次 【1】環境設定 【2】サンプル 例1:Hello world 例2:新しいシート…

【Python】 Python ~ 基本編 / 条件分岐 ~

■ はじめに if 文などの条件分岐について、学ぶ。 Java や他のプログラムと比較すると、 switch文がないなどかなり違う点がある。 目次 【1】if文 1)ifのみ 2)if / elif / else 【2】比較演算子「and / or / not」 【3】三項演算子 【4】in / not in…

【Python】 PyTorch ~ CNN編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/07/05/000000 の続き。 今回は、畳み込みニューラルネットワーク(CNN)について、扱う。 ■ サンプル 例1:SRCNN(Super-Resolution Convolutional Neural Network) => 超解像 畳み込みニューラルネ…

【Python】 PyTorch ~ 深層学習ライブラリ ~

■ はじめに ディープラーニングライブラリ である PyTorch(パイトーチ)について学ぶ 目次 【1】環境設定 【2】関連用語 1)確率的勾配降下法(SGC) 【3】サンプル 例1:偏微分 例2:勾配降下法 例3:確率的勾配降下法(SGC) 例4:ニューラルネットワ…

【Python】scikit-learn ~ 線形回帰 ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/03/02/233902 https://dk521123.hatenablog.com/entry/2020/03/08/113356 https://dk521123.hatenablog.com/entry/2020/04/04/021413 の続き。 今回は、scikit-learn で 線形回帰(Linear Regression…

【Python】【TensorFlow】 TensorFlow ~ 基本編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2018/02/16/103500 https://dk521123.hatenablog.com/entry/2018/02/17/102927 の続き。 今回は、 TensorFlow を簡単な部分を扱う。 ■ 使用上の注意 TensorFlow で、Version1.X系 と 2.X系 で少し異なる。…

【Python】Python のメモリリークに関するあれこれ

■ はじめに Python で、メモリエラー(MemoryError)に関して 少しずつだが、まとめてみる 目次 【1】メモリリークに関する調査 【2】メモリリークに関する解決案 【1】メモリリークに関する調査 1)tracemalloc 2)memory_profiler 3)objgraph 4)H…

【トラブル】【Python】Python の環境設定周りのトラブルシューティング

■ はじめに https://dk521123.hatenablog.com/entry/2019/10/24/000000 などで、Pythonの環境設定した際に起こったトラブルについて 解決案などを少しづつまとめていく 目次 【1】anaconda でPythonのダウングレードしようとした際にエラー「Solving enviro…

【トラブル】【Python】Pythonでの文字コード関連のトラブルシューティング

■ はじめに Python で 文字コード関連のエラーを纏めておく。 目次 【1】デコード時にエラー「UnicodeDecodeError」で落ちる 【1】デコード時にエラー「UnicodeDecodeError」で落ちる 以下のコードから例外エラー「UnicodeDecodeError」で落ちる コード一…

【Python】文字コードの自動判別 ~ chardet ~

■ はじめに 文字コードの自動判定する chardet についてのメモ。 ■ 公式サイト https://pypi.org/project/chardet/ ■ インストール conda install chardet ■ 使用上の注意 * 判定できない場合がある(「'encoding': None」) * 必ずしも 100% ではない => 誤…

【Python】スクレイピング ~ Beautiful Soup 4 ~

■ はじめに スクレイピング (scraping)を扱っている動画があって 簡単そうだったので、メモ。 ■ Beautiful Soup 4 スクレイピングについては、Beautiful Soup 4を使う。 インストール conda install beautifulsoup4 ■ サンプル 例1:Hello world 例2:J1…

【Python】Python ~ 並行 / 並列処理 ~

■ はじめに Python の 並行 / 並列処理(※)について、学ぶ。 ※ 並列処理 について 別のCPUコアの 別のpythonプロセスで 複数の処理を同時に行う ■ Python での並列処理 https://docs.python.org/ja/3/library/concurrency.html より抜粋 ~~~~ 【1】multi…

【Python】Python ~ デコレータ @xxxx ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/05/20/195621 で、デコレータについて触れた。 Python のコードの幅が広がりそうなので、メモっておく。 目次 【1】デコレータ 1)使いどころ 【2】Python標準のデコレータ 【3】サンプル 例1:…

【Python】Python ~ 基本編 / eval, exec ~

■ はじめに 文字列をスクリプトとして実行する eval, exec について扱う どちらも組み込み関数に分類されるメソッド。 https://docs.python.org/ja/3.6/library/functions.html 個人的な感想 コードが追いづらくなるから、 無暗には使わないでほしい、、、 …

【Python】CSVデータをPostgreSQLにインポートする ~ execute_values() 編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/05/08/175525 の続き。 今回は、「実装案2:オーソドックスにInsertする」を行う。 ■ 実行メソッドについて 実行メソッドの候補として、以下がある。 1)executemany() ← パフォーマンスがいまいち…

【Python】CSVデータをPostgreSQLにインポートする ~ copy_from() 編 ~

■ はじめに Pythonコードにより、CSVファイルを入力データとして、 PostgreSQLに対してデータをInsertする なお、PostgreSQLライブラリについては、 以下の関連記事の「psycopg2」を使う Python で PostgreSQL を使う ~ psycopg2編 ~ https://dk521123.hat…

【Python】Python で PostgreSQL を使う ~ psycopg2編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2019/11/27/000316 の続き。 以下の関連記事で ローカル環境に Postgre の SSL設定をしたのだが SSL接続する際に、psycopg2を使ったのでメモ。 https://dk521123.hatenablog.com/entry/2020/05/05/221239 …

【Python】Python ~ ハッシュ / hashlib ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/04/01/000000 で扱ったブロックチェーンの技術として使用されるハッシュについて扱う 目次 【1】ハッシュについて 【2】サンプル 例1:Hello world 例2:Login with Salt & Stretching 例3:Log…

【Python】scikit-learn ~ 重回帰 / リッジ回帰 ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/03/02/233902 https://dk521123.hatenablog.com/entry/2020/03/08/113356 https://dk521123.hatenablog.com/entry/2020/04/04/021413 https://dk521123.hatenablog.com/entry/2020/07/04/000000 の続…

【Python】Pandas ~ 基本編 / データのクレンジング ~

■ はじめに https://dk521123.hatenablog.com/entry/2019/10/22/014957 の続き。 データ解析をする際に、Pandas で 欠損データやデータのクレンジングの扱い方をメモする。 目次 【1】 欠損データの確認 【2】 欠損データを削除 【3】 欠損データをほかの…

【Python】scikit-learn ~ 決定木 / ランダムフォレスト ~

■ はじめに 以下の関連記事で扱ったSchoo(スクー) https://dk521123.hatenablog.com/entry/2020/02/29/003619 の講義で決定木 / ランダムフォレストを勉強する機会が あったのでメモ。 ちなみに、講師の方は以下のブログの方だと思うが 分かりやすかった h…

【Python】scikit-learn ~ 基本編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/03/02/233902 の続き。 YouTube で機械学習(Machine Learnig; ML)を 勉強できるいい感じ動画があったのでメモ。 (英語なので、ついでに英語の勉強もできる) 教材(動画) 全10回あるみたい。 はじ…

【Python】scikit-learn ~ 入門編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2018/03/28/224532 の続き。 今回は、scikit-learn(サイキット・ラーン)を 少しづつでも学んでいく 今回の学べること A)scikit-learn 使い方/環境設定 B)以下の機械学習の手法 1)ホールドアウト法 …

【Python】Matplotlib ~ 入門編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2020/03/08/113356 を書く際に、ちょこちょこでてきた Matplotlib について 取り上げる 目次 【1】Matplotlib 【2】グラフの種類 【3】動画 【4】環境設定 【5】サンプル 例1:Hello world - シグモ…

【Python】仮想環境 ~ virtualenv / venv / pipenv ~

■ はじめに https://docs.python.org/ja/3/tutorial/venv.html#managing-packages-with-pip で「12章 仮想環境とパッケージ」の 仮想環境があいまいだったので、まとめる 資格「Python 3 エンジニア認定基礎試験」の出題範囲にもなっている。 ■ 導入 Python…

【Python】egg / wheel ファイルを作成する

■ はじめに https://dk521123.hatenablog.com/entry/2019/11/09/001342 で触れた egg / wheel について、 実際に Hello world的なことをやる。 後日談 当初は、EGGファイルだけの記事だけだったが https://docs.aws.amazon.com/ja_jp/glue/latest/dg/add-job…

【Python】flake8 ~ Pythonコードチェック ~

■ はじめに https://dk521123.hatenablog.com/entry/2019/10/24/000000 で扱ったPython コードのチェックするための flake8 はコマンドベースで起動できるらしい。 以下の関連記事で扱ったCodeBuild https://dk521123.hatenablog.com/entry/2020/01/21/22112…