2024-01-01から1年間の記事一覧

【Github】Github Actions ~ workflow_run / workflow_call ~

■ はじめに 実作業において、Github Actionsで ファイル分割して実行したいケースが出てきそうになっている。 そこで、今回は、onイベント の workflow_run / workflow_call について 掘り下げる。 目次 【0】workflow_run / workflow_call との違い 【1】…

【Github】Github Actions ~ Artifact ~

■ はじめに Github Actions の アーティファクト (Artifact) についてまとめる 目次 【1】Artifact 1)Artifactに関する例 【2】Artifact に関するアクション 1)actions/upload-artifact アクション 2)actions/download-artifact アクション 【3】サ…

【AWS】CloudFormation ~ EC2 ~

AWS

■ はじめに 業務で、AWS CloudFormation (CFn) を使って EC2を立ち上げそうなので、予習しておく 目次 【1】CloudFormation による EC2 【2】API 【3】ソフトウェアをインストールするには 1)cfn-init ヘルパースクリプト 2)AWS CloudFormation のベ…

【AWS】CloudFormation ~ 基礎知識編 ~

AWS

■ はじめに AWS CloudFormation (CFn) について 業務で触る可能性が出てきたので、知識を整理・復習する 目次 【1】CloudFormation 1)動画 2)料金 【2】CloudFormation の流れ 1)スタック (Stacks) 2)テンプレート(Template) 【3】関連用語 1…

【Github】Github Actions ~ timeout-minutes ~

■ はじめに Github Actions において、 例えば、別処理結果を待つのにシェルで無限ループする箇所があるのだが これはこれでちょっと怖いので、Timeoutについて調べてみた 目次 【1】Github ActionsでTimeoutを設定するには 【2】利点 【3】timeout-minut…

【トラブル】【Docker】Proxy環境下でdocker pullしたらエラー

■ はじめに Proxy環境下でdocker pullしたらエラーでハマったのでメモ。 目次 【1】現象 【2】エラー内容 【3】原因 【4】解決案 【1】現象 Amazon EC2において、Proxy経由で docker イメージを pull/buildなどを使用としている。 そこで、以下の関連記…

【Github】Github Actions ~ Self-hosted runners / あれこれ編 ~

■ はじめに https://dk521123.hatenablog.com/entry/2023/12/18/204119 の続き。 Github Actions の Self-hosted runners に関するTipsをまとめておく 目次 【1】サービスとして設定するには 1)設定手順例 2)アンインストールする 3)ユーザを指定して…

【Squid】プロキシサーバ / Squid ~ Whitelist編 ~

■ はじめに Proxyサーバの Squid の Whitelist (ホワイトリスト) について 触ったので、メモに残しておく。 ついでに、Blacklist(ブラックリスト)についても言及する。 目次 【1】ProxyサーバにおけるWhitelist 【2】設定手順 1)設定ファイル「squid.c…

【Kafka】Apache Kafka ~ 環境構築 / Linux編 ~

■ はじめに Apache Kafka ~ 環境構築 / Windows編 ~ https://dk521123.hatenablog.com/entry/2023/04/23/235534 のLinux版。 目次 【1】構築手順 - 通常版 0)前提条件 1)Kafka のインストール 【2】モジュール起動 1)zookeeper起動 2)Kafka brok…

【Github】Github Actions ~ Pythonを使うには ~

■ はじめに Github Actions で、以下の関連記事で行ったような https://dk521123.hatenablog.com/entry/2024/01/22/210831 https://dk521123.hatenablog.com/entry/2024/01/05/000000 Github Actions で脆弱性診断の結果をCSVファイル化して、、、 とかやる…

【Docker】脆弱性エラー対応時に役立ったDockerコマンド

■ はじめに 完全に個人的なメモ。 https://dk521123.hatenablog.com/entry/2024/01/22/210831 で、発生した脆弱性エラーを調査している。 調査の一環として、 AWS EMR リポジトリの Docker イメージをローカル上に Pull し Inspector2の「Affected Package (…

【Shell】シェル ~ Shebang ~

■ はじめに Github Actions や CloudFormation などの インフラ系のサービスを扱う際に、Bashをよく使用しているが Shebang (シェバン)のところとかあいまいなことがあるので これを機にちゃんと調べてみた 目次 【1】Shebang 【2】効能 【3】構文 【4】…

【Squid】プロキシサーバ / Squid ~ ログ編 ~

■ はじめに Squidのログについて徐々に書き溜めていく 目次 【1】squid の ログ 1)/var/log/squid/access.log 2)/var/log/squid/cache.log 3)/var/log/squid/store.log 4)/var/log/squid/squid.out 【2】Tips 1)デバッグ方法 2)アクセスログの…

【AWS】Amazon ECR ~ boto3 ~

AWS

■ はじめに https://dk521123.hatenablog.com/entry/2024/01/05/000000 https://dk521123.hatenablog.com/entry/2024/01/22/210831 で、Amazon ECR の Dockerイメージのスキャンについて触れたが、 エラーを解消できても、時間が経つと別のエラーが検知され…

【Github】Github Actions ~ GITHUB_OUTPUT ~

■ はじめに Github Actions ~ GITHUB_ENV ~ https://dk521123.hatenablog.com/entry/2023/12/29/000840 で、各Stepで値を受け渡す「$GITHUB_ENV」を取り上げたが 今回は、Job間の値の受け渡しに使う「$GITHUB_OUTPUT」について扱う 目次 【1】GITHUB_OUTP…

【Linux】tailコマンド

■ はじめに 小ネタ。 tailコマンドについて扱う 【1】tailコマンド * ファイルの最終行から数行を表示するコマンド * 標準では10行を表示 【2】-fオプション * ログファイルなどのリアルタイム監視 * --follow 1)使用例 例1:/var/log/cron https://dk5…

【Github】Github Actions ~ ワークフロー制御 ~

■ はじめに 今回は、Github Actions の ワークフロー実行 の行う・行わないを制御するために必要な扱う。 目次 【1】needs 1)needs.<job_id>.result 2)needs.<job_id>.outputs.<output name> 【2】if 【3】on 1)push 2)workflow_run / workflow_call 3)workflow_dispatch 4</output></job_id></job_id>…

【Python】Python ~ TOML ~

■ はじめに TOMLファイルを読み込み そのデータ内を使うツールが必要になりそうなので PythonでTOMLをどう扱うかを調べてみた なお、TOMLについては、以下の関連記事を参照のこと TOML https://dk521123.hatenablog.com/entry/2023/04/25/103533 目次 【1】…

【Terraform】Terraform ~ AWS CodeArtifact ~

■ はじめに AWS CodeArtifact の環境を軽くTerraformで作ったので そこで得たことをメモっておく 目次 【1】API 1)aws_codeartifact_repository 【2】使用上の注意 1)external_connections は1つしか指定できない 【3】サンプル 例1:既存のdomainを…

【AWS】AWS CodeArtifact ~ 独自JARをリポジトリにあげる ~

AWS

■ はじめに 今回は、独自のJARなどを AWS CodeArtifact のリポジトリにあげる方法について 記録しておく 目次 【1】JARをリポジトリにあげるには 【2】前提条件 1)IAMロール 【3】手順 Step1: CodeArtifact 認証トークンを取得 Step2: JAR を CodeArtif…

【Shell】シェル ~ 環境変数 IFS ~

■ はじめに 小ネタ。 CI/CD の処理の一環で、 テキストファイルにバージョンが指定されていて そのファイルを読み込んで、カウントアップした値を 処理で使いたいなっと思った時に、 IFS がでてきたので メモっておく 目次 【1】環境変数 IFS 【2】readコ…

【AWS】EC2 Image builder ~ 基礎知識編 ~

AWS

■ はじめに EC2 Image builder について、少しづつだがメモっていく 目次 【1】EC2 Image builder 【2】用語整理 0)AMI (Amazon Machin Image) 1)コンポーネント (Components) 2)イメージレシピ (Image Recipes) 3)イメージパイプライン (Image Pi…

【AWS】Amazon ECR ~ 脆弱性診断 / Amazon Inspector ~

AWS

■ はじめに Amazon ECR は、簡単に 脆弱性診断サービス Amazon Inspector が 使えるので、そのことについて、メモっておく 目次 【1】Amazon Inspector 1)AWS ECR との連携 【2】脆弱性診断の On/Off 1)Terraform の場合 【3】スキャン開始タイミング…

【Docker】Docker ~ Docker Hub への登録 ~

■ はじめに https://dk521123.hatenablog.com/entry/2023/12/02/024631 で、AWS ECRへの登録した。 近々、また、AWS ECRにDockerイメージを登録しそうなので 今回は、Docker Hub へ独自のDockerイメージ登録することを通して、 復習をしていきたい。 目次 【…

【AWS】AWS CodeArtifact ~ SBTでCodeArtifactを使う ~

■ はじめに https://dk521123.hatenablog.com/entry/2023/12/26/012343 https://dk521123.hatenablog.com/entry/2024/01/11/233802 https://dk521123.hatenablog.com/entry/2024/01/14/005148 の続き。 AWS CodeArtifact の公式ドキュメントでは、 MavenやGr…

【Github】Github Actions ~ 外部シェルスクリプト実行 ~

■ はじめに 今回は、Github Actionsで、可読性を上げるために、 共通処理を外部シェルスクリプトとして切り出して、 Github Actionsから呼び出して使う。 小ネタではあるが、色々と学ぶものがあったので、メモ。 目次 【1】Github Actions処理 1)フォルダ…

【トラブル】【Airflow】MWAA で Secrets Manager の設定追加後にAirflow CLIからエラー

■ はじめに MWAA で 軽微なトラブルだったが 学びが色々とあったので、メモっておく 今日の教訓 Python 製 で JSON は、 シングルクォーテーション(')ではなく ダブルクォーテーション(")で囲んだ方が トラブル少なく済みそう 【1】現象 MWAA で Secret…

【Linux】asdf ~ 入門編 ~

■ はじめに Terraform の設定時に、asdf ってのを知ったので、 調べてみた 目次 【1】asdf 【2】使いどころ 【3】環境設定 1)設定環境 2)設定手順 【4】使い方 例1:Terraform 例2:Python 【5】トラブル 1)Pythonインストール時のトラブル 【…

【Terraform】Terraform ~ 基本編 / Data Sources ~

■ はじめに https://dk521123.hatenablog.com/entry/2023/05/03/000000 の続き。 Terraform の Data Sources(データソース) について扱う。 目次 【1】データリソース - data 【2】利用例 【3】サンプル 例1:AWS S3 例2:AWS Region 【4】filter 1…

【AWS】Amazon EC2 ~ amazon-linux-extras ~

AWS

■ はじめに Amazon Linux 2の Extras Library(amazon-linux-extras) について 今後の作業にも関係しそうなので、まとめておく 目次 【1】Extras Library(amazon-linux-extras) 【2】用語整理 1)トピック 【3】使用上の注意 1)サポート範囲は、 Amazon…