トラブル

【Snowflake】Snowflakeでエラー「Expression type does not match column data type」が表示

◾️はじめに 原因はエラー内容ですぐに解決できたが いまいち、納得のいく記述がなかったので 現象自体をメモしておく 【1】トラブル概要 以下のINSERT SELECT 文を実行したところ、 エラー「Expression type does not match column data type」 が表示され…

【Snowflake】【トラブル】エラー「Invalid UTF8 detected while decoding 'XXX'」表示

◾️はじめに Snowflakeでトラブルがあったのでメモ。 以下のサイトが非常にいい記事で助かった。 https://zenn.dev/indigo13love/articles/be2a44901cc0af 目次 【1】トラブル概要 1)エラーになるSQL例 2)エラーにならなかったSQL例 【2】エラー内容 【…

【Docker】Docker compose での警告対応

◾️はじめに 少し作業に余裕が出てきて、docker での警告を見てみたら 勉強になったのでメモ。 学べたこと * Orphan containers(孤立したコンテナ)および「--remove-orphans」オプション * Dockerのプロジェクト名 * 「to avoid potential confusion」って…

【Snowflake】エラー「Window function appears outside of SELECT, QUALIFY...」が表示

■ はじめに Snowflake で Windows関数を使った際のトラブルシュートをメモ。 【1】トラブル概要 Snowflake で Windows関数「ROW_NUMBER() OVER PARTITION BY」を使った際に 以下「エラー内容」が表示してしまう 1)エラーが発生したSQL SELECT * FROM ( --…

【Snowflake】エラー「String 'XXXXX...' is too long and would be truncated」が発生

■ はじめに Snowflake で エラーがあったので 原因とトラブルシュートを書いておく 【1】現象 Snowflake で、 INSERT文で以下「【2】エラー内容」が表示 発生したSQL例 CREATE OR REPLACE TABLE demo_table ( ... comment VARCHAR(100) DEFAULT NULL, ... …

【k8s】Kubernetes / minikube に関するトラブル

■ はじめに https://dk521123.hatenablog.com/entry/2024/01/02/005053 https://dk521123.hatenablog.com/entry/2023/05/07/214515 などであったKubernetes 環境構築であったトラブルをメモっておく 目次 【1】minikube start時にエラー / Case1 【2】mini…

【PostgreSQL】PostgreSQLのCOPY FROMでエラー「missing data for column xxxx」

■ はじめに PostgreSQLのCOPY FROMでエラー「missing data for column xxxx」 になったのでメモ。 【1】現象 PostgreSQL で 以下の※1のようにCOPY FROMを使った際に 以下の「【2】エラーメッセージ」が表示する なお、PostgreSQLの環境は、以下の関連記事…

【トラブル】SQLFluffでエラー「ConfigLoader.get_global() is deprecated」が発生

■ はじめに SQLFluff でエラーがあり、他のメンバーが解決してくれたのだが 色々と勉強になったので、トラブルをメモっておく 【1】トラブル概要 SQLFluffでLinter実行後に「エラー内容」が表示 【2】エラー内容 ConfigLoader.get_global() is deprecated,…

【トラブル】【Snowflake】エラー「Transient object cannot be cloned to a permanent object」時の対応

■ はじめに Snowflakeでトラブルシューティングしたので、メモ。 【1】トラブル概要 以下「実行したSQL」のように CREATE TABLE ... CLONE でテーブルのバックアップを試みたところ、 以下「【2】エラー内容」が発生した。 実行したSQL CREATE TABLE demo_…

【トラブル】【dbt】動的なdbt 実行時でのトラブル

■ はじめに 動的なdbt 実行時でのトラブルシュートを徐々に記録しておく 目次 【1】Airflow + dbt でエラー「Task exited with return code -9」 【2】エラー「'>' not supported between instances of 'Table' and 'int'」 【3】エラー「Model XXX depen…

【トラブル】【dbt】dbt を v1.8 に更新後エラー

■ はじめに https://dk521123.hatenablog.com/entry/2024/08/23/012045 で、dbt version を v1.7 -> v1.8 に アップグレードした時に トラブルが発生したので、そのトラブルシュートをメモっておく なお、トラブルに関しては、以下の公式のIssueで既に挙げら…

【Github】【トラブル】Self-hosted runner下の Github actions が突然エラー

■ はじめに 前日まで動いてたGithub actions がいきなり動かなくなったが 周りに助けてもらったので、感謝。。。 でも、これ、結構、トラブルになりそうなので、メモ。 目次 【1】現象 【2】エラーメッセージ 【3】発生環境 補足:GitHubホステッドランナ…

【Github】【トラブル】Githubアカウントでデバイス故障時の対応

■ はじめに デバイス(PC)を故障した際に、新しいPCに乗り換える時に Githubアカウントに関しては、かなり特殊だったので メモと教訓を書いておく。 目次 【1】今回の状況 1)2 要素認証クレデンシャルをなくした際のアカウントの回復 【2】今回の解決案…

【トラブル】【Github】.github 直下に README.md を置いたらリポジトリルートに表示

■ はじめに 小ネタ。 GithubのREADME.md で意図しない動きだったのでメモ。 【1】現象 以下「1)フォルダ構成」のように、README.md を置いたら .github 直下に README.md がリポジトリルートに表示された 1)フォルダ構成 + README.md + .github + READM…

【トラブル】【AWS】CloudFormationで変数を参照したら、エラー「Unresolved resource dependencies」が表示

■ はじめに CloudFormation の変数に関する扱いで、 結構ハマったので、メモしておく これ以外のトラブルについては、以下の関連記事を参照のこと。 CloudFormation でのトラブル https://dk521123.hatenablog.com/entry/2022/05/30/191507 【1】現象概要 C…

【トラブル】【Docker】Proxy環境下でdocker pullしたらエラー

■ はじめに Proxy環境下でdocker pullしたらエラーでハマったのでメモ。 目次 【1】現象 【2】エラー内容 【3】原因 【4】解決案 【1】現象 Amazon EC2において、Proxy経由で docker イメージを pull/buildなどを使用としている。 そこで、以下の関連記…

【トラブル】【Airflow】MWAA で Secrets Manager の設定追加後にAirflow CLIからエラー

■ はじめに MWAA で 軽微なトラブルだったが 学びが色々とあったので、メモっておく 今日の教訓 Python 製 で JSON は、 シングルクォーテーション(')ではなく ダブルクォーテーション(")で囲んだ方が トラブル少なく済みそう 【1】現象 MWAA で Secret…

【トラブル】【Github】Github Actionsで「Waiting for a runner to pick up this job...」から進まない

■ はじめに Github Actionsで「Waiting for a runner to pick up this job...」から 進まない状態に陥った。 今回の場合、self-hosted runners(独自サーバ)で対象リポジトリに 設定がされていなかったことが原因だったが、その教訓をメモっておく。 (別リポ…

【トラブル】【AWS】S3権限周りのトラブルシュート

■ はじめに Amazon S3 の権限エラーが多いので、それらをまとめておく。 目次 【1】EC2 から 「aws s3 ls」したらエラー「ListBuckets operation: Access Denied」 【1】EC2 から 「aws s3 ls」したらエラー「ListBuckets operation: Access Denied」 EC2 …

【トラブル】【Kafka】ローカル環境のKafkaでのトラブル

■ はじめに ローカル環境のKafkaではまったトラブルについて メモっておく 目次 【0】今回の教訓 【1】エラー「DataException: JsonConverter with schemas.enable requires」が発生する 【2】エラー「SQLException: No suitable driver found for ...」…

【トラブル】【WSL】WSL + Python 時でのトラブル

■ はじめに WSL + Python 時でのトラブルについてまとめた 【1】エラー「bad interpreter」が表示 pip install しようとした際にエラー「bad interpreter」 1)エラー内容 bash: /mnt/c/Users/user/.pyenv/pyenv-win/shims/pip: /bin/sh^M: bad interprete…

【トラブル】【AWS】デタッチしたらエラー「You do not have permission...」表示

■ はじめに エラー内容と原因が全くマッチしない現象にハマりそうになったが、 以下のサイトで助けられたのでメモ。 https://qiita.com/ichihara-development/items/45afcc54aeddfd69bce4 【1】事象 お借りしていたAWS環境を一旦クリーンアップしようとして…

【トラブル】【AWS】EMRのBootstrapでエラー「BOOTSTRAP_FAILURE_BA_DOWNLOAD_FAILED_PRIMARY」が表示

■ はじめに AWS EMR で大分ハマったが、ようやく原因がわかったので そのことをメモる。 【1】現象 https://dk521123.hatenablog.com/entry/2023/08/16/201948 で、AWS EMRのBootstrapで、S3 bucketへのアクセスをする際に 以下「エラー内容」が表示した。 …

【WSL】WSL が起動しなくなった時の対処

■ はじめに WindowsUpdateなどでいきなり、 WSL が起動しなくなった時の対処法をメモ。 目次 【1】WSL2無効化→有効化 【1】WSL2無効化→有効化 https://zenn.dev/karaage0703/articles/e30c9614a55bdb * WSL2をオフって再起動 [1] 検索ボックスに「Windows…

【Snowflake】【トラブル】エラー「Ownership restriction violation」時の対応

■ はじめに https://dk521123.hatenablog.com/entry/2022/08/02/090439 https://dk521123.hatenablog.com/entry/2023/04/14/151140 に近いのだが、別エラーがでたので、メモ。 【1】トラブル概要 テーブルの所有権を変更するために 以下「実行したSQL」した…

【トラブル】【dbt】dbt 設定初期時でのトラブル

■ はじめに https://dk521123.hatenablog.com/entry/2023/05/30/151003 などで発生したトラブルをまとめる 目次 【1】「dbt init users」実行時に「Error: Invalid value for '--profiles-dir'」が表示 【2】Windowsで「pip install --upgrade pip wheel s…

【Snowflake】【トラブル】所有権変更後にエラー「current role has no privileges on it」

■ はじめに Snowflakeでトラブったので、 自戒の意味を込めてもメモ、、、 目次 【1】トラブル内容 1)エラーまでのSQL文 【2】エラー内容 【3】原因 【4】解決案 【5】Tips 1)SHOW GRANTS 2)GRANT 【1】トラブル内容 テーブルの普及作業でゴミが…

【トラブル】【Scala】SBTでのエラー/警告対応

■ はじめに https://dk521123.hatenablog.com/entry/2023/01/25/000000 で「sbt-assembly」を使って、JARファイルの作成をした際に エラーが出たので、対処方法を記載する また、その過程で警告とかの対応方法も分かったのでメモ。 目次 【1】sbt-assembly…

【トラブル】【WSL】WSLで外部に繋げない

■ はじめに WSLがらみのネットワークトラブルをメモ 本件で他に学べたこと * PowerShell + Get-NetAdapter + Set-NetAdapter (InterfaceMetric) + Get-DnsClientServerAddress (-AddresesFamily) + Where-Object (-Match) 目次 【1】現象 【2】エラー内容 …

【Snowflake】【トラブル】COPY INTO したがデータが格納されていない

■ はじめに Snowflake でCOPY INTO <TABLE> した際のトラブルをメモっておく。 目次 【1】トラブル概要 1)SQL文例 【2】原因 【3】解決案 案1:データロードの際に「FORCE=TRUE」を指定 案2:Tempテーブル経由でINSERTする 【1】トラブル概要 COPY INTO <TABLE> で</table></table>…