/home/by-natures/dev*

データ界隈で働くエンジニアとしての技術的なメモと、たまに普通の日記。

2022-01-01から1年間の記事一覧

Snowflake のクエリ内変数と、executemany のテーブル指定に identifier が使えない話

Snowflake を Python から利用していて、クエリ文字列に変数をバインドする方法がややこしかったので共有します。クエリ内でプログラムから変数を渡す %s, :1, ? などですね: Using the Python Connector — Snowflake Documentation con.cursor().execute( "…

2022/11/26 SnowPro Core を取得しました

今の会社 Slalom に転職してそろそろ半年経ちます。Slalom はシアトルに本社を構えるコンサルティングファームで、テック系コンサルと言えばいいんでしょうか。この業界に入ってまだ日が浅いのですが、社内で学ぶことも多く、同僚も知見が深く面白い方ばかり…

2022/09/24 Data Vault 2.0 輪読会に参加しました

今年の春〜初夏にかけて Data Vault 2.0 についての輪読会に参加しました。途中は退職・転職などでバタバタしていて参加できなかったのですが、Data Vault の概念を理解でき、dbt などの ETL ツールについての話題も多く、とても勉強になりました。色々と感…

2022/05/07 空白期間 振り返り

先月4月末に某ウェブ系企業での最終出社を迎えました。 丸7年務めることとなり、最初3年半は研究部署でビッグデータ基盤の開発とその上で動くBIツールの開発、後ろ3年半はいろいろなサービス部署の方とやりとりをしながら、データ連携を支援する部署にいまし…

2022/02/23 輪読会を始めました: "Star Schema - The Complete Reference"

datatech-jp で Star Schema The Complete Reference という書籍の輪読会を始めました。 Star Schema The Complete Reference 私は横断組織にいて、サービス事業部の方たちの支援をするのが仕事なのですが、そのためにデータオーナーになったりすることがほ…

2022/01/21 レイクハウスアーキテクチャについて

最近よく Snowflake, Databricks 社のサービスを目にするようになり、私の所属している会社でも(部署は違いますが)Snowflake の導入を行っているようです。その中で "Data Lakehouse" という単語を目にしたので、どういう概念なのかを調べました。 実際に…