こんにちは、 @kz_morita です。 普段 dbt でデータ変換を実装しているのですが、データモデルで重い処理があると dbt run の実行時間が増えてきます。 重い処理 dbt でモデルを構築していたのですが、SQL で URL に含まれるクエリパラメータをパースするような処理が重かったです。 具体的には以下のような SQL です。 withraw_dataas(selectid,urlfrom{{ref('source_table')}})selectid,url,-- パラメータ foo の値を抽出するための正規表現 regexp_extract(url,'.*[?&]foo=([^&]+)',1)asfoo_value,-- パラメータ bar の値を抽出するための正規表現 regexp_extract(url,'.*[?&]bar=([^&]+)',1)asbar_valuefromraw_dataこのモデルが、後続の様々なモデルから参照されていたのですが処理が重く dbt run に 30 分位かかっていました。 正規表現を使うのは CPU ヘビーな処理になりやすくボトルネックになりやすいのでここを改善しようとしました。 materialized = table で高速化 問題は、dbt のデフォルトの materialize が view になっていることです。 後続のモデルから複数参照されるモデルのため、view 担っている場合参照されるたびに正規表現によるパース処理が走ります。 パースは一度で良かったので、materialize = table にすることで高速化を試みました。 やり方は簡単で、SQL の先頭に以下のような config を書くだけでよいです。 {{config(materialized='table')}}withraw_dataas(selectid,urlfrom{{ref('source_table')}})selectid,url,-- パラメータ foo の値を抽出するための正規表現 regexp_extract(url,'.*[?&]foo=([^&]+)',1)asfoo_value,-- パラメータ bar の値を抽出するための正規表現 regexp_extract(url,'.*[?&]bar=([^&]+)',1)asbar_valuefromraw_dataこのようにすると一度パースされたパラメータがテーブルに保持されるため正規表現の処理が複数回走らなくなりその結果として実行時間を大幅に減らすことができました。 具体的には、30 分かかっていたところが 3 分ほどになりました。 今回の様な計算コストが高い処理などを行う場合 materialization を table にすることで高速化が期待できます。ただし、データをリアルタイムで反映したいようなケースの場合テーブルだと dbt run が走ったタイミングでしか同期されないため注意が必要です。

こんにちは、 @kz_morita です。 ACM 会員経由の O’Reilly のサブスクリプションに入っていましたが、いつの間にか閲覧できなくなっていました。 ACM 経由で O’Reilly へアクセスしようとしましたが、本のページへリダイレクトされて見れなかったのですが、調べたらサブスクリプションが切れていました。 O’Reilly のサブスクリプション非常に活用してたので更新をしました。 ACM Skills Bundle Add-On のサブスクリプションの更新 O’Reilly のサブスクプションは、ACM の Skills Bundle Add-On というものに含まれています。 https://learning.acm.org/skills-bundle こちらを更新すれば読めるようになります。 価格は年間 $75 となり、2025年2月現在で、11500 円弱となります。 だいたい書籍一冊あたり 3000 円ほどと考えると年間で 4 冊読むともとが取れることになります。 また、1 年間サブスクリプションをした感想としては、知りたい知識に関する本の内容の１部分を気軽に読めるというのは非常にありがたいなと思います。 特に似たようなテーマの複数の本からつまみ食いのように知識を得るのは非常に気軽に学ぶことができます。 通常の書籍を買うとすべて読まないともったいない気持ちになりますが、気になるところをつまみ食いはサブスクリプションならではだと思います。 また、2025 年 2 月現在で、2024 年 12 月に出版された書籍が読めるようになっています。 『Tidy First?』 なども読めるようになっています。最新の本は無いのですが 2ヶ月おくれならかなり良いなと思っています。 まとめ 今回は、O’Reilly のサブスクリプションを更新したので記載しました。 ACM 会員でないと、年間 $499 かかるのでかなりお得に読み放題することができます。 ACM 会員なれる方であればかなりお得なのでおすすめです。

こんにちは、 @kz_morita です。 dbt と Snowflake を使って開発をしていますが、Snowflake の UDF を作成する際に以前は schemachage などで行ってましたが、dbt の on-run-start の hook を用いて管理する方法が良さそうだったのでメモします。 on-run-start の hook で UDF を作成する on-run-start は、dbt_project.yml ファイルで指定することができます。 on-run-start:- '{{ create_udf() }}'以下のようなmacro を用意すると dbt run などの実行前に UDF を作成できます。 {%macrocreate_udf()%}createorreplacefunctionencode_uri_component("STR"VARCHAR)RETURNSVARCHARLANGUAGEJAVASCRIPTAS$$returnencodeURIComponent(STR)$$;{%endmacro%}ちなみに、on-run-start は dbt build, dbt compile, dbt docs generate, dbt run, dbt seed, dbt snapshot, dbt test などの前に発火されるようです。 https://docs.getdbt.com/reference/project-configs/on-run-start-on-run-end まとめ 今回は dbt の hook を使って UDF などを作る方法について書きました。 dbt 管理便利そうなのでしばらく運用しようとしてみようと思います。

こんにちは、 @kz_morita です。 Snowflake の SQL を書いてる時に、調べて便利だった Tips をまとめます。 EQUAL_NULL Snowflake では、= 演算子で値を比較できますが値が null の場合は結果も null になります。 null どうしなどを比較したい場合は、EQUAL_NULL 関数が便利です。 select'hoge'='hoge','hoge'=null,null='hoge',null=null,equal_null('hoge','hoge'),equal_null('hoge',null),equal_null(null,'hoge'),equal_null(null,null)結果は以下のようになります。 ‘HOGE’ = ‘HOGE’ ‘HOGE’ = NULL NULL = ‘HOGE’ NULL = NULL EQUAL_NULL(‘HOGE’, ‘HOGE’) EQUAL_NULL(‘HOGE’, NULL) EQUAL_NULL(NULL, ‘HOGE’) EQUAL_NULL(NULL, NULL) TRUE null null null TRUE FALSE FALSE TRUE null どうしの比較などを行うことができます。 ARRAY_UNIQUE_AGG ARRAY_AGG 関数を使うと、グループ化した結果を配列で取得できますが、重複を取り除く ARRAY_UNIQUE_AGG 関数が便利です。 selectgroup_key,array_agg(value)asnon_unique_arr,array_distinct(array_agg(value))asunique_arr,arrray_unique_agg(value)asunique_arr2fromtable_namegroupby1今まで ARRAY_UNIQUE_AGG 関数は存在を知らなかったので、ARRAY_DISTINCT も使っていましたがこちらの方が便利です。

こんにちは、 @kz_morita です。 生成AI系のサービスがたくさん出てきましたが、genspark.ai が個人的に良さそうなので簡単に紹介します。 Genspark とは https://www.genspark.ai/ Genspark.aiは、AIエージェントを活用した検索エンジンです。 入力したクエリについてリアルタイムで検索が行われ、結果として Sparkpages というサマリーのページも生成してくれるので非常に便利です。 プランとしてPlus プランが存在し、いわゆる普通の Chat 機能や、画像生成などいろいろな機能が使えるようになります。 Plus プランは今なら友達招待で 1ヶ月間トライアルができるみたいなので、試してみました。 例えばチャット機能は 2025/01/19 現在で以下のモデルが使用できました。 GPT-4o GPT-4o Mini o1 Claude 3.5 Sonnet Claude 3.5 Haiku Gemini 1.5 Pro Gemini 1.5 Flash DeepSeek V3 また、これらのAIモデルを自動で組み合わせる Mixture-of-Agent という機能もあり便利です。 以下はチャット機能で試しに Genspark.ai で Genspark.ai の紹介記事を書いてもらおうとしたときに表示されたマインドマップです。 まとめ Genspark.ai について紹介しました。 Google 検索の代わりとしてまずは使っていこうと思ったのと、チャット機能があれば一般的な生成AIでやりたいことはできそうなので良さそうだなと思います。 とりあえず、１ヶ月間 Plus プランが使えるので使い倒してみようと思います。

こんにちは、 @kz_morita です。 スタッフエンジニアの道 ―優れた技術専門職になるためのガイド という本を読んだので感想などを書いていきます。 書籍について 『スタッフエンジニアの道 ―優れた技術専門職になるためのガイド』という本で、O’Reilly から発売されています。 https://www.oreilly.co.jp/books/9784814400867/ 以下のような目次になっています。 本書への推薦の言葉 序文 イントロダクション 第I部　大局的な思考 1章　では、具体的に君はここで何を？ 2章　3つの地図 3章　全体像を描く 第II部　実行 4章　限りある時間 5章　大規模プロジェクトをリードする 6章　なぜ止まってしまったか？ 第III部　レベルアップ 7章　今はあなたがロールモデル（お気の毒さまながら） 8章　良い影響力を広げる 9章　この先は？ 参考文献 訳者あとがき 索引 感想など この書籍は、スタッフエンジニアにどのような役割が求められているか、どのようになるべきなのかという点がかなり具体的に書かれていて非常に良かったです。 具体的には、全体像を描くことや、実際にプロジェクトを進めるうえでどのように振る舞うべきかなどが書かれています。 プロジェクトのリーダーとして進める際にどう進めるかや、同じチームの人に対してどのように支援していくかといった具体的な戦略が書かれています。 また、スタッフエンジニアになったあとにどう自身の時間を使うかや、キャリアをどのように構築していくかといったアドバイスも書かれていました。 同じスタッフエンジニアについて書かれた、 『スタッフエンジニア　マネジメントを超えるリーダーシップ』 との違いとしては、『スタッフエンジニア　マネジメントを超えるリーダーシップ』の本では、そもそもスタッフエンジニアとは何なのかという点が中心にかかれていました。 今回の書籍では、スタッフエンジニアになるためにどのような振る舞いをすべきなのかという点が多く書かれており、実践編という感じでした。 両方の本と合わせて読むとスタッフエンジニアについての理解が深まり良さそうです。 まとめ 今回は、書籍を読んだ感想をまとめした。かなり実践的で普段開発している中で意識していることや意識できてないけど大事だなと思うことが多く書かれていて非常に学びになりました。エンジニア人生のバイブルとなりそうな本なので何回も読み直そうと思います。

こんにちは、 @kz_morita です。 2025 年が始まったので今年の抱負などを書いていこうと思います。 やりたいこと 2025 年も引き続き学び続けてその結果をアウトプットしていきたいです。 具体的には、以下のようなことは引き続きやりたいです。 書籍 30 冊読む ブログは年 52 記事目標 プライベートでコードを書く 書籍 30 冊読む 書籍については、今年は月１冊ほどのペースで 12 冊でした。来年はもう少しペースを上げて 30 冊を目指したいです。 書籍数は別に重要な指標ではないですが、これくらいの頻度で Input を続けていくことは大事ですし、ちゃんと Input 習慣できれば自ずとこのくらいの冊数になるのかなと思っています。 ブログは年 52 記事目標 今年も週一の更新を続けて 52 記事を書いていこうと思います。今年は週一の更新に遅れがちだったのでもう少し余裕を持って更新していきたいです。 プライベートでコードを書く こちらは、去年あまり達成できなかったことです。 本業でも、徐々にコードを書く機会が減ってきておりコードをちゃんと書き続けることへのプライオリティを自分の中で高めなければと思ってます。 気になっている技術や仕事周りで使用するツールなど題材はたくさんあるはずなのでコードを書いていきます。 特に使っている OSS などに対してちゃんとコントリビュートするなどやっていきたいです。 まとめ 今年も、心身の健康は第一で引き続き学び続けていく年にしたいです。 去年は学びなどの時間を基本的に週末を使っていましたが、平日の時間をもう少し有効活用しないと達成が難しいなと感じています。 平日にもちゃんと時間を作って学べるようなリズムを作ることが今年の最初の課題です。 あとは、学習や思考の体力をつけるためにちゃんと運動もしていきます。 本年もよろしくお願いいたします。

こんにちは、 @kz_morita です。 気がつけば 2024 年も年の瀬ということで、毎年恒例の WordCloud でブログを通して今年を振り返ります。 今年の成果 まず今年は、ブログのを 52 本記事を書きました。今年もところどころ遅れるところはありましたが、週一でブログを書き続けることができました。 今年の WordCloud は以下のようになりました。 今年はチームリーダー的なポジションとして、開発チームを率いていく立場に就かせていただくことになったのですが、それが WordCloud にも如実にあらわれているのが面白いなと思いました。 本 や 書籍 というワードも多いですが、今年の書籍の感想系は以下の記事を書いていました。 『チームトポロジー』を読んだ 『Fundamentals of Data Observability』を読んだ 『GitLabに学ぶ 世界最先端のリモート組織のつくりかた』を読んだ 『エンジニアリング組織論への招待』を読んだ 『プログラマー脳』を読んだ 『達人プログラマー』を読んだ 『データエンジニアリングの基礎』を読んだ 『達人に学ぶDB設計 徹底指南書』を読んだ 『関数型ドメインモデリング』を読んだ 『A Philosophy of Software Design』を読んだ 『チーム・ジャーニー』を読んだ 『実践 DataOps』を読んだ 書籍は年間通して 12 冊読んでいて、月１冊ペースでは読めていそうでした。 チーム関連の書籍が増えているのも今年の特徴です。 自分がチームを率いていく立場に始めたなった不安感などから学ぼうとしていたのだと思います。 ブログ以外の活動としては、以下に取り組みました。 技術書典16 でボードゲーム頒布 技術書典 16 でボードゲームを頒布した話 技術書典17 で 書籍の共著 技術書典 17 で本を書きました 他社との合同勉強会での登壇 1本 ここには載せませんが、会社の TechBlog も 2本書いてました。

こんにちは、 @kz_morita です。 今回は、『 実践 DataOps 』という本を読んだので感想を書いていきます。 書籍について 『実践 DataOps』という書籍で、翔泳社から発売されています。 https://www.shoeisha.co.jp/book/detail/9784798179247 以下目次です。 ◆Part 1 DataOps序論 ・Chapter 1 データサイエンスの問題点 ・Chapter 2 データ戦略 ◆Part 2 DataOpsの実践に向けて ・Chapter 3 リーンシンキング ・Chapter 4 アジャイルなコラボレーション ・Chapter 5 効果測定とフィードバックの仕組み作り ◆Part 3 さらなるステップ ・Chapter 6 信頼の構築 ・Chapter 7 DataOpsへのDevOpsの適用 ・Chapter 8 DataOps実現のための組織作り ◆Part 4 セルフサービス型組織 ・Chapter 9 DataOpsで用いるテクノロジー ・Chapter 10 DataOpsの導入手順 感想など この書籍では、データを利用したプロダクトを開発する際にどのように DataOps を実現していけばよいかという点について網羅的にかかれていました。 たとえば、データプロダクトを作る際にどのようにデータを取り扱っていけばよいかについて書かれています。 既存のツールなども紹介されていましたが、それだけではなく、チーム間でどのようにコラボレーションしていけばよいかという観点やまず何から始めていけばよいかという点が書かれていたのが参考になりました。 書籍の中で、 DataOps マニフェストが紹介されています。 https://dataopsmanifesto.org/ja/ データサイエンス、データエンジニアリング、データ管理、ビッグデータ、ビジネスインテリジェンスなどと呼ばれるものを問わず、当社は分析において以下のようなことを重視するようになりました。

こんにちは、 @kz_morita です。 久しぶりに Python を触って日付周りの処理を調べたのでまとめます。 datetime datetime モジュールについて見ていきます。 import datetime 現在時刻の取得 >>> print(datetime.date.today()) 2024-12-22 >>> print(datetime.datetime.today()) 2024-12-22 23:31:49.193061 初期化 >>> print(datetime.date(2024,12,1)) 2024-12-01 >>> print(datetime.datetime(2024,12,1,12,0,0)) 2024-12-01 12:00:00 日付の加算 timedelta を使用すると加算などが行えます >>> today = datetime.date.today() >>> today datetime.date(2024, 12, 22) >>> today + datetime.timedelta(days=1) datetime.date(2024, 12, 23) >>> today - datetime.timedelta(weeks=1) datetime.date(2024, 12, 15) 文字列 <-> 日付 文字列 -> 日付 >>> print(datetime.datetime.strptime("2024/12/22", "%Y/%m/%d")) 2024-12-22 00:00:00 日付 -> 文字列 >>> today datetime.date(2024, 12, 22) >>> print(today.

こんにちは、 @kz_morita です。 今回は QuickSight でテンプレートを作成する方法について記載します。 QuickSight のテンプレート機能 QuickSight にはテンプレート機能が用意されています。 テンプレート機能を使うと、分析やダッシュボードをコピーすることができます。 これは例えば、ダッシュボードを開発環境と本番環境などに分けてデプロイする際などに活用することができます。 テンプレート昨日は、AWS コンソールの GUI からは作成することができず CLI 操作となります。 テンプレートの作成 まずは、テンプレートを作成するための JSON ファイルを作成します。 以下のようなファイルを作成します。 { "SourceAnalysis": { "Arn": "arn:aws:quicksight:${REGION}:${AWS_ACCOUNT_ID}:analysis/${TARGET_ANALYSIS_ID}", "DataSetReferences": [ { "DataSetPlaceholder": "DATA_SET_1", "DataSetArn": "arn:aws:quicksight:${REGION}:${AWS_ACCOUNT_ID}:dataset/${DATA_SET_1_ID}" }, { "DataSetPlaceholder": "DATA_SET_2", "DataSetArn": "arn:aws:quicksight:${REGION}:${AWS_ACCOUNT_ID}:dataset/${DATA_SET_2_ID}" } ] } } 中を説明すると、対象の分析とその分析でしようしているデータセットを指定します。 これらのデータは、DataSetReferences は自動生成できるのそのスクリプトも記載します。 $ aws quicksight describe-analysis-definition --aws-account-id ${AWS_ACCOUNT_ID} --analysis-id ${TARGET_ANALYSIS_ID} \ | jq .Definition.DataSetIdentifierDeclarations \ | jq '. | map({ "DataSetPlaceholder": .Identifier, "DataSetArn": .DataSetArn })'` こちらは、aws-cli で describe-analysis-definition を実行すると取得でいる JSON から jq を用いて必要な情報を取得しています。

こんにちは、 @kz_morita です。 普段 neovim をメインのエディタとして使っていますが、CopilotChat も neovim で使用できたので設定方法を紹介します。 この記事の前提として、Copilot は導入済みなものとします。 まだ導入されてない方は、以前書いたこちらの記事を参考にしてみてください。 CopilotChat の設定 CopilotChat は neovim でもサポートされており、以下の公式の手順を参考に設定ができます。 CopilotChat.nvim ただし、自分の環境ではプラグインマネージャに Dein を使っていたりなど若干差分があったので補足します。 私の環境では dein を 使用しているので、dein.toml に以下のように追記してプラグインをインストールできるようにします。 [[plugins]] repo = 'github/copilot.vim' [[plugins]] repo = 'nvim-lua/plenary.nvim' [[plugins]] # CopilotChat repo = 'CopilotC-Nvim/CopilotChat.nvim' depends = ['github/copilot.vim', 'nvim-lua/plenary.nvim'] branch = 'canary' つぎに、CopilotChat のセットアップ用のスクリプトを lua で記載します。 私の環境では ~/.config/nvim/lua/copilot_chat_config.lua というファイルを作成し以下の内容を記載しました。 require("CopilotChat").setup { debug = true, -- Enable debugging } そして、init.vim に以下のように記載します。

こんにちは、 @kz_morita です。 先日、Karabiner-Elements のアップデートを行ったところ動作しなくなりました。最終的に確認して動作するようになった項目をメモしておきます。 確認項目 私がアップデートした際はログイン項目のチェックが外れていたことが原因でした。 ログイン項目 システム環境設定 > 一般 > ログイン項目 にある バックグラウンドでの実行を許可の項目にチェックが入っているか確認します。 プライバシーとセキュリティ システム環境設定 > プライバシーとセキュリティ の中の各項目で Karabiner-Elements に許可がなされているかを確認します。 フルディスクアクセス 入力監視 まとめ 今回は Karabiner-Elements のアップデート時に動作しなくなった際の確認項目をメモしました。ログイン項目のチェックが外れていたり、プライバシーとセキュリティの設定がされていないことが原因であることが多いので、まずはこれらの項目を確認すると良いかと思います。 動かなくなった時30分ほど原因調査に時間を取られてしまったので、この記事が他の方の参考になれば幸いです。

こんにちは、 @kz_morita です。 ShellScript を書く際のちょっとした Tips を書きます。 Tips シェルスクリプトを書く時に先頭に必ず書くコードがあります。 以下のようなコードです。 #!/bin/bash set -eu DIR=$(cd $(dirname $0);pwd) 順番に説明します。 まずは以下です。 set -eu これは、set -e と set -u を同時に指定しています。 それぞれ以下のような効果があります。 set -e シェルスクリプトがエラーで終了するようにします。、コマンドがエラーで終了した場合、それ以降のコマンドは実行されません。 set -u 未定義の変数を使おうとするとエラーになります。 これらは基本的に指定しておくと良いと思います。想定していない値で処理が進んでしまうことを防げます。 次に以下の部分です。 DIR=$(cd $(dirname $0);pwd) こちらは、スクリプトが配置されているディレクトリへ移動し、そのディレクトリのパスを取得しています。 まず、$0 は実行されたシェルスクリプトのパスが格納されています。 dirname で実行中のファイルが格納されているディレクトリ名を取得します。 cd でそのディレクトリに移動します。そして、pwd でそのディレクトリのパスを取得しています。 使い所としては、ShellScript から他のファイルを参照している場合などに便利です。 必ず処理の最初にスクリプトのある場所へ移動しておけば、 $ ./bin/script.sh $ ./script.sh などどのようなパスから呼ばれてもかならずシェルスクリプトのあるディレクトリからの相対パスでファイルを参照できます。 まとめ 今回は SehllScript の Tips を書きました。ちょっとした処理の自動化などにまだまだ便利なためよく使っています。 ShellScript を使おうとする方の参考になれば幸いです。

こんにちは、 @kz_morita です。 今回は、『 チーム・ジャーニー 逆境を越える、変化に強いチームをつくりあげるまで 』という本を読んだので、その感想を書いていきたいと思います。 書籍について 『チーム・ジャーニー 逆境を越える、変化に強いチームをつくりあげるまで』という書籍で翔泳社から発売されています。 https://www.shoeisha.co.jp/book/detail/9784798163635 推薦のことば ・私たちは他者を必要としている｜宇田川元一 ・その先へ！Beyond the Agile｜新井剛 第1部　僕らが開発チームになるまで─1チームのジャーニー □単一チーム 基本編 ・第01話｜グループでしかないチーム ・第02話｜一人ひとりに向き合う ・第03話｜少しずつチームになる ・第04話｜チームのファーストを変える □単一チーム 応用編 ・第05話｜チームをアップデートする ・第06話｜分散チームへの適応 ・第07話｜チームの共通理解を深める ・第08話｜一人の人間のようなチーム 第2部　僕らがプロダクトチームになるまで─複数チームによるジャーニー □複数チーム 基本編 ・第09話｜塹壕の中のプロダクトチーム ・第10話｜チーム同士で向き合う ・第11話｜チームの間の境界を正す ・第12話｜チームの境界を越えてチームをつくる □複数チーム 応用編 ・第13話｜チームとチームをつなげる ・第14話｜クモからヒトデに移行するチーム ・第15話｜ミッションを越境するチーム ・第16話｜ともに考え、ともにつくるチーム 付録　リーン・ジャーニー・スタイルのプロダクト開発 書籍としては全体的に、ストーリー仕立てになっていてチームがチームとして機能するためのどのように成長するかという物語が書かれています。 感想など 書籍を読むきっかけとしては、今のチームの PdM の方におすすめだよと教えてもらったのがきっかけでした。 書籍を通してですが、チームが機能してくまでの過程をストーリー仕立てで読めるので非常に面白かったです。 また、チームの成熟度に応じてチームの課題に対してどのように対処していくかという形式で話が進みます。 特に登場人物やチームの問題の解像度が非常に高く、あぁこんな人いたなぁとかこんな問題よくあるよなぁというのが非常に共感できる部分が多かったです。 そのため、今自分が所属しているチームがどのくらいの段階にあるのかというのを考えながら読むことができるのがよかったです。 載っている内容も非常にいいことが多く、たとえばワークショップ症候群になるなという話などもでてきて刺さる部分が多かったです。 ワークショップ症候群とは、ドラッガー風エクササイズなどワークショップをやったことで問題が解決したと思い込んでしまうことを指します。 こういった話は非常にリアリティがあり、とりあえずワークショップをやろうとするのはよくあるよなぁと反省しながら読み進めました。 ストーリー仕立てとはいえ、リアリティが非常に高いので今のチームの状況と照らし合わせながら読むことでどういう改善ができるかということに非常に役立ちそうです。 チームについて考える時に、この本をリファレンスとして問題に立ち向かっていけそうだなと思います。 今の自分にとってとても学びがある本でした。

こんにちは、 @kz_morita です。 ソフトウェア開発で必要なシステム設計のスキルを学ぶのに良さそうな学習リソースとして、System Design Primer という GitHub リポジトリがあります。 ざっと目を通した感じかなり良さそうだったので紹介します。 The System Design Primer system-design-primer という GitHub リポジトリにシステム設計の学習に役立つ情報がまとめられています。 こちら日本語版もあります。 システム設計入門 内容としては、システム設計についての知識やコーディング面接でシステム設計を問われた時の考え方などが記載されています。 トピックとしては以下のようなものがあります。 パフォーマンス、スケーラビリティ、レイテンシー、スループットなど CAP理論について 一貫性のパターン レプリケーションやフェイルオーバーなど キャッシュについて DB, Application などレイヤーごとの設計 他にも、システム設計の面接問題の例題が記載されています。 たとえば、以下のような問題があります。 Dropbox のようなファイル同期サービスを設計する Twitter のトレンド機能の設計 実際のサービスの設計について考えるための参考になるリンクなどを記載されていてかなり良さそうです。 他にも、有名企業の TechBlog などのリンクも記載されています。 全体的にこれらの企業に面接を挑むためのドキュメントとして書かれていますが、そうでない場合でも非常に有用な知識が得られると思います。 まとめ 今回 System Design Primer という GitHub リポジトリを紹介しました。全然読めてないのですがこちらかなり良さそうなので読み進めようと思います。

こんにちは、 @kz_morita です。 先日開催された、技術書典 17 で共著の本をだしました。 Snowflake Start Guide - Snowflake, dbt, Terraform 自分は第 5 章の「データ品質とオブザーバビリティ」を書きました。 内容について簡単に紹介します。 書籍の内容について 以下のような目次の本になります。 第 1 章 データ基盤の基礎 第 2 章 Snowflakeの基礎 第 3 章 Snowflake のセットアップ 第 4 章 データ取り込みと集計 第 5 章 データ品質とオブザーバビリティ 第 1 章から第 4 章までが Snowflake の基本的な使い方やセットアップ方法、データ取り込み方法などが書かれています。この内容をみれば Snowflake を使い始められるようになる内容になっています。 4 章までの内容だけでも非常に充実していて買う価値がありと素直に思います。 自分は第 5 章の「データ品質とオブザーバビリティ」を書いたのですが、データの信頼性を高めるという目的で、 Test と Observability という 2 観点を書きました。 Test では、 dbt で実行できる Test の種別と実際の Test の例を紹介しました。 個人的には、Unit Test がとても便利で特にどのように CI / CD に組み込むのかというテーマが最近興味があります。 データ信頼性という観点でもそうですし、開発効率を上げるための自動化という観点でも興味があります。

こんにちは、 @kz_morita です。 Python のパッケージ管理ツールである pip で、依存関係を解決してパッケージをインストールする方法についてメモします。 --upgrade-storategy オプション 依存関係もまとめてアップデートするには、--upgrade-storategy オプションを使います。 $ pip install --upgrade --upgrade-strategy eager <パッケージ名> ちなみに、--upgrade-strategy オプションには以下の値が指定できます。 only-if-needed: 依存関係のアップデートは行わない eager: 依存関係も含めてアップデートする デフォルトは、only-if-needed です。 まとめ 今回は pip の --upgrade-strategy オプションを使って、依存関係も含めてパッケージをアップデートする方法について紹介しました。 あまり使う機会なさそうですが、依存関係を含めてアップデートしたい場合に覚えておくと良さそうです。

こんにちは、 @kz_morita です。 Snowflake 上で Python コードを書くことができるのですが、その際にPython のライブラリ何が使えるのかを調べたのでまとめます。 Snowflake で Python の Package を利用する Snowflake では、あらゆるところで Python のコードを書くことができます。 たとえば、Function (User Defined Function) や Procedure などで使うことができます。 Python UDFsの紹介 Python でのストアドプロシージャ Python といえば、numpy などのライブラリですが、これらは基本的に Snowflake 上で使用することができます。 実際にどの Package が使えるかは、anaconda の package のリポジトリサイトから閲覧することができます。 https://repo.anaconda.com/pkgs/snowflake/ 見てみると、 numpy pandas boto3 など基本的な Package は使用できるみたいです。 また、自作の Package なども Snowflake の Stage にアップロードすることで使えるようになります。 https://docs.snowflake.com/ja/developer-guide/udf/python/udf-python-creating#label-udf-python-stage ちなみに、Python 以外にも、Java, JavaScript, Python, Scala などを使用することができるため、既存の資産を使いつつ Snowflake 側でデータ処理を行うことができそうです。

こんにちは、 @kz_morita です。 今回は英語の文書や書籍を読むときに使用しているツールを2つ紹介します。 DeepL https://www.deepl.com/ 有名なツールですが、翻訳をするのに DeepL を使っています。 DeppL は DeepL Pro Starter プランを課金して使っています。 課金しているのは、pdf ファイルをそのまま翻訳する機能が非常に良いなと思ったからです。 普段、pdf は Kindle Scribe で読んでます。 Kindle Scribe を 1 年くらい使ってみたので感想など そうなると Kindle で翻訳をしながら読んでいくのがしんどいです。 そのため翻訳済みのものが pdf などになっていると Send to Kindle で Kindle へ送り読むことができ、とてもはかどります。 NotebookLM https://notebooklm.google.com/ こちらは pdf などを読み込ませるとそれに対して質問などがなげられる生成AIです。 こちら英語の文書を読み込ませて、日本語で質問してもいい感じに答えてくれるので愛用しています。 注意点としては、著作権についてで、一応自分は公開されているもの以外では今のところ活用していません。 著作物の扱いについては考慮して使う必要がありそうです。 まとめ 英語の文書を読む機会は、技術の公式ドキュメントなども合わせるとかなり増えましたが、いろいろなツールがでていてそれらを使うと効率的に読めるため非常に便利です。 うまく使ってたくさんの Input をしていきたいと思っています。

こんにちは、 @kz_morita です。 今回は、名著と名高い『A Philosophy of Software Design』を読んで内容もとても良かったので、メモします。 書籍について 『 https://www.amazon.co.jp/-/en/John-Ousterhout/dp/1732102201 』という本で、2018 年 に初版が発売され、2021 年に第2版が発売された歴史ある本です。 以下のような目次になっています。 Preface 1 Introduction 2 The Nature of Complexity 3 Working Code Isn’t Enough 4 Modules Should Be Deep 5 Information Hiding (and Leakage) 6 General-Purpose Modules are Deeper 7 Different Layer, Different Abstraction 8 Pull Complexity Downwards 9 Better Together Or Better Apart? 10 Define Errors Out Of Existence 11 Design it Twice 12 Why Write Comments?

こんにちは、 @kz_morita です。 社内のドキュメントについて色々と調べていたときに Diátaxis というフレームワークがあるのを知ったので紹介します。 Diátaxis について Diátaxis はテクニカルドキュメントのフレームワークです。 Diátaxis 以下の４つの構造からなります。 TUTORIALS HOW-TO GUIDES REFERENCE EXPLANATION TUTORIALS いわゆるチュートリアルです。 実際に手を動かして、学ぶコンテンツになります。 内容を詳細に説明するというよりは、説明したい対象を理解するために手を動かして学ぶ系のコンテンツです。 HOW-TO GUIDES ある特定の問題や、結果に向かっての手順などを示すものです。TUTORIALS が学習に重きをおいていたのに対し、HOW-TO GUIDES は目的指向です。 〇〇する方法といった形で、実現したい目標に対してどのように達成するかの手順を示します。 システムを使用するユーザー目線でのユースケースについて書かれます。 REFERENCE REFERENCE はシステムの技術的な説明と操作方法を記載します。 こちらは情報指向で、よくある API Reference などがこちらに当たります。 こちらが満たすべきこととしては、曖昧さがなく明確なことや、意見などを含まず中立的に書かれていることです。 EXPLANATION EXPLANATION は、システムの理解を深めるために記載されます。 システムについてより詳しく理解するために、談話的に書かれます。 ちなみに公式サイトには、 (one could say, explanation is the only kind of documentation that it might make sense to read in the bath) と書かれていて、お風呂の中で読むのに唯一価値があるものとありました。

こんにちは、 @kz_morita です。 Git で空コミットを作成する方法について調べたのでメモします。 空コミットを作る方法 Git ではファイル差分がなければ基本的には commit を作成できませんが、 --allow-empty オプションを追加すると差分がなくてもコミットを作成することができます。 $ git commit --allow-empty -m "Commit Message" 空コミットの使い所 なぜ空コミットをしたかったのかというと、Dagster の Branch Deployment 機能を用いて開発環境を作成したかったためです。 現在、Dagster という Data Pipeline の Orchestration ツールを使用しています。Dagster には Branch Deployment という機能があるのですが、実際のワークフローに加え特定の GitHub のブランチをデプロイして、ワークフローを動かせる仕組みとなっています。 私の環境では、Snowflake 上で本番と開発のスキーマを分けていて、Dagster の Branch Deployment 機能を用いて、開発用ブランチのワークフローを Snowflake の開発環境に向けて実行するということを行っています。 Dagster の Branch Deployment 機能は、GitHub の Pull Request を見てデプロイが実行されます。 そうなると開発フローとしては、 実装を行う 開発用ブランチに修正を merge する Dagster の Branch Deployment 機能でデプロイされる 開発用のワークフローを回して、Snowflake の開発用スキーマ上に反映 となります。 このときに、本番環境、つまり main ブランチの内容を定期的に、開発用ブランチにも反映したいのですが、main を開発用ブランチにマージしたタイミングで差分がなくなってしまうと Pull Request が自動で閉じられてしまいます。

こんにちは、 @kz_morita です。 jq で正規表現を使う方法について書いていきます。 jq での正規表現 今回も以下のような JSON を対象にします。 { "name": "Alice", "age": 20, "address": { "street": "123 Main St", "city": "Wonderland" }, "phoneNumbers": [ { "type": "home", "number": "555-1234" } ], "isActive": true } jq には以下のような正規表現を使える関数が用意されています。 test match capture scan split sub gsub たとえば、正規表現にマッチするかどうか見たい場合は以下のように test 関数をつかうことができます。 $ cat sample.json | jq '.phoneNumbers[].number | test("^\\d{3}-\\d{4}$")' true 置換をしたい場合は jq の関数に、sub と gsub が用意されていてこれで正規表現を用いることができます。 たとえば、streent の最後の St を削除するような置換の例は以下のようにかけます。 $ cat sample.