こんにちは、 @kz_morita です。 スタッフエンジニアの道 ―優れた技術専門職になるためのガイド という本を読んだので感想などを書いていきます。 書籍について 『スタッフエンジニアの道 ―優れた技術専門職になるためのガイド』という本で、O’Reilly から発売されています。 https://www.oreilly.co.jp/books/9784814400867/ 以下のような目次になっています。 本書への推薦の言葉 序文 イントロダクション 第I部　大局的な思考 1章　では、具体的に君はここで何を？ 2章　3つの地図 3章　全体像を描く 第II部　実行 4章　限りある時間 5章　大規模プロジェクトをリードする 6章　なぜ止まってしまったか？ 第III部　レベルアップ 7章　今はあなたがロールモデル（お気の毒さまながら） 8章　良い影響力を広げる 9章　この先は？ 参考文献 訳者あとがき 索引 感想など この書籍は、スタッフエンジニアにどのような役割が求められているか、どのようになるべきなのかという点がかなり具体的に書かれていて非常に良かったです。 具体的には、全体像を描くことや、実際にプロジェクトを進めるうえでどのように振る舞うべきかなどが書かれています。 プロジェクトのリーダーとして進める際にどう進めるかや、同じチームの人に対してどのように支援していくかといった具体的な戦略が書かれています。 また、スタッフエンジニアになったあとにどう自身の時間を使うかや、キャリアをどのように構築していくかといったアドバイスも書かれていました。 同じスタッフエンジニアについて書かれた、 『スタッフエンジニア　マネジメントを超えるリーダーシップ』 との違いとしては、『スタッフエンジニア　マネジメントを超えるリーダーシップ』の本では、そもそもスタッフエンジニアとは何なのかという点が中心にかかれていました。 今回の書籍では、スタッフエンジニアになるためにどのような振る舞いをすべきなのかという点が多く書かれており、実践編という感じでした。 両方の本と合わせて読むとスタッフエンジニアについての理解が深まり良さそうです。 まとめ 今回は、書籍を読んだ感想をまとめした。かなり実践的で普段開発している中で意識していることや意識できてないけど大事だなと思うことが多く書かれていて非常に学びになりました。エンジニア人生のバイブルとなりそうな本なので何回も読み直そうと思います。

こんにちは、 @kz_morita です。 2025 年が始まったので今年の抱負などを書いていこうと思います。 やりたいこと 2025 年も引き続き学び続けてその結果をアウトプットしていきたいです。 具体的には、以下のようなことは引き続きやりたいです。 書籍 30 冊読む ブログは年 52 記事目標 プライベートでコードを書く 書籍 30 冊読む 書籍については、今年は月１冊ほどのペースで 12 冊でした。来年はもう少しペースを上げて 30 冊を目指したいです。 書籍数は別に重要な指標ではないですが、これくらいの頻度で Input を続けていくことは大事ですし、ちゃんと Input 習慣できれば自ずとこのくらいの冊数になるのかなと思っています。 ブログは年 52 記事目標 今年も週一の更新を続けて 52 記事を書いていこうと思います。今年は週一の更新に遅れがちだったのでもう少し余裕を持って更新していきたいです。 プライベートでコードを書く こちらは、去年あまり達成できなかったことです。 本業でも、徐々にコードを書く機会が減ってきておりコードをちゃんと書き続けることへのプライオリティを自分の中で高めなければと思ってます。 気になっている技術や仕事周りで使用するツールなど題材はたくさんあるはずなのでコードを書いていきます。 特に使っている OSS などに対してちゃんとコントリビュートするなどやっていきたいです。 まとめ 今年も、心身の健康は第一で引き続き学び続けていく年にしたいです。 去年は学びなどの時間を基本的に週末を使っていましたが、平日の時間をもう少し有効活用しないと達成が難しいなと感じています。 平日にもちゃんと時間を作って学べるようなリズムを作ることが今年の最初の課題です。 あとは、学習や思考の体力をつけるためにちゃんと運動もしていきます。 本年もよろしくお願いいたします。

こんにちは、 @kz_morita です。 気がつけば 2024 年も年の瀬ということで、毎年恒例の WordCloud でブログを通して今年を振り返ります。 今年の成果 まず今年は、ブログのを 52 本記事を書きました。今年もところどころ遅れるところはありましたが、週一でブログを書き続けることができました。 今年の WordCloud は以下のようになりました。 今年はチームリーダー的なポジションとして、開発チームを率いていく立場に就かせていただくことになったのですが、それが WordCloud にも如実にあらわれているのが面白いなと思いました。 本 や 書籍 というワードも多いですが、今年の書籍の感想系は以下の記事を書いていました。 『チームトポロジー』を読んだ 『Fundamentals of Data Observability』を読んだ 『GitLabに学ぶ 世界最先端のリモート組織のつくりかた』を読んだ 『エンジニアリング組織論への招待』を読んだ 『プログラマー脳』を読んだ 『達人プログラマー』を読んだ 『データエンジニアリングの基礎』を読んだ 『達人に学ぶDB設計 徹底指南書』を読んだ 『関数型ドメインモデリング』を読んだ 『A Philosophy of Software Design』を読んだ 『チーム・ジャーニー』を読んだ 『実践 DataOps』を読んだ 書籍は年間通して 12 冊読んでいて、月１冊ペースでは読めていそうでした。 チーム関連の書籍が増えているのも今年の特徴です。 自分がチームを率いていく立場に始めたなった不安感などから学ぼうとしていたのだと思います。 ブログ以外の活動としては、以下に取り組みました。 技術書典16 でボードゲーム頒布 技術書典 16 でボードゲームを頒布した話 技術書典17 で 書籍の共著 技術書典 17 で本を書きました 他社との合同勉強会での登壇 1本 ここには載せませんが、会社の TechBlog も 2本書いてました。

こんにちは、 @kz_morita です。 今回は、『 実践 DataOps 』という本を読んだので感想を書いていきます。 書籍について 『実践 DataOps』という書籍で、翔泳社から発売されています。 https://www.shoeisha.co.jp/book/detail/9784798179247 以下目次です。 ◆Part 1 DataOps序論 ・Chapter 1 データサイエンスの問題点 ・Chapter 2 データ戦略 ◆Part 2 DataOpsの実践に向けて ・Chapter 3 リーンシンキング ・Chapter 4 アジャイルなコラボレーション ・Chapter 5 効果測定とフィードバックの仕組み作り ◆Part 3 さらなるステップ ・Chapter 6 信頼の構築 ・Chapter 7 DataOpsへのDevOpsの適用 ・Chapter 8 DataOps実現のための組織作り ◆Part 4 セルフサービス型組織 ・Chapter 9 DataOpsで用いるテクノロジー ・Chapter 10 DataOpsの導入手順 感想など この書籍では、データを利用したプロダクトを開発する際にどのように DataOps を実現していけばよいかという点について網羅的にかかれていました。 たとえば、データプロダクトを作る際にどのようにデータを取り扱っていけばよいかについて書かれています。 既存のツールなども紹介されていましたが、それだけではなく、チーム間でどのようにコラボレーションしていけばよいかという観点やまず何から始めていけばよいかという点が書かれていたのが参考になりました。 書籍の中で、 DataOps マニフェストが紹介されています。 https://dataopsmanifesto.org/ja/ データサイエンス、データエンジニアリング、データ管理、ビッグデータ、ビジネスインテリジェンスなどと呼ばれるものを問わず、当社は分析において以下のようなことを重視するようになりました。

こんにちは、 @kz_morita です。 久しぶりに Python を触って日付周りの処理を調べたのでまとめます。 datetime datetime モジュールについて見ていきます。 import datetime 現在時刻の取得 >>> print(datetime.date.today()) 2024-12-22 >>> print(datetime.datetime.today()) 2024-12-22 23:31:49.193061 初期化 >>> print(datetime.date(2024,12,1)) 2024-12-01 >>> print(datetime.datetime(2024,12,1,12,0,0)) 2024-12-01 12:00:00 日付の加算 timedelta を使用すると加算などが行えます >>> today = datetime.date.today() >>> today datetime.date(2024, 12, 22) >>> today + datetime.timedelta(days=1) datetime.date(2024, 12, 23) >>> today - datetime.timedelta(weeks=1) datetime.date(2024, 12, 15) 文字列 <-> 日付 文字列 -> 日付 >>> print(datetime.datetime.strptime("2024/12/22", "%Y/%m/%d")) 2024-12-22 00:00:00 日付 -> 文字列 >>> today datetime.date(2024, 12, 22) >>> print(today.

こんにちは、 @kz_morita です。 今回は QuickSight でテンプレートを作成する方法について記載します。 QuickSight のテンプレート機能 QuickSight にはテンプレート機能が用意されています。 テンプレート機能を使うと、分析やダッシュボードをコピーすることができます。 これは例えば、ダッシュボードを開発環境と本番環境などに分けてデプロイする際などに活用することができます。 テンプレート昨日は、AWS コンソールの GUI からは作成することができず CLI 操作となります。 テンプレートの作成 まずは、テンプレートを作成するための JSON ファイルを作成します。 以下のようなファイルを作成します。 { "SourceAnalysis": { "Arn": "arn:aws:quicksight:${REGION}:${AWS_ACCOUNT_ID}:analysis/${TARGET_ANALYSIS_ID}", "DataSetReferences": [ { "DataSetPlaceholder": "DATA_SET_1", "DataSetArn": "arn:aws:quicksight:${REGION}:${AWS_ACCOUNT_ID}:dataset/${DATA_SET_1_ID}" }, { "DataSetPlaceholder": "DATA_SET_2", "DataSetArn": "arn:aws:quicksight:${REGION}:${AWS_ACCOUNT_ID}:dataset/${DATA_SET_2_ID}" } ] } } 中を説明すると、対象の分析とその分析でしようしているデータセットを指定します。 これらのデータは、DataSetReferences は自動生成できるのそのスクリプトも記載します。 $ aws quicksight describe-analysis-definition --aws-account-id ${AWS_ACCOUNT_ID} --analysis-id ${TARGET_ANALYSIS_ID} \ | jq .Definition.DataSetIdentifierDeclarations \ | jq '. | map({ "DataSetPlaceholder": .Identifier, "DataSetArn": .DataSetArn })'` こちらは、aws-cli で describe-analysis-definition を実行すると取得でいる JSON から jq を用いて必要な情報を取得しています。

こんにちは、 @kz_morita です。 普段 neovim をメインのエディタとして使っていますが、CopilotChat も neovim で使用できたので設定方法を紹介します。 この記事の前提として、Copilot は導入済みなものとします。 まだ導入されてない方は、以前書いたこちらの記事を参考にしてみてください。 CopilotChat の設定 CopilotChat は neovim でもサポートされており、以下の公式の手順を参考に設定ができます。 CopilotChat.nvim ただし、自分の環境ではプラグインマネージャに Dein を使っていたりなど若干差分があったので補足します。 私の環境では dein を 使用しているので、dein.toml に以下のように追記してプラグインをインストールできるようにします。 [[plugins]] repo = 'github/copilot.vim' [[plugins]] repo = 'nvim-lua/plenary.nvim' [[plugins]] # CopilotChat repo = 'CopilotC-Nvim/CopilotChat.nvim' depends = ['github/copilot.vim', 'nvim-lua/plenary.nvim'] branch = 'canary' つぎに、CopilotChat のセットアップ用のスクリプトを lua で記載します。 私の環境では ~/.config/nvim/lua/copilot_chat_config.lua というファイルを作成し以下の内容を記載しました。 require("CopilotChat").setup { debug = true, -- Enable debugging } そして、init.vim に以下のように記載します。

こんにちは、 @kz_morita です。 先日、Karabiner-Elements のアップデートを行ったところ動作しなくなりました。最終的に確認して動作するようになった項目をメモしておきます。 確認項目 私がアップデートした際はログイン項目のチェックが外れていたことが原因でした。 ログイン項目 システム環境設定 > 一般 > ログイン項目 にある バックグラウンドでの実行を許可の項目にチェックが入っているか確認します。 プライバシーとセキュリティ システム環境設定 > プライバシーとセキュリティ の中の各項目で Karabiner-Elements に許可がなされているかを確認します。 フルディスクアクセス 入力監視 まとめ 今回は Karabiner-Elements のアップデート時に動作しなくなった際の確認項目をメモしました。ログイン項目のチェックが外れていたり、プライバシーとセキュリティの設定がされていないことが原因であることが多いので、まずはこれらの項目を確認すると良いかと思います。 動かなくなった時30分ほど原因調査に時間を取られてしまったので、この記事が他の方の参考になれば幸いです。

こんにちは、 @kz_morita です。 ShellScript を書く際のちょっとした Tips を書きます。 Tips シェルスクリプトを書く時に先頭に必ず書くコードがあります。 以下のようなコードです。 #!/bin/bash set -eu DIR=$(cd $(dirname $0);pwd) 順番に説明します。 まずは以下です。 set -eu これは、set -e と set -u を同時に指定しています。 それぞれ以下のような効果があります。 set -e シェルスクリプトがエラーで終了するようにします。、コマンドがエラーで終了した場合、それ以降のコマンドは実行されません。 set -u 未定義の変数を使おうとするとエラーになります。 これらは基本的に指定しておくと良いと思います。想定していない値で処理が進んでしまうことを防げます。 次に以下の部分です。 DIR=$(cd $(dirname $0);pwd) こちらは、スクリプトが配置されているディレクトリへ移動し、そのディレクトリのパスを取得しています。 まず、$0 は実行されたシェルスクリプトのパスが格納されています。 dirname で実行中のファイルが格納されているディレクトリ名を取得します。 cd でそのディレクトリに移動します。そして、pwd でそのディレクトリのパスを取得しています。 使い所としては、ShellScript から他のファイルを参照している場合などに便利です。 必ず処理の最初にスクリプトのある場所へ移動しておけば、 $ ./bin/script.sh $ ./script.sh などどのようなパスから呼ばれてもかならずシェルスクリプトのあるディレクトリからの相対パスでファイルを参照できます。 まとめ 今回は SehllScript の Tips を書きました。ちょっとした処理の自動化などにまだまだ便利なためよく使っています。 ShellScript を使おうとする方の参考になれば幸いです。

こんにちは、 @kz_morita です。 今回は、『 チーム・ジャーニー 逆境を越える、変化に強いチームをつくりあげるまで 』という本を読んだので、その感想を書いていきたいと思います。 書籍について 『チーム・ジャーニー 逆境を越える、変化に強いチームをつくりあげるまで』という書籍で翔泳社から発売されています。 https://www.shoeisha.co.jp/book/detail/9784798163635 推薦のことば ・私たちは他者を必要としている｜宇田川元一 ・その先へ！Beyond the Agile｜新井剛 第1部　僕らが開発チームになるまで─1チームのジャーニー □単一チーム 基本編 ・第01話｜グループでしかないチーム ・第02話｜一人ひとりに向き合う ・第03話｜少しずつチームになる ・第04話｜チームのファーストを変える □単一チーム 応用編 ・第05話｜チームをアップデートする ・第06話｜分散チームへの適応 ・第07話｜チームの共通理解を深める ・第08話｜一人の人間のようなチーム 第2部　僕らがプロダクトチームになるまで─複数チームによるジャーニー □複数チーム 基本編 ・第09話｜塹壕の中のプロダクトチーム ・第10話｜チーム同士で向き合う ・第11話｜チームの間の境界を正す ・第12話｜チームの境界を越えてチームをつくる □複数チーム 応用編 ・第13話｜チームとチームをつなげる ・第14話｜クモからヒトデに移行するチーム ・第15話｜ミッションを越境するチーム ・第16話｜ともに考え、ともにつくるチーム 付録　リーン・ジャーニー・スタイルのプロダクト開発 書籍としては全体的に、ストーリー仕立てになっていてチームがチームとして機能するためのどのように成長するかという物語が書かれています。 感想など 書籍を読むきっかけとしては、今のチームの PdM の方におすすめだよと教えてもらったのがきっかけでした。 書籍を通してですが、チームが機能してくまでの過程をストーリー仕立てで読めるので非常に面白かったです。 また、チームの成熟度に応じてチームの課題に対してどのように対処していくかという形式で話が進みます。 特に登場人物やチームの問題の解像度が非常に高く、あぁこんな人いたなぁとかこんな問題よくあるよなぁというのが非常に共感できる部分が多かったです。 そのため、今自分が所属しているチームがどのくらいの段階にあるのかというのを考えながら読むことができるのがよかったです。 載っている内容も非常にいいことが多く、たとえばワークショップ症候群になるなという話などもでてきて刺さる部分が多かったです。 ワークショップ症候群とは、ドラッガー風エクササイズなどワークショップをやったことで問題が解決したと思い込んでしまうことを指します。 こういった話は非常にリアリティがあり、とりあえずワークショップをやろうとするのはよくあるよなぁと反省しながら読み進めました。 ストーリー仕立てとはいえ、リアリティが非常に高いので今のチームの状況と照らし合わせながら読むことでどういう改善ができるかということに非常に役立ちそうです。 チームについて考える時に、この本をリファレンスとして問題に立ち向かっていけそうだなと思います。 今の自分にとってとても学びがある本でした。

こんにちは、 @kz_morita です。 ソフトウェア開発で必要なシステム設計のスキルを学ぶのに良さそうな学習リソースとして、System Design Primer という GitHub リポジトリがあります。 ざっと目を通した感じかなり良さそうだったので紹介します。 The System Design Primer system-design-primer という GitHub リポジトリにシステム設計の学習に役立つ情報がまとめられています。 こちら日本語版もあります。 システム設計入門 内容としては、システム設計についての知識やコーディング面接でシステム設計を問われた時の考え方などが記載されています。 トピックとしては以下のようなものがあります。 パフォーマンス、スケーラビリティ、レイテンシー、スループットなど CAP理論について 一貫性のパターン レプリケーションやフェイルオーバーなど キャッシュについて DB, Application などレイヤーごとの設計 他にも、システム設計の面接問題の例題が記載されています。 たとえば、以下のような問題があります。 Dropbox のようなファイル同期サービスを設計する Twitter のトレンド機能の設計 実際のサービスの設計について考えるための参考になるリンクなどを記載されていてかなり良さそうです。 他にも、有名企業の TechBlog などのリンクも記載されています。 全体的にこれらの企業に面接を挑むためのドキュメントとして書かれていますが、そうでない場合でも非常に有用な知識が得られると思います。 まとめ 今回 System Design Primer という GitHub リポジトリを紹介しました。全然読めてないのですがこちらかなり良さそうなので読み進めようと思います。

こんにちは、 @kz_morita です。 先日開催された、技術書典 17 で共著の本をだしました。 Snowflake Start Guide - Snowflake, dbt, Terraform 自分は第 5 章の「データ品質とオブザーバビリティ」を書きました。 内容について簡単に紹介します。 書籍の内容について 以下のような目次の本になります。 第 1 章 データ基盤の基礎 第 2 章 Snowflakeの基礎 第 3 章 Snowflake のセットアップ 第 4 章 データ取り込みと集計 第 5 章 データ品質とオブザーバビリティ 第 1 章から第 4 章までが Snowflake の基本的な使い方やセットアップ方法、データ取り込み方法などが書かれています。この内容をみれば Snowflake を使い始められるようになる内容になっています。 4 章までの内容だけでも非常に充実していて買う価値がありと素直に思います。 自分は第 5 章の「データ品質とオブザーバビリティ」を書いたのですが、データの信頼性を高めるという目的で、 Test と Observability という 2 観点を書きました。 Test では、 dbt で実行できる Test の種別と実際の Test の例を紹介しました。 個人的には、Unit Test がとても便利で特にどのように CI / CD に組み込むのかというテーマが最近興味があります。 データ信頼性という観点でもそうですし、開発効率を上げるための自動化という観点でも興味があります。

こんにちは、 @kz_morita です。 Python のパッケージ管理ツールである pip で、依存関係を解決してパッケージをインストールする方法についてメモします。 --upgrade-storategy オプション 依存関係もまとめてアップデートするには、--upgrade-storategy オプションを使います。 $ pip install --upgrade --upgrade-strategy eager <パッケージ名> ちなみに、--upgrade-strategy オプションには以下の値が指定できます。 only-if-needed: 依存関係のアップデートは行わない eager: 依存関係も含めてアップデートする デフォルトは、only-if-needed です。 まとめ 今回は pip の --upgrade-strategy オプションを使って、依存関係も含めてパッケージをアップデートする方法について紹介しました。 あまり使う機会なさそうですが、依存関係を含めてアップデートしたい場合に覚えておくと良さそうです。

こんにちは、 @kz_morita です。 Snowflake 上で Python コードを書くことができるのですが、その際にPython のライブラリ何が使えるのかを調べたのでまとめます。 Snowflake で Python の Package を利用する Snowflake では、あらゆるところで Python のコードを書くことができます。 たとえば、Function (User Defined Function) や Procedure などで使うことができます。 Python UDFsの紹介 Python でのストアドプロシージャ Python といえば、numpy などのライブラリですが、これらは基本的に Snowflake 上で使用することができます。 実際にどの Package が使えるかは、anaconda の package のリポジトリサイトから閲覧することができます。 https://repo.anaconda.com/pkgs/snowflake/ 見てみると、 numpy pandas boto3 など基本的な Package は使用できるみたいです。 また、自作の Package なども Snowflake の Stage にアップロードすることで使えるようになります。 https://docs.snowflake.com/ja/developer-guide/udf/python/udf-python-creating#label-udf-python-stage ちなみに、Python 以外にも、Java, JavaScript, Python, Scala などを使用することができるため、既存の資産を使いつつ Snowflake 側でデータ処理を行うことができそうです。

こんにちは、 @kz_morita です。 今回は英語の文書や書籍を読むときに使用しているツールを2つ紹介します。 DeepL https://www.deepl.com/ 有名なツールですが、翻訳をするのに DeepL を使っています。 DeppL は DeepL Pro Starter プランを課金して使っています。 課金しているのは、pdf ファイルをそのまま翻訳する機能が非常に良いなと思ったからです。 普段、pdf は Kindle Scribe で読んでます。 Kindle Scribe を 1 年くらい使ってみたので感想など そうなると Kindle で翻訳をしながら読んでいくのがしんどいです。 そのため翻訳済みのものが pdf などになっていると Send to Kindle で Kindle へ送り読むことができ、とてもはかどります。 NotebookLM https://notebooklm.google.com/ こちらは pdf などを読み込ませるとそれに対して質問などがなげられる生成AIです。 こちら英語の文書を読み込ませて、日本語で質問してもいい感じに答えてくれるので愛用しています。 注意点としては、著作権についてで、一応自分は公開されているもの以外では今のところ活用していません。 著作物の扱いについては考慮して使う必要がありそうです。 まとめ 英語の文書を読む機会は、技術の公式ドキュメントなども合わせるとかなり増えましたが、いろいろなツールがでていてそれらを使うと効率的に読めるため非常に便利です。 うまく使ってたくさんの Input をしていきたいと思っています。

こんにちは、 @kz_morita です。 今回は、名著と名高い『A Philosophy of Software Design』を読んで内容もとても良かったので、メモします。 書籍について 『 https://www.amazon.co.jp/-/en/John-Ousterhout/dp/1732102201 』という本で、2018 年 に初版が発売され、2021 年に第2版が発売された歴史ある本です。 以下のような目次になっています。 Preface 1 Introduction 2 The Nature of Complexity 3 Working Code Isn’t Enough 4 Modules Should Be Deep 5 Information Hiding (and Leakage) 6 General-Purpose Modules are Deeper 7 Different Layer, Different Abstraction 8 Pull Complexity Downwards 9 Better Together Or Better Apart? 10 Define Errors Out Of Existence 11 Design it Twice 12 Why Write Comments?

こんにちは、 @kz_morita です。 社内のドキュメントについて色々と調べていたときに Diátaxis というフレームワークがあるのを知ったので紹介します。 Diátaxis について Diátaxis はテクニカルドキュメントのフレームワークです。 Diátaxis 以下の４つの構造からなります。 TUTORIALS HOW-TO GUIDES REFERENCE EXPLANATION TUTORIALS いわゆるチュートリアルです。 実際に手を動かして、学ぶコンテンツになります。 内容を詳細に説明するというよりは、説明したい対象を理解するために手を動かして学ぶ系のコンテンツです。 HOW-TO GUIDES ある特定の問題や、結果に向かっての手順などを示すものです。TUTORIALS が学習に重きをおいていたのに対し、HOW-TO GUIDES は目的指向です。 〇〇する方法といった形で、実現したい目標に対してどのように達成するかの手順を示します。 システムを使用するユーザー目線でのユースケースについて書かれます。 REFERENCE REFERENCE はシステムの技術的な説明と操作方法を記載します。 こちらは情報指向で、よくある API Reference などがこちらに当たります。 こちらが満たすべきこととしては、曖昧さがなく明確なことや、意見などを含まず中立的に書かれていることです。 EXPLANATION EXPLANATION は、システムの理解を深めるために記載されます。 システムについてより詳しく理解するために、談話的に書かれます。 ちなみに公式サイトには、 (one could say, explanation is the only kind of documentation that it might make sense to read in the bath) と書かれていて、お風呂の中で読むのに唯一価値があるものとありました。

こんにちは、 @kz_morita です。 Git で空コミットを作成する方法について調べたのでメモします。 空コミットを作る方法 Git ではファイル差分がなければ基本的には commit を作成できませんが、 --allow-empty オプションを追加すると差分がなくてもコミットを作成することができます。 $ git commit --allow-empty -m "Commit Message" 空コミットの使い所 なぜ空コミットをしたかったのかというと、Dagster の Branch Deployment 機能を用いて開発環境を作成したかったためです。 現在、Dagster という Data Pipeline の Orchestration ツールを使用しています。Dagster には Branch Deployment という機能があるのですが、実際のワークフローに加え特定の GitHub のブランチをデプロイして、ワークフローを動かせる仕組みとなっています。 私の環境では、Snowflake 上で本番と開発のスキーマを分けていて、Dagster の Branch Deployment 機能を用いて、開発用ブランチのワークフローを Snowflake の開発環境に向けて実行するということを行っています。 Dagster の Branch Deployment 機能は、GitHub の Pull Request を見てデプロイが実行されます。 そうなると開発フローとしては、 実装を行う 開発用ブランチに修正を merge する Dagster の Branch Deployment 機能でデプロイされる 開発用のワークフローを回して、Snowflake の開発用スキーマ上に反映 となります。 このときに、本番環境、つまり main ブランチの内容を定期的に、開発用ブランチにも反映したいのですが、main を開発用ブランチにマージしたタイミングで差分がなくなってしまうと Pull Request が自動で閉じられてしまいます。

こんにちは、 @kz_morita です。 jq で正規表現を使う方法について書いていきます。 jq での正規表現 今回も以下のような JSON を対象にします。 { "name": "Alice", "age": 20, "address": { "street": "123 Main St", "city": "Wonderland" }, "phoneNumbers": [ { "type": "home", "number": "555-1234" } ], "isActive": true } jq には以下のような正規表現を使える関数が用意されています。 test match capture scan split sub gsub たとえば、正規表現にマッチするかどうか見たい場合は以下のように test 関数をつかうことができます。 $ cat sample.json | jq '.phoneNumbers[].number | test("^\\d{3}-\\d{4}$")' true 置換をしたい場合は jq の関数に、sub と gsub が用意されていてこれで正規表現を用いることができます。 たとえば、streent の最後の St を削除するような置換の例は以下のようにかけます。 $ cat sample.

こんにちは、 @kz_morita です。 日頃エンジニアの業務をしていると、ちょっとしたログファイルを解析したり、JSON ファイルの中身を検索したりなどそういったテキスト処理の作業が発生することがあります。 ちょっとした作業であれば VSCode などでファイルを開いて検索したり、置換したりすること解決できることが多いですがその際に正規表現を使うとかなり便利なことが多いです。 実際によくやる例 以下のような JSON ファイルがあるとします。 { "project": { "id": "12345", "name": "Sample Project", "description": "This project demonstrates JSON structure. More details are at https://example.com.", "created_at": "2024-09-08T12:34:56Z", "owner": { "name": "John Doe", "email": "john.doe@example.com", "profile": "Visit John's blog at https://johndoe.example.com." } } } いくつか URL 文字列があるのでそれを抽出したいとします。 URLが専用のカラムにあれば、 jq などを使ってそのフィールドを抽出すれば良いですが上記みたいに文字列の中に埋め込まれている場合などには単純に抽出することが難しいです。 上記の例で example.com のドメインを検索するためには、以下のような正規表現を使うことができます。 (完全な正規表現ではないですが、簡単な例としてます) ^.*https://.*example\.com.*$ 下記のように対象の列を取り出せます。 正規表現の例 かりに、URLが含まれない行は削除してみたいとなったら以下のように否定系に正規表現を修正して置換すると実現できます。 ^(?!.*https://.*example\.com.*).*$ 否定系にすると example.com ドメイン以外の行のみをマッチできるので、これを削除するように置換できます。

こんにちは、 @kz_morita です。 Software Engineer として何かを学ぶ際や、なにかを学んでもらう際に、Roadmap があると非常に助かるなぁと思っていたのですが、 roadmap.sh というサイトが非常に便利だったので紹介します。 roadmap.sh とは roadmap.sh は、Developer が学ぶべきことを Roadmap としてまとまっているサイトです。 実際にアクセスしてもらうと色々な開発の分野についてさまざまな Roadmap がまとめられています。 たとえば、Frontend Developer の Roadmap をみると、最初に Internet について学び、その後に HTML, CSS, JavaScript といった基本的な技術を学び、その後には Git などの VCS や npm などのパッケージマネージャー、そして Framewrk についてなどさまざまな分野が Roadmap としてまとめられています。 https://roadmap.sh/frontend こういったロードマップは初学者にとってとても助かる情報だなと思っています。 自分が初学者のころは、その分野の全体像がわからないため、何を学べば良いのかというのがわからないことが多かったです。 全体像がなんとなくでもわかっていると、何から学ぶかといった戦略が立てられるようになるため新しい分野に挑戦する際には非常に助かると思います。 また、すでにその分野で働いている人にとっても、あとどんな分野を学べば良いのかといった自分の現在地のようなものを確認することができるため、自分のスキルアップのための戦略を立てることができると思います。 また、roadmap.sh の良いところとして、公式の Roadmap 意外にも、Coummunity によって作成された Roadmap も公開されているため、さまざまな分野の Roadmap が公開されているところです。 たとえば、以下のような分野の Roadmap が公開されていました。 LLM Engineer Infrastructure Architect Web Scraping ニッチなところもあったりするので、色々と見てみるだけでも楽しめると思います。

こんにちは、 @kz_morita です。 またまた、jq を使う際の Tops についての記事です。 JSON の値を更新したり、追加したりする方法について書いていきます。 代入演算子と更新演算子 jq には、代入演算子 (=) と更新演算子 (|=) があります。 { "name": "Alice", "age": 20, "address": { "street": "123 Main St", "city": "Wonderland" }, "phoneNumbers": [ { "type": "home", "number": "555-1234" } ], "isActive": true } この JSON に対して、name を更新する場合、代入演算子を使うと以下のようになります。 $ cat sample.json | jq '.name = "Hoge"' { "name": "Hoge", "age": 20, "address": { "street": "123 Main St", "city": "Wonderland" }, "phoneNumbers": [ { "type": "home", "number": "555-1234" } ], "isActive": true } 更新演算子でも同様に更新できます。

こんにちは、 @kz_morita です。 前回 に引き続き jq の Tips です。 今回は、jq を使って大文字小文字を変換する方法を紹介します。 大文字・小文字の変換 jq で大文字・小文字の変換をするには、ascii_upcase と ascii_downcase を使います。 以下のような JSON データを例にして考えます。 { "name": "Alice", "age": 20, "address": { "street": "123 Main St", "city": "Wonderland" }, "phoneNumbers": [ { "type": "home", "number": "555-1234" } ], "isActive": true, } 大文字の name カラムを抽出するためには以下のようにします。 $ cat sample.json | jq '.name | ascii_upcase' 小文字の場合は以下です。 $ cat sample.json | jq '.name | ascii_downcase' おまけ。その他の文字列処理 jq には他にも文字列処理に便利な関数があります。 $ cat sample.

こんにちは、 @kz_morita です。 今回は jq を使っていて、Json の null が入っているカラムを削除したいときの Tips をメモしておきます。 値が null のフィールドを削除する 以下のようにすると、null のフィールドを削除できます。 $ cat sample.json | jq 'to_entries | map(select(.value != null)) | from entries' 以下解説です。 まず今回の対象の json は以下のようなものです。 { "name": "Alice", "age": null, "address": { "street": "123 Main St", "city": "Wonderland" }, "phoneNumbers": [ { "type": "home", "number": "555-1234" } ], "isActive": true, "preferences": null } これが上記のコマンドを使用すると以下のようになります。 { "name": "Alice", "address": { "street": "123 Main St", "city": "Wonderland" }, "phoneNumbers": [ { "type": "home", "number": "555-1234" } ], "isActive": true } preferences と age カラムが消えていることがわかります。