Dagster University で Dagster に入門してみた
この記事は、 datatech-jp Advent Calendar 2023 10日目の記事です。
こんにちは、 @kz_morita です。
今年の 10 月に データエンジニアにコンバートして、最近は dbt や Snowflake 周りをさわっています。 今携わっているシステムに dagster を導入してみるというプロジェクトがあるため自分も触ってみようと思い今回は、Dagster の基礎が学べる Dagster University で入門してみました。
かなり良いチュートリアルだなと思うため、概念を知りたい方やとりあえず入門してみたい方におすすめです。
Dagster について https://dagster.io/ Dagster は Asset ベースの Data Orchestration ツールになります。
Asset を Python コードで定義することで、データの Lineage を見ることができたり 定期実行する Job や、イベントをトリガーとした Job の実行などを管理できるツールです。
さまざまなDB や dbt などとも連携できます。
以下の画像ような Asset Lineage や Job の実行ステータスなどを見ることができます。
Dagster University で実際に作成した画面
Dagster Univerity とは https://courses.