こんにちは、 @kz_morita です。 ISUCON 13 に出場してきたので参加レポートです。 今回の問題は、ISUPipe という動画配信サイトが題材でした。 ちなみに ↓ が紹介動画なのですがむちゃくちゃクオリティの高いので、ぜひ見てください。 毎年のことですが、控えめに言ってとても楽しかったです。 最終スコア 追試がどうだったかまだ確認できていないですが最終のスコアは 28581 点でした。 fail していないことを願います。 やったこととか やったことをなんとなく時系列で書いていきます。 事前準備 ISUCON には何回か出場しているので秘伝のタレ化した Makefile や、スクリプト系が入った GitHub リポジトリの準備をしました。 今回は Slack のハドルを繋ぎっぱなしにして話しながらオンラインでやりました。 ハドルの音質なのかネットの問題なのかわからないですが、若干聞こえづらかったりして、おわったあと次はオフラインでやりたいね的な話もしたりしました。 開始直後 開始直後の初動としては以下のようなことをやりました。 サーバーへの接続確認 初回ベンチ確認 設定ファイル、ソースコードを GitHub に Push hosts の設定など アプリケーションの動作確認 アプリケーションの確認 このあたりは ISUCON に何回かでてるので割りといつも通りな感じです。 プロファイリング 初動がなんとなく落ち着いたあたりで、次はプロファイリング系の設定をしました。 今回 NewRelic 使ってみようということで、いれてみたり Kataribe, pt-query-digest, pprof などのツールをつかってプロファイルを取ったりです。 上記と同時に今回は CDN 周りが結構肝になりそうだなということでそちらの設定周りを見たりもしました。 修正内容 まずは、DB に index を貼っていく作業をしました。 DB の index で大体スコアが、6000 ~ 7000 位になっていました。

こんにちは、 @kz_morita です。 今回は 7/23 土曜に行われた isucon12 に参加してきたので振り返りを書いていきます。 今回の ISUCON の問題 テーマは、社内 ISUCON 用 のマルチテナント SaaS と言うテーマでした。 今回も問題動画のクオリティがむっちゃ高かったので、詳しくは以下を見てください。 技術的にちょっと特殊だったのが、SQLite3 が DB として使われていたことでした。 マルチテナントで、テナント毎に SQLite の db ファイルが別れていたのが特徴的でした。 終わった後の感想戦や公式の総評でも語れれてましたが、SQLite だと サーバーにファイルが置かれているため、サーバーの分散などが難しくどうするか悩みどころでした。 対応内容の振り返り 初動 チームメンバーと zoom で集合して初動の確認をしました。 いつも通り、環境を整えたりしてました。やったことは以下のような内容です。 レギュレーションを読む サーバーのセットアップ ソースコードや設定ファイル系を github にあげる 初手ベンチマーク kataribe, pt-query-digest などの profiling の準備 index が明らかに足りてないテーブルに追加 SQLite を剥がしたかった 今回一番特徴的だったのは、テナントごとのデータが SQLite でファイルに書かれていることでした。 SQLite でファイルにある以上サーバーも分けられないし、他の MySQL にあるテーブルとの Join などもできないのでこれを MySQL にしようとチームできめて、メンバーの方を中心に取り組み初めました。 結果的にはここにどハマりしてしまいました。 SQLite のデータを /initialize の Endpoint で移行し切らなければならなかったのですが 30 秒という制約がありました。データ量が多く純粋に INSERT するだけでは全然 30 秒以内にはおさまらず、goroutine で並列 INSERT したりそもそも INSERT せずに初期化できないかなど色々試したりしていました。 それでもなかなか問題は解決せず気づけば残り時間がかなり少なくなってしまうという感じでした。

こんにちは、 @kz_morita です。 8/21 にオンラインで行われた ISUCON 11 に参加してきました。 惜しくも予選敗退となってしまいましたが、とても楽しかったので、記憶が新しい内にやったことなどを記録しておきます。 今回の題材 今回の題材は、ISUCONDITION でした。 今回は予選の問題動画が作成されていたので、まずは下記をご覧いただければと思います。 題材としては、椅子から色々なデータが送られてきて、椅子の状態が確認できたりグラフで確認できたりといった内容でした。 題材が発表された時から、POSTリクエストが多くデータ量が増えてくのがボトルネックかもしれないーみたいな話をチームメンバーとした記憶があります。 やったこととか 時系列でやったことを記録していきます。 事前準備 ISUCON には、昔から参加していて秘伝のタレ的な make ファイルがあったので、それを今回は流用しました。 以下のコマンドでデプロイできたりします。 $ make && make prod deploy また、個人的な準備としては直前に ISUCON 10 の予選の予習をしたりしました。 10:00 ~ 最初の初動は、以下のようなことをやりました。 デプロイ系スクリプトの修正 ソースコードやnginx や mysql の設定ファイルを git 管理 profiling の準備 pt-query-digest kataribe 上記のことが終わって、サービスをなんとなく把握したところで、細い改修性を行いました。 外部 URL のjia service url をDBからグローバル変数に変更 DB に index をはる DB に Index を貼ったあたりでスコアが伸び、20000 点くらいなりました。

こんにちは、 @kz_morita です。 9/12 日に行われた ISUCON 10 に参加して，惨敗したので記録を残しておこうと思います． 悔しい結果に終わってしまいましたが，とても楽しかったです！ 今回の題材 今回の課題アプリケーション は ISUUMO でした. ISUUMO は ISUCON 社が提供する「イスに似合う不動産を検索できる」総合情報サイトです。 リモートワークの普及によって、自宅のイスが生産性に直結することがわかった。 その調査結果を受けて、よりよい座環境を求め郊外に住むことを考えるユーザーが増加。 また、注目度が増したことで bot からもアクセスが急増し、機会損失が発生している。 結果として ISUUMO にアクセスが集中し、負荷に耐えられないことが目立ってきた。 社長「なんか最近遅いみたいだから、いいかんじに早くしといてくれる？ 21 時にバーンと新しい CM 打つしさ！」 とのことでした．毎回課題が面白くてすごいなぁと思います. https://gist.github.com/progfay/25edb2a9ede4ca478cb3e2422f1f12f6 また，今回のアプリケーションの特徴としては，next で静的サイトを generate して nginx でホスティングされていて，参加者は API側をチューニングするというものでした． 実装言語は，去年と同様 golang で参加しました．ちなみに初期実装に Rust もあったのは驚きました．(あとで読んでおこう) やったこととか 時系列順にやったことをざっくりと記録していきます． 時系列うろ覚えなので正確ではないかもです． 事前準備 Deployや，profile を取るための スクリプト類をチームメンバーの方が整備してくれて，それを持って臨みました． ISUCONに，出場したのは 4回目くらいでそれまでにスクリプト化した秘伝のタレ的なやつがいくつかあったので ISUCON もどんどんカスタマイズして使ってました． 最終的には，以下のようなコマンドでアプリのデプロイが完了していてとても便利でした． $ make && make prod deploy 12:00 ~ まずは，色々と足回りを整える作業をしていました． レギュ−レーションの読み込み ssh の設定 nginx で bot を弾く設定 src を git で管理 etc 系 (nginxや，mysqlの設定ファイル) の git 管理 Makefile を整備 (環境情報を整備したり) pprof の仕込み アプリケーションの動作確認 ソースコードの概要把握 profile (pt_query_digest, kataribe) の準備 14:30 ~ 一通り足回りが整ってきたのでアプリケーションの修正を始めました．

ISUCON9 に さばかんちゃーはんかれー として参加してきて、予選敗退してきたので記憶が薄れないうちにブログにまとめてみます。 日程など 二日目の 9 / 8 に予選を行いました。一緒に参加したメンバーは、 @matsukaz , @peto_tn です。 去年受けた時は結構何回か集まって予習を入念に行いましたが、今回は事前に集まる機会がなく当日集合して色々作戦を練ったりしながら進めました。 やったことなど 9:30 ~ 現地について、コンビニでリポD とレッドブルーとご飯を購入してお借りしたオフィスに向かいます。到着したらウィダーを飲みつつレギュレーションに再度目を通したり、開始後の初動をどうするかなどを話したりしました。 10:00 ~ こちらのissueのやり方がすごく良さそうだなーと思ったので、アプリを触って全体像を把握したりしました。 https://github.com/catatsuy/isucon7-qualifier/issues/1 具体的にやったこととしては以下のような感じです。 アプリを触ってサービスの理解 API, ページのパスを一覧で書き出す DBのスキーマ一覧をissue仁書く ソースコードリーディング みていく中で気になった点としては、以下のような感じです。 カテゴリデータがマスタデータである（キャッシュできそう） 商品のDescriptionがやたら長い QRCodeのpng のバイナリがDBに保存されている 重そうなクエリ /users/transactions.json の N+1 静的ファイルを http.FileServer で配信してる ( nginx で配信すれば良さそう ) 他の二人には、インフラ周りのprofileの準備や、デプロイスクリプトなどの整備をおこなってもらいました。 11:00 ~ items の description が データが大きい割には使っているところが少ないのでできるだけ取得しないようにする作業をひたすら行いました。 細かくですが、ちょっとずつスコアが上がっていったように思います。 SELECT * FROM items として取得している箇所をひたすら撲滅していきました。 14:00 ~ /users/transactions.json の N+1 クエリを撲滅する作業を行いました。SQL力が足りずにここで結構時間を食ってしまったように思います。 このN+1 でもスコアが少しずつ上がっていきました。

9 / 15 の予選1日目の土曜日にチーム名「さばかんちゃーはんかれー」として参加して来ました。 2年前のisucon6にも出場したのですが、今年は本選に参加するぞという意気込みで、5月くらいから過去問解いたり準備を進めていたと思います。 結果としては予選落ちとなってしまいましたが、 限られた時間内で、アプリケーションを高速化させるという非常にエキサイティングな時間を過ごすことができました。 楽しい問題とリッチなダッシュボード等すごく恵まれた環境下でできたなぁと、運営の方々には感謝しかないです。 運営の皆様ありがとうございました。 また、おなじチームで参戦してくださったお二方(@peto_tn, @matsukaz) ありがとうございました。 そして、参加された皆様おつかれさまでしたー。 ざっくりタイムライン 自分が観測できた範囲をざっくりと。 実際にはもうちょっとミドルウェアのチューニングとか行ってます。 時間 やったこと 10:00 レギュレーション読み 10:10 参考実装をGoに変えてベンチ. たしか1000点ちょっとオーバーくらい. ソースをgithub管理にしたり、アプリをぽちぽちして仕様把握 10:30 profile系をガツガツ入れてく ひたすらソースコードリーディング 15:50 getEventをリファクタしスコアが一気に3万点近くまで上がりみんな盛り上がる。わいわい 16:20 H2Oからapp1, app2をラウンドロピンで実装.DBサーバーの構成に変更 17:00 ベンチがFailしはじめ原因調査 18:00 ベンチがFailする問題をを完全に対処しきれず、原因が特定できないまま、appの実装を戻してFinish. 一時は上位の順位争いに加われてわいわいした空気になってました。 わいわい わいわいしてた時のスクショ 自分やったこともうちょっと詳しく sheetsテーブルをコードで置き換える sheetsテーブルは以下のようなデータ構造でした。 id rank num price 1 S 1 5000 2 S 2 5000 ・・・ 50 S 50 5000 51 A 1 3000 52 A 2 3000 ・・・ はじめ、sheetsテーブルにあるDBのレコードを全て