2019-01-01から1年間の記事一覧

なぜCatboostの推論は速いの?

ML

前回の記事「AutoML v.s. Catboost」に出てくるCatboostは、XGBoostやLightGBMと比べて30-60倍も推論が速いという特徴があります。 推論時間は、kaggleなどのコンペでは推論に時間をかけられるのであまり気にしませんが、実サービスとなると重要ですよね。 推…

AutoML v.s. Catboost (colab有)

ML

前説 tjo.hatenablog.com 今話題のAutoMLは,有名な"データサイエンティスト"よりも優秀なようです。 しかし,この比較にはmamas16k氏に盛大に突っ込まれてるように roundsを!!!チューニングしない!!!— まます (@mamas16k) 2019年5月23日 という問題が…

PyTorchのMulti-GPUでメモリ使用量の偏りと改善策

よくあるGPUメモリの偏り PyTorchでマルチGPUをすると, こんな感じで 1つのGPUのメモリだけ他に比べて多い (2倍以上)場合って OOMでバッチサイズが増やせずに悲しいですよね。 解決法 以下の方法で,8 GPUでOOMしないバッチサイズが16->32になりました…

PyMC3でWBIC

​​◯タイトル通り,PyMC3でWBICを求めてみました。 なお,WAICはpymc3.stats.waicで求められるので*1,やっていません。 ◯元ネタは,以下の記事です。 RのstanでやられていたのをPythonのPyMC3に移植してみました。 statmodeling.hatenablog.com ◯私が頑張っ…