おことわり これは真面目に書いた記事ですが、文献調査はあまりしてませんし数理最適化にも詳しくないので、内容の正確性は保証できません。ただ、タイトルのことをやってみたという記事です。なお、非常に初歩的な内容ですので特にコード等は含みません。 …

前回の記事｢AutoML v.s. Catboost｣に出てくるCatboostは、XGBoostやLightGBMと比べて30-60倍も推論が速いという特徴があります。 推論時間は、kaggleなどのコンペでは推論に時間をかけられるのであまり気にしませんが、実サービスとなると重要ですよね。 推…

前説 tjo.hatenablog.com 今話題のAutoMLは，有名な"データサイエンティスト"よりも優秀なようです。 しかし，この比較にはmamas16k氏に盛大に突っ込まれてるように roundsを！！！チューニングしない！！！— まます (@mamas16k) 2019年5月23日 という問題が…

よくあるGPUメモリの偏り PyTorchでマルチGPUをすると， こんな感じで １つのGPUのメモリだけ他に比べて多い （２倍以上）場合って OOMでバッチサイズが増やせずに悲しいですよね。 解決法 以下の方法で，8 GPUでOOMしないバッチサイズが16->32になりました…

​​◯タイトル通り，PyMC3でWBICを求めてみました。 なお，WAICはpymc3.stats.waicで求められるので*1，やっていません。 ◯元ネタは，以下の記事です。 RのstanでやられていたのをPythonのPyMC3に移植してみました。 statmodeling.hatenablog.com ◯私が頑張っ…

やったことを，とりあえずグラフを載せます。 ↑のように，2つの直線にノイズがのったデータから， 元の直線の推定とそれに基づいた分類をModel Based k-Meansでやってみました。 （元の直線を表示するの忘れましたが，求めています。） Model Based k-Means…