分位点回帰を使った推定値の分布評価と不確かさ評価について気になっていたので試してみました。 記事タイトル及び検証ではLightGBMを使っていますが、他の手法でも同じ考え方を適用できるはずです。 以下の検証に関するコードはgithubにあげてあります。 qu…

いつも忘れるので自分用のメモです。 準備 Anacondaのインストール、仮想環境作成 VS Codeのインストール、Python拡張の導入 VS Codeの設定 settings.jsonの設定 pythonを動かせるようにするための設定。このサイトを参考にした。 Windows + Anaconda3 + Vis…

この記事は、YOTO(YOU ONLY TRAIN ONCE)の雰囲気を掴むことを目的として、不均衡データ対策の損失関数にYOTOを適用して画像分類してみた記録です。 YOTOを使うことで、1つのモデルでMajorクラスの性能が良いモデル or Minorクラスの性能が良いモデルをテスト…

Kaggleのコンペ参加記録のまとめです。（自分用） Kaggleとは Kaggle: Your Machine Learning and Data Science Community データサイエンス・機械学習オンラインコンペティションサイト。 企業や研究機関がタスクを投稿し、世界中のデータサイエンティスト…

ReZeroという最近提案されたDeep learning関連の手法を画像認識(Cifar100)で試したのでその記録です。 結論としては、Cifar100での画像認識では効果なかったです。(なんかミスしている可能性もなくはない) 本記事の概要 ReZeroの概要 ReZeroの実装 ReZeroの…

KaggleのBengali.AI Handwritten Grapheme Classificationコンペに参加して24位(2059チーム中)でソロ銀メダルを取れました。ついでにkaggle expertになりました。 以下ではその記録についてまとめます。 本記事の概要 コンペ概要 私の取り組み 興味深かった…

Kaggle Google QUEST Q&Aコンペに参加して61位(1571チーム中)でソロ銀メダルを取れました。 以下ではその記録についてまとめます。 本記事の概要 コンペ概要 私の取り組み 興味深かった上位ソリューション 感想 コンペ概要 Google QUEST Q&A Labeling | Kagg…

「Rethinking Normalization and Elimination Singularity in Neural Networks」をざっと読んだのでそのメモです。 arxiv.org github.com 論文の概要 画像認識に使うDeep neural network (DNN)の構造お話。 Batch normalization (BN)はDNNでとてもよく使われ…