statsuのblog

愛知のデータサイエンティスト。自分の活動記録。主に機械学習やその周辺に技術について学んだことを記録していく予定。

python

YOTO(YOU ONLY TRAIN ONCE)を不均衡データ対策の損失関数に適用して画像分類してみた

この記事は、YOTO(YOU ONLY TRAIN ONCE)の雰囲気を掴むことを目的として、不均衡データ対策の損失関数にYOTOを適用して画像分類してみた記録です。 YOTOを使うことで、1つのモデルでMajorクラスの性能が良いモデル or Minorクラスの性能が良いモデルをテスト…

ReZeroの収束性と精度について画像認識(Cifar100)で検証した記録

ReZeroという最近提案されたDeep learning関連の手法を画像認識(Cifar100)で試したのでその記録です。 結論としては、Cifar100での画像認識では効果なかったです。(なんかミスしている可能性もなくはない) 本記事の概要 ReZeroの概要 ReZeroの実装 ReZeroの…

Kaggle Bengali Classificationコンペに参加した記録

KaggleのBengali.AI Handwritten Grapheme Classificationコンペに参加して24位(2059チーム中)でソロ銀メダルを取れました。ついでにkaggle expertになりました。 以下ではその記録についてまとめます。 本記事の概要 コンペ概要 私の取り組み 興味深かった…

Kaggleの雲コンペ(Understanding Clouds from Satellite Images)についての記録

Kaggleの雲コンペに参加したので、実施事項や思ったことを記録しておきます。 1. 雲コンペ 衛星写真にうつった雲を種類ごとに検出して分類するタスクについて、その精度を競います。 Understanding Clouds from Satellite Images | Kaggle 特徴は以下のとお…

Deep EnsemblesでDeep Learningの不確かさを評価する

前回の記事に引き続き、Deep learningの不確かさ評価についてです。 今回は、「Simple and Scalable Predictive Uncertainty Estimation using Deep Ensembles」という論文で紹介されているアンサンブルで不確かさを評価する手法の検証を実施しました。 検証…

Dropoutによる近似ベイズ推論でDeep Learningの不確かさを評価する

Deep learningの推定結果の不確かさってどうやって評価するのか疑問を持っていました。 Dropoutを使ったサンプリングをすることで不確かさ評価をできるということなので、kerasで実装して検証してみました。 以下の検証に関するコードはgithubにあげてありま…

簡単な2次元問題でWGAN-gpの基礎理解を深める(python, keras)

WGAN-gpについて理解するため、WGAN-gpを簡単な2次元問題に適用し、その挙動を観察してみました。また、GANとの違いを比較しました 前にGANでやったことの続きです。 簡単な2次元問題でGANの基礎理解を深める(python, keras) - st1990のblog 以下の検証に関…

簡単な2次元問題でGANの基礎理解を深める(python, keras)

GANについて理解するため、GANを簡単な2次元問題に適用し、その挙動を観察してみました。実装にはpythonとkerasを使いました。 mnistの文字生成などがGANの導入としてよく紹介されていますが、文字等の画像データはデータ分布形状という観点での観察が難しい…

はてなブログの自分用まとめ

はてなブログの使い方のメモ。 ソースコードにファイル名を設定 はてなブログでソースコード表示時にタイトルを付ける - 酔いどれ技術者の備忘録

numpyの自分用まとめ

numpyの使い方をしょっちゅう忘れるのでここに記録しておく。 乱数 Random sampling (numpy.random) — NumPy v1.16 Manual Numpyによる乱数生成まとめ - Qiita グリッド 線形に等間隔な数列を生成するnumpy.linspace関数の使い方 - DeepAge 配列の要素から格…

matplotlibの自分用まとめ

matplotlibの使い方をしょっちゅう忘れるのでここに記録しておく。 網羅的な説明。 matplotlib入門 - りんごがでている fig, axesの概念。複数グラフの作り方。 matplotlib の figure(図) と axes(座標軸)-python | コード7区 散布図の説明。 matplotl…

実数値遺伝的アルゴリズムで回転倒立振子の深層強化学習

実数値遺伝的アルゴリズム(Real coded genetic algorithm, 以下RCGA)を使って深層強化学習をしてみたのでその記録です。 RCGAについてはこちらの記事を参考にしてください。 st1990.hatenablog.com 以下の検証に関するコードはgithubにあげてあります。 gi…

Pythonでの実数値遺伝的アルゴリズム(Real-coded genetic algorithm)の実装

実数値遺伝的アルゴリズム(Real-coded genetic algorithm)について勉強したのでその記録です。 以下、実数値遺伝的アルゴリズムをRCGAとしています。 以下の検証に関するコードはgithubにあげてあります。 github.com ちなみにこちらのページで、今回実装し…

pythonでのWebスクレイピング

pythonでWebスクレイピングをしたのでそのメモ Webスクレイピング用ライブラリ BeautifulSoupというライブラリでHTMLを解析できる。 Webスクレイピングの流れ ChromeでスクレイピングするWebサイトを開く。 Chromeのデベロッパーツール(F12キー押下)を開く…

Matrix FactorizationとDeep Matrix Factorization(Keras)でのレコメンド

レコメンドの手法であるMatrix Factorizationについて勉強したのでその記録です。 以下の検証に関するコードはgithubにあげてあります。 github.com 1. 本記事の概要 レコメンドの手法であるMatrix Factorizationについての概要 Matrix FactorizationのNeura…

Kerasでのmixup augmentation

mixupについて調べて実装したのでまとめました。 以下の実装や検証はgithubにあげています。 github.com 1. 本記事の概要 data augmentationの1種であるmixupについて概要をまとめました。 2つ以上のサンプルを混合できるよう、mixupの拡張を検討しました。 …