損失関数 探訪

  • cross entropy loss
    • 二つの確率分布があったときに、
    • 片方と他方の対数を取ったものの積の和
  • Focal loss
    • 不均衡なデータにもうまく行くようなもの。
    •  (1-p)^{\gamma} \log{p}
    • cross entropyの対数の部分の重み付け
  • Dice loss
    • 正解と推測領域の重なりを損失にする。
    • 1-\frac{2 \sum y \tilde{p}}{\sum (y + \tilde{p})}
  • IoU loss
  • Hausdorff Distance Loss
    •  \max_x \min_y ||x -y ||_2
  • Boundary Loss
    • 境界同士の距離を測り、それを線積分する。
  • MAE、平均絶対誤差
  • MSE、平均二乗誤差
  • Huber loss
  • Hinge loss

 

感想

  • 誤差の取り方によって、結果はもちろん変化する。
  • 自分が何に注目しているのかをきちんと言語化することが重要であり、
  • 同時にどの手法が何に注目しているかを見極めることも重要である。

 

以下、参考にした記事、文献一覧

qiita.com

qiita.com

builtin.com

ja.wikipedia.org

knowwell-livewell.hatenablog.com

https://arxiv.org/pdf/2301.05579.pdf