损失函数-focal loss

2019-05-28  本文已影响0人  静夜寒风

Focal Loss for Dense Object Detection

论文地址:https://arxiv.org/pdf/1708.02002.pdf

代码地址:https://github.com/facebookresearch/Detectron

简介

    针对数据不平衡情况,提出一种能让模型快速收敛的损失函数。其主要思想就是添加一个一个抑制参数,使得在训练计算损失时,抑制容易分类的样本的权重,从而让模型能够重点学习辨别那些不易区分的样本。

Facol loss

    Facol损失由交叉熵(cross entropy)优化而来。

Cross entropy

交叉熵损失函数 交叉熵损失函数p的意义

Balanced Cross Entropy

    添加平衡参数alpha,优化正负样本数据不平衡情况。

平衡交叉熵损失函数

Focal Loss

    添加抑制参数,重点学习不易分类样本。

Focal 损失,其中gamma大于等于0

    实际应用中,使用的是带平衡参数alpha的Focal损失,如下:

平衡Focal 损失

相关实验

    Focal Loss 不同gamma参数下的loss曲线,gamma越大,易分类样本的重要性越低,通常取gamma=2。

    模型推理时间实验

参考文献

上一篇 下一篇

猜你喜欢

热点阅读