MODEL Group存放所有和模型相关的配置,该Group还包含三个子Group
所选模型,支持deeplabv3p
unet
icnet
pspnet
hrnet
五种模型
无(需要用户自己填写)
模型所用norm类型,支持bn
(Batch Norm)、gn
(Group Norm)
关于Group Norm的介绍可以参考论文:https://arxiv.org/abs/1803.08494
GN 把通道分为组,并计算每一组之内的均值和方差,以进行归一化。GN 的计算与批量大小无关,其精度也在各种批量大小下保持稳定。适应于网络参数很重的模型,比如deeplabv3+这种,可以在一个小batch下取得一个较好的训练效果。
bn
默认GROUP数量,仅在DEFAULT_NORM_TYPE
为gn
时生效
32
BatchNorm动量, 一般无需改动
0.99
BatchNorm计算时所用的极小值, 防止分母除0溢出,一般无需改动
1e-5
是否开启FP16训练
False
对损失进行缩放的系数
1.0
- 启动fp16训练时,建议设置该字段为8
多路损失的权重
[1.0]
-
该字段仅在模型存在多路损失的情况下生效
-
目前支持的模型中只有
icnet
使用多路(3路)损失 -
当选择模型为
icnet
且该字段的长度不为3时,PaddleSeg会强制设置该字段为[1.0, 0.4, 0.16]
假设模型存在三路损失,计算结果分别为loss1/loss2/loss3,并且MULTI_LOSS_WEIGHT
的值为[1.0, 0.4, 0.16],则最终损失的计算结果为