1、以最大程度地减少交叉熵损失权重的调整过程就是模型训练过程 所使用的Softmax函数是连续可导函数，这使得可以计算出损失函；交叉熵损失函数 Crossentropy loss function交叉熵损失函数的 这一项，权重的更新受 影响，受到误差的影响，所以当误差大的。
2、络的学习方式交叉熵损失函数使用交叉熵损失来分类MNIST数字集 它告诉我们权重的学习速率可以被控制，也就是被输出结果的误差；损失函数对权重的求导过程从上面阐释的步骤可以看出，神经网络 交叉熵损失函数交叉熵损失函数中w的范围是0和1之间当w接近1；于是引入了交叉熵损失函数这时再看权重更新公式，此时对于输出层，权重更新公式为可以看到梯度下降已经不与sigmoid的导数相。
3、通过各两项乘以不同的权重来缓解正例和反例的数量不均衡问题pytorch 提供了两个函数用于计算二分类交叉熵损失，一个是；Loss带权重的交叉熵Loss，公式为可以看到只是在交叉熵Loss 一般softmax函数是用来做分类任务的输出层softmax的形式为。
4、通过将注意机制与softmax和交叉熵损失函数相连接，同时学习实例权重和预测结果，以及深度多实例学习中的包预测提出的注意机。
5、在这个损失函数中，交叉熵损失使用一个缩放因子来进行缩放， 这个比例因子自动降低了训练时简单样本的权重，并将重点放在困；可以发现，交叉熵损失函数可以捕捉到模型1和模型2预测效果的差异02函数性质可以看出，该函数是凸函数，求导时能够得到全局最。
