在 中文 中使用 交叉熵 的示例及其翻译为 英语
{-}
-
Political
-
Ecclesiastic
-
Programming
从随机量子线路采样是量子计算机的优秀校正基准,称为交叉熵基准测试。
从随机量子电路进行采样是量子计算机的一个很好的校准基准,我们称之为交叉熵基准。
最后,我们讲解逻辑回归、交叉熵优化准则及其以第一和第二阶方法来求解的方案。
请记住,交叉熵涉及在softmax层的输出上计算的日志。
令人振奋的是交叉熵代价函数给了我们类似的或者更好的结果。
交叉熵定义为.
交叉熵定义为.
这里采用了交叉熵(cross-entropy)来作为costfunction。
因此,我们使用交叉熵作为损失函数。
交叉熵方法是一种蒙特卡洛方法,主要用来优化和重要性采样。
损失函数的选择(这里是“交叉熵(cross-entropy)”)将在后面解释。
在这个图像中,交叉熵被表示为一个具有两个权重的函数。
一个具体的例子:最小化平均交叉熵是训练神经网络分类图像的标准方法。
为了计算交叉熵,我们首先需要添加一个新的占位符用于输入正确值:.
您将注意到,测试和训练数据的交叉熵曲线在数千次迭代后开始断开连接。
训练包含14次交叉熵cross-entropy训练,然后使用增强型MMI(MaximumMutualInformation)标准进行1次随机梯度下降(SGD)序列训练。
因此我现在深入讨论交叉熵就是因为这是一种开始理解神经元饱和和如何解决这个问题的很好的实验。
交叉熵损失函数使用梯度下降进行优化。
在分类树中我们使用交叉熵和基尼指数。
这里采用了交叉熵(cross-entropy)来作为costfunction。