0-1分布的交叉熵简化分析

news/2025/2/27 10:59:14

对于通用的计算交叉熵的公式如下:

但是对于0-1分布的交叉熵计算公式则可以简化为如下:

刚开始的时候不理解为什么这么改动,以为蕴含着什么深层次的概念和技巧了,其实很简单,0-1分布就是二分类,可以将二分类问题看作是有两种类别的分类问题,知道了一个事件概率p,则另一个事件的概率为1-p,因此预测的一个类别的概率为q,则另一个事件的概率应该为1-q。因此改动成上面的计算公式也就是顺理成章了。


http://www.niftyadmin.cn/n/3657833.html

相关文章

VS 2005 SQL Server 2005 on Windows Vista

若您想安装VS 2005 & SQL Server 2005在Windows Vista操作系统上,该注意些什么事呢?问有任何问题,您可以先参考微软网站。Visual Studio on Windows Vistahttp://msdn2.microsoft.com/en-us/vstudio/aa948853.aspxMicrosoft SQL Server 2…

curse of dimensionality 维数灾难的两个表现

1.数据在高维空间中会变的稀疏 2.高维空间中向量之间的欧氏距离已经不具有判定距离远近的功能了。

以WPF绘图简单的圆形

WPF有非常优异的2D与3D绘图能力,研讨会上许多人看过我Demo的一些WPF动态作品集,在这Show一下WPF绘制三个圆形,并透明重迭语法如下:xmlns"http://schemas.microsoft.com/winfx/2006/xaml/presentation"xmlns:x"http…

PAC (Probably Approximately correct) 讲解文章英文版

https://jeremykun.com/2014/01/02/probably-approximately-correct-a-formal-theory-of-learning/

在Windows Vista安装.NET 2.0开发环境注意事项

首先目前Windows Vista & Office 2007都只有英文版,这对于需要中文环境的使用者而言是很不方便的,并且对于需要开发公司或项目内的中文应用系统的人,也是会有困扰。而祭司目前工作上用的是宏碁NB 法拉利4005,配备2GRAM100G硬盘…

pytorch中改写backward的一个例子

这里回答了Gradient reversal layer的内容,并且在代码层次上讲了如何优化max目标函数的方法。 https://www.zhihu.com/search?typecontent&qgradient%20reversal%20layer

WPF/E技术公布了第一个CTP版本下载

WPF/E是指让WPF能够跨平台浏览器执行WPF应用程序,E就是Everywhere我在台湾微软2006/11月份时主讲了两场WPF研讨会,而WPF是个很有意思的技术,而WPF/E则又是更有意思的技术,可以能够让您的WPF应用程序跨越浏览器到处执行,一如Flash一…

ubuntu 安装pycharm community 设置图标

安装了pycharm之后,默认是没有快捷方式的,所以需要自己进行相关的配置设置 首先,进入到 /usr/share/applications中创建 Pycharm.desktop文件 cd usr/share/applications sudo gedit Pycharm.desktop 打开文件后,在文件中写入下…