softmax，softmax和softmaxloss的区别

本文目录一览

1，softmax和softmaxloss的区别
2，机器学习中softmax函数到底干嘛用的比如LR中和神经网络中求
3，深度学习最后为什么是softmax
4，多类分类下为什么用softmax而不是用其他归一化方法
5，softmax算法为什么采用softmax function作为每一个类别的概率
6，Softmage3DSMAXMaya的详细介绍

1，softmax和softmaxloss的区别

logistic回归又称logistic回归分析，是一种广义的线性回归分析模型，常用于数据挖掘，疾病自动诊断，经济预测等领域。　　例如，探讨引发疾病的危险因素，并根据危险因素预测疾病发生的概率等。

不明白啊 = =！

softmax和softmaxloss的区别

2，机器学习中softmax函数到底干嘛用的比如LR中和神经网络中求

首先你要知道softmax函数是干嘛的。softmax是一个可以把连续的数输出成一个在0到1之间的数。它的输出，表征了不同类别间的相对概率。比如你的网络输出是[-3，2，-1，0]，但你想要的值域是0到1，用softmax处理后，输出就变成了[0.0057,0.8390,0.0418,0.1135]。是不是就变成你想要的结果了。当然，softmax函数也可以被当做激活函数，不止用在输出的处理。

机器学习中softmax函数到底干嘛用的比如LR中和神经网络中求

3，深度学习最后为什么是softmax

softmax的定义域是一个向量，值域是概率单纯型（求和等于1）。sigmoid函数的定义域是r，值域是(0,1)。https://www.zhihu.com/question/36981158/answer/70170685softmax能给出属于每一个类别的概率，而很多package不用softmax的时候是二分

softmax是用于多分类的损失函数，深度学习也不一定要用softmax，像google的facenet就没有softmax，关于这方面建议你去去搜索关于softmax和逻辑回归的博客，看了理解了便懂了

深度学习最后为什么是softmax

4，多类分类下为什么用softmax而不是用其他归一化方法

如果用 cross entropy 做 cost function 的话，backpropagation 的时候要针对 cross entropy 求导，并向后传导。假设当前样本的 label 为，对应输出层结点为，那么 cost 是，求导可得。这里面就是从输出层开始还得往后传继续求导的部分。这里在（即输出层输出的概率）比较小的时候，会出现 numerically unstable (overflow) 的情况，很容易就强撸灰飞烟灭了。而如果输出层是 softmax（或者二分类时的 sigmoid，其实可以看成 softmax 的一种特殊情况），这个分母部分刚好可以被 softmax 层的导数（部分）消除。

logistic回归又称logistic回归分析，是一种广义的线性回归分析模型，常用于数据挖掘，疾病自动诊断，经济预测等领域。例如，探讨引发疾病的危险因素，并根据危险因素预测疾病发生的概率等。

5，softmax算法为什么采用softmax function作为每一个类别的概率

先理解max. 对一个三类问题，某样本经过NN处理后，最后一层输出值为[24,3,0.1]的话，那么经过max之后的结果为[1,0,0]。对不？　　（至于为啥要max，输出结果本来挺奇怪经过max以后就是categorical 的了，那么样本的类标就可以和他的预测值一起合体直观地计算cost function。）我们最需要的其实是max，但是max有个缺点就是不可导，没法用在dp里，于是有人就想出了softmax。思路就是指数级扩大最后一层的输出，每个值都会增大，然而最大的那个值相比其他值扩大的更多，然后归一化一下，考虑一下极限，如果最大值x_1经过指数运算后想对其他值为无穷大，那么exp(x_1)/exp(x_1)+others =1,其他输出值对应的为0。所以softmax模拟了max的行为，同时他还可导。

先理解max. 对一个三类问题，某样本经过nn处理后，最后一层输出值为[24,3,0.1]的话，那么经过max之后的结果为[1,0,0]。对不？（至于为啥要max，输出结果本来挺奇怪经过max以后就是categorical 的了，那么样本的类标就可以和他的预测值一起合体

6，Softmage3DSMAXMaya的详细介绍

SOFTIMAGE公司是加拿大Avid公司旗下的子公司。SOFTIMAGE 3D是专业动画设计师的重要工具。用SOFTIMAGE 3D创建和制作的作品占据了娱乐业和影视业的主要市场,《泰坦尼克号》、《失落的世界》、《第五元素》等电影中的很多镜头都是由SOFTIMAGES 3D制作完成的,创造了惊人的视觉效果。 SoftImage 3D是一个综合运行于SGI工作站和Windows NT平台的高端三维动画制作系统，它被世界级的动画师成功运用在电影、电视和交互制作的市场中。它具有由动画师亲自设计的方便高效的工作界面、加入的动画工具和快速高质量的图像生成，使艺术家有了非常自由的想象空间，能创造出完美逼真的艺术作品。 3dsmax是美国Autodesk公司旗下优秀的电脑三维动画、模型和渲染软件，全称：3D Studio MAX。该软件早期名为3DS，是应用在dos下的三维软件，之后随着PC机的高速发展，Autodesk公司于1993年开始研发基于PC下的三维软件，终于在1996年3D Studio MAX V1.0问世，图形化的操作界面，使应用更为方便。广泛应用于三维动画、影视制作、建筑设计等各种静态、动态场景的模拟制作。 3dsmax主要应用于建筑、影视、游戏、动画方面，拥有软件开发工具包（DSK），SDK 是一套用在娱乐市场上的开发工具，用于软件整合到现有制作的流水线以及开发与之相合作的工具，在biped方面作出的新改进将让我们轻松构建四足动物。Revealu渲染功能将让我们更快的重复，重新设计的 OBJ 输入也会让3dsmax 和 Mudbox 之间的转换变得更加容易。 3dsmax Design主要应用在建筑、工业、制图方面，主要在灯光方面有改进，有用于模拟和分析阳光、天空以及人工照明来辅助 LEED 8.1 证明的 Exposure 技术，这个功能在viewport中可以分析太阳，天空等。您现在可以直接在视口以颜色来调整光线的强度表现。 3dsmax Design是在建筑效果图和工业制图方面的专业工具，无论是室内建筑装饰效果图，还是室外建筑设计效果图，3dsmax Design强大的功能和灵活性都是实现创造力的最佳选择。 Maya是美国Autodesk公司出品的世界顶级的三维动画软件，应用对象是专业的影视广告，角色动画，电影特技等。Maya功能完善，工作灵活，易学易用，制作效率极高，渲染真实感极强，是电影级别的高端制作软件。 Maya主要应用的商业领域有： 1、平面设计辅助、印刷出版、说明书 2、电影特技目前Maya更多的应用于电影特效方面。从今年来众多好莱坞大片对Maya的特别眷顾，可以看出Maya技术在电影领域的应用越来越趋于成熟。