联合分布|「AI课堂」深度学习中的熵(理论篇)机器学习你会遇到的“坑”( 三 )


是特征函数 。 当我们将参数和特征函数均视为一个向量 , 向量的长度就是样本的个数 。
特征函数的选取并不唯一 , 我们可以选取一种较为简单的二值形式 , 样本的target的取值满足于一定的关系 , 函数值就为x , 否则为0 。 比如 , 一个二分类问题 , 我们当y等于其中的一个类别时 , 函数值就为x , 其余则为0 。 当我们将参数和特征函数均视为一个向量 , 向量的长度就是样本的个数 。
假设类别标记为{0 , 1} , 那么就非常自然的导出:
联合分布|「AI课堂」深度学习中的熵(理论篇)机器学习你会遇到的“坑”文章插图
就得到了sigmoid函数 , 如果我们继续扩展到多分类 , 那么就可以得到softmax函数 。
联合分布|「AI课堂」深度学习中的熵(理论篇)机器学习你会遇到的“坑”文章插图
作者:唐僧不用海飞丝
如需转载 , 请后台留言 , 遵守转载规范