监督学习最常见的五种算法解析 监督学习算法有哪些( 三 )


(3)构造损失函数(cost function,loss function)
损失函数的大小可以体现出边界函数的各项参数是否最优 。对于线性回归,损失函数是欧式距离指标,但这样的Cost Function对于逻辑回归是不可行的,因为在逻辑回归中平方差损失函数是非凸,我们需要其他形式的Cost Function来保证逻辑回归的成本函数是凸函数 。
我们选择对数似然损失函数:
那么逻辑回归的Cost Function可以表示为:
这里m表示有m个样本,y是二值型数据,只能0或1,代表两种不同的类别 。
(4)求最优θ
要想找到最合适的边界函数参数,只要使J(θ)最小即可 。最优化的表达式为:
与线性回归相似,可以采用梯度下降法寻优,也可以采用其他方法,具体见下面列出的第5个参考网址 。
参考资料:

机器学习(一)K-近邻(KNN)算法
地址:http://t.cn/RLj0XIZ
算法杂货铺——分类算法之决策树(Decision tree)
【监督学习最常见的五种算法解析 监督学习算法有哪些】地址:http://t.cn/zjqquUf
决策树算法总结
地址:http://t.cn/zjCCJpC
算法杂货铺——分类算法之朴素贝叶斯分类(Naive Bayesian classification)
地址:http://t.cn/hqMdur
Coursera公开课笔记: 斯坦福大学机器学习第六课“逻辑回归(Logistic Regression)”
地址:http://t.cn/zOuCqYb
TensorFlow & 神经网络算法高级应用班” 要开课啦!从初级到高级,理论 + 实战,一站式深度了解 TensorFlow!
本课程面向深度学习开发者,讲授如何利用 TensorFlow 解决图像识别、文本分析等具体问题 。课程跨度为 10 周,将从 TensorFlow 的原理与基础实战技巧开始,一步步教授学员如何在 TensorFlow 上搭建 CNN、自编码、RNN、GAN 等模型,并最终掌握一整套基于 TensorFlow 做深度学习开发的专业技能 。
两名授课老师佟达、白发川身为 ThoughtWorks 的资深技术专家,具有丰富的大数据平台搭建、深度学习系统开发项目经验 。
时间:每周二、四晚 20:00-21:00
开课时长:总学时 20 小时,分 10 周完成,每周 2 次,每次 1 小时
线上授课地址:http://www.mooc.ai/