深度学习知识点汇总-机器学习基础（6）

2.6 逻辑回归与朴素贝叶斯有什么区别？

1. 逻辑回归是判别模型， 朴素贝叶斯是生成模型。
2. 朴素贝叶斯属于贝叶斯，逻辑回归是最大似然，两种概率哲学间的区别。
3. 朴素贝叶斯需要条件独立假设。
4. 逻辑回归需要求特征参数间是线性的。

线性回归的样本的输出，都是连续值，，而逻辑回归中，只能取0和1。

逻辑回归与线性回归的关系：

​对于拟合函数也有本质上的差别：

​线性回归：

​逻辑回归：，其中，为sigmoid函数。

由上可知，线性回归的拟合函数，是对的输出变量的拟合，而逻辑回归的拟合函数是对为类别1样本的概率的拟合。

就相当于是1类和0类的决策边界：

• 当，则y>0.5；若，则，即y为1类;
• 当，则y<0.5；若，则，即y为0类;

在线性回归中为预测值的拟合函数；而在逻辑回归中为决策边界。

	线性回归	逻辑回归
目的	拟合	分类
	未知	（0,1）
函数	拟合函数	分类函数
参数计算方式	最小二乘法	极大似然估计或者交叉熵