老饼讲解:一步一步上手学习
这节又回到我们的逻辑回归模型上来了,逻辑回归模型是一个非常常用、常见、实用的模型,我们在它的身上多花些时间,也没有太多关系,在这里,我们将继续更深入地理解逻辑回归模型。
逻辑回归是一个用于二分类的模型:

它的模型表达式为:
其中,
如果展开,则逻辑回归模型记为:
其中,w、b是模型的待优化参数,而模型输出p则是"样本属于正样本"的概率。
逻辑回归模型以交叉熵作为损失函数,如下:
其中,
:样本个数。
:第i个样本的标签,要么是0,要么是1。
逻辑回归模型的损失函数既可以由交叉熵的定义得到,也可以通过最大似然来推导得到。
好了,接触逻辑回归的同学,往往都会好奇,逻辑回归模型函数怎么来的。事实上,逻辑回归最初提出、并应用时,并没有很注意"背后的意义",最初使用它来解决二分类时,想法是较朴素的,先用WX作为"是"的判别值,再套用sigmoid函数来将这个判别值转换为概率,以此来得到“是正样本”概率。

总的来说,逻辑回归最初其实可以看作线性回归用于解决逻辑判断(是或否)问题的一种扩展方法,然而,随着逻辑回归发挥光大、作为一个独立模型后,大家才开始从不同角度来解释它、赋予它更多的意义。
好了,这里我们就大概了介绍和了解了逻辑回归模型,这里我们也不太细说各个内容,只当成是简单的回顾就好了,毕竟逻辑回归模型在入门内容中已经重点介绍过了。
评论