ch6-逻辑回归与最大熵

逻辑回归

在前文有推导过具体的公式，这里就不写了。

不过记住这一点：输出 $Y=1$ 的对数几率是由输入 $x$ 的线性函数表示的模型，即是逻辑回归模型。

最大熵

最大熵原理：学习概率模型是，在所有可能的概率模型中，熵最大的模型是最好的模型。我们可以理解为在没有更多信息的情况下，那些不确定的部分是等可能的。