Logistic回归-计算成本函数返回错误结果 [英] Logistic regression - Calculating cost function returns wrong results

问题描述

我刚开始在CourseraMachine Learning上Ng的课程。 第三周的主题是Logistic回归，因此我尝试实现以下成本函数。

假设定义为：

其中g为Sigmoid函数：

这是我的函数目前的外观：

function [J, grad] = costFunction(theta, X, y)

m = length(y); % number of training examples
S = 0;
J = 0;

for i=1:m
    Yi = y(i);
    Xi = X(i,:);
    H = sigmoid(transpose(theta).*Xi);
    S = S + ((-Yi)*log(H)-((1-Yi)*log(1-H)));
end

J = S/m;

end

给定下列值

X = [magic(3) ; magic(3)];
y = [1 0 1 0 1 0]';
[j g] = costFunction([0 1 0]', X, y)

J返回0.6931 2.6067 0.6931，即使结果应该是j=2.6067。我假设习有问题，但我就是看不到错误。

如果有人能给我指路，我将不胜感激。

推荐答案

您应该将Sigmoid函数应用于参数向量(Theta)和输入向量(Xi，在本例中为行向量)的点积。因此，您应该更改

H = sigmoid(transpose(theta).*Xi);

至

H = sigmoid(theta' * Xi'); % or sigmoid(Xi * theta)

当然，您需要确保将偏置输入1添加到您的输入(从1到X的一行)。

接下来，考虑如何将整个操作矢量化，以便可以在没有任何循环的情况下编写它。那样的话会快得多。

这篇关于Logistic回归-计算成本函数返回错误结果的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持IT屋！