周志华《机器学习》习题3 （Matlab实现）

最新推荐文章于 2026-04-17 15:46:57 发布

原创

最新推荐文章于 2026-04-17 15:46:57 发布 · 2.2k 阅读

标签

#线性回归 #机器学习 #Matlab

收录于

本文介绍了如何使用Matlab实现对率回归（逻辑斯蒂回归）和线性判别分析。针对一组区分好瓜与坏瓜的数据，虽然逻辑斯蒂回归的效果仅属一般，但线性判别分析的结果并不理想。

习题3.3 与习题 3.5 编程实现对率回归、线性判别分析

原始数据：

其中‘+’表示好瓜，‘o'表示坏瓜

对率回归即线性判别分析原理见书。

以下为代码及结果，Matlab实现：

1、对率回归（逻辑斯蒂回归）

clear all; clc;

x = importdata('ex4x.txt');
y = importdata('ex4y.txt');

[m,n] = size(x);
sample_num = m;
x = [x,ones(m,1)];

figure;   %画初始分布图
pos = find(y == 1);neg = find(y == 0);
plot(x(pos,1),x(pos,2),'+');
hold on;
plot(x(neg,1),x(neg,2),'o');
xlabel('density');
ylabel('sweet');

g = @(z)(exp(z) ./ (1.0 + exp(z))); 
beta = zeros(n+1,1);
times = 500;   %100次迭代
for i = 1:times
    delta1 = 0;
    delta2 = 0;
    for j=1:m
        tmp_x = x(j,:)';
        p = g(beta' * tmp_x);
        delta1 = delta1 - tmp_x * (y(j