机器学习：R语言中如何使用最小二乘法

详细内容见上一篇文章：http://www.cnblogs.com/lc1217/p/6514734.html

这里只是介绍下R语言中如何使用最小二乘法解决一次函数的线性回归问题。

代码如下：(数据同上一篇博客)(是不是很简单????)

> x<-c(6.19,2.51,7.29,7.01,5.7,2.66,3.98,2.5,9.1,4.2)

> y<-c(5.25,2.83,6.41,6.71,5.1,4.23,5.05,1.98,10.5,6.3)

> lsfit(x,y)

结果如下：

$coefficients

Intercept         X

0.8310557 0.9004584

说明： Intercept ：截距

X：变量x的系数

即对于一元一次函数截距式方程：y=0.9x+0.83

结果同上一篇博客的计算结果(python)：

输出结果：

      k= 0.900458420439 b= 0.831055638877

      cost：1

      求解的拟合直线为:

      y=0.9x+0.83

如果你不追求绘图的美观，可以简单的直接用R绘制散点图观察规律也是可以的（当然也是可以通过设置参数调美观点的）。

> plot(x,y)  ###x,y是上面已经赋值过的数据

结果如图：

下面我们接着调整目标函数及样本数据：

目标函数：y=ax²+bx+c

> x<-c(1,2,3,4,5,6)

> y<-c(9,18,31,48,69,94)

> lsfit(x,y)

$coefficients

Intercept         X

-14.66667  17.00000

从结果可以看出，求解的依然是y=kx+b形式的函数。

而调整python中的代码(完整代码见下面的连接)：

def func(p,x):

    a,b,c=p

    return a*x*x+b*x+c

p0=[10,10,10]

#读取结果

a,b,c=Para[0]

print("a=",a,"b=",b,"c=",c)

print("cost："+str(Para[1]))

print("求解的拟合直线为:")

print("y="+str(round(a,2))+"x*x+"+str(round(b,2))+"x+"+str(c))

a= 2.0 b= 3.0 c= 4.0

cost：2

求解的拟合直线为:

y=2.0x*x+3.0x+4.0

通过对比看出，python scipy库中的leastsq函数通用性还是比较高的。

目标函数：y=ax²+bx+c的非线性回归的拟合过程，见：机器学习:形如抛物线的散点图在python和R中的非线性回归拟合方法

巴特西

机器学习：R语言中如何使用最小二乘法

最新文章

热门文章