python實現(xiàn)機器學習之多元線性回歸
總體思路與一元線性回歸思想一樣,現(xiàn)在將數(shù)據(jù)以矩陣形式進行運算,更加方便。
一元線性回歸實現(xiàn)代碼
下面是多元線性回歸用Python實現(xiàn)的代碼:
import numpy as np def linearRegression(data_X,data_Y,learningRate,loopNum): W = np.zeros(shape=[1, data_X.shape[1]]) # W的shape取決于特征個數(shù),而x的行是樣本個數(shù),x的列是特征值個數(shù) # 所需要的W的形式為 行=特征個數(shù),列=1 這樣的矩陣。但也可以用1行,再進行轉(zhuǎn)置:W.T # X.shape[0]取X的行數(shù),X.shape[1]取X的列數(shù) b = 0 #梯度下降 for i in range(loopNum): W_derivative = np.zeros(shape=[1, data_X.shape[1]]) b_derivative, cost = 0, 0 WXPlusb = np.dot(data_X, W.T) + b # W.T:W的轉(zhuǎn)置 W_derivative += np.dot((WXPlusb - data_Y).T, data_X) # np.dot:矩陣乘法 b_derivative += np.dot(np.ones(shape=[1, data_X.shape[0]]), WXPlusb - data_Y) cost += (WXPlusb - data_Y)*(WXPlusb - data_Y) W_derivative = W_derivative / data_X.shape[0] # data_X.shape[0]:data_X矩陣的行數(shù),即樣本個數(shù) b_derivative = b_derivative / data_X.shape[0] W = W - learningRate*W_derivative b = b - learningRate*b_derivative cost = cost/(2*data_X.shape[0]) if i % 100 == 0: print(cost) print(W) print(b) if __name__== "__main__": X = np.random.normal(0, 10, 100) noise = np.random.normal(0, 0.05, 20) W = np.array([[3, 5, 8, 2, 1]]) #設(shè)5個特征值 X = X.reshape(20, 5) #reshape成20行5列 noise = noise.reshape(20, 1) Y = np.dot(X, W.T)+6 + noise linearRegression(X, Y, 0.003, 5000)
特別需要注意的是要弄清:矩陣的形狀
在梯度下降的時候,計算兩個偏導值,這里面的矩陣形狀變化需要注意。
梯度下降數(shù)學式子:
以代碼中為例,來分析一下梯度下降中的矩陣形狀。
代碼中設(shè)了5個特征。
WXPlusb = np.dot(data_X, W.T) + b
W是一個1*5矩陣,data_X是一個20*5矩陣
WXPlusb矩陣形狀=20*5矩陣乘上5*1(W的轉(zhuǎn)置)的矩陣=20*1矩陣
W_derivative += np.dot((WXPlusb - data_Y).T, data_X)
W偏導矩陣形狀=1*20矩陣乘上 20*5矩陣=1*5矩陣
b_derivative += np.dot(np.ones(shape=[1, data_X.shape[0]]), WXPlusb - data_Y)
b是一個數(shù),用1*20的全1矩陣乘上20*1矩陣=一個數(shù)
以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Python實現(xiàn)圖像尺寸和格式轉(zhuǎn)換處理的示例詳解
這篇文章主要為大家詳細介紹了如何利用Python實現(xiàn)圖像尺寸獲取和格式轉(zhuǎn)換處理的功能,文中的示例代碼講解詳細,感興趣的可以了解一下2023-04-04python可視化篇之流式數(shù)據(jù)監(jiān)控的實現(xiàn)
這篇文章主要介紹了python可視化篇之流式數(shù)據(jù)監(jiān)控的實現(xiàn),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2019-08-08Python中使用platform模塊獲取系統(tǒng)信息的用法教程
這里我們整理了Python中使用platform模塊獲取系統(tǒng)信息的用法教程,包括操作系統(tǒng)與Python環(huán)境以及系統(tǒng)的環(huán)境變量等信息的獲取方法:2016-07-07Python爬取OPGG上英雄聯(lián)盟英雄勝率及選取率信息的操作
這篇文章主要介紹了Python爬取OPGG上英雄聯(lián)盟英雄勝率及選取率信息的操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2021-04-04Python使用multiprocessing實現(xiàn)多進程的詳細步驟記錄
multiprocessing包是Python中的多進程管理包,與threading.Thread類似,它可以利用multiprocessing.Process對象來創(chuàng)建一個進程,下面這篇文章主要給大家介紹了關(guān)于Python使用multiprocessing實現(xiàn)多進程的詳細步驟,需要的朋友可以參考下2024-08-08