Python基于numpy靈活定義神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的方法
更新時間：2017年08月19日 10:57:25 作者：羅兵
這篇文章主要介紹了Python基于numpy靈活定義神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的方法,結(jié)合實例形式分析了神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的原理及Python具體實現(xiàn)方法,涉及Python使用numpy擴展進行數(shù)學(xué)運算的相關(guān)操作技巧,需要的朋友可以參考下
本文實例講述了Python基于numpy靈活定義神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的方法。分享給大家供大家參考，具體如下：
用numpy可以靈活定義神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，還可以應(yīng)用numpy強大的矩陣運算功能！
一、用法
1）. 定義一個三層神經(jīng)網(wǎng)絡(luò)：
'''示例一''' nn = NeuralNetworks([3,4,2]) # 定義神經(jīng)網(wǎng)絡(luò) nn.fit(X,y) # 擬合 print(nn.predict(X)) #預(yù)測
說明：
輸入層節(jié)點數(shù)目：3
隱藏層節(jié)點數(shù)目：4
輸出層節(jié)點數(shù)目：2
2）.定義一個五層神經(jīng)網(wǎng)絡(luò)：
'''示例二''' nn = NeuralNetworks([3,5,7,4,2]) # 定義神經(jīng)網(wǎng)絡(luò) nn.fit(X,y) # 擬合 print(nn.predict(X)) #預(yù)測
說明：
輸入層節(jié)點數(shù)目：3
隱藏層1節(jié)點數(shù)目：5
隱藏層2節(jié)點數(shù)目：7
隱藏層3節(jié)點數(shù)目：4
輸出層節(jié)點數(shù)目：2
二、實現(xiàn)
如下實現(xiàn)方式為本人（@hhh5460）原創(chuàng)。 要點： dtype=object
import numpy as np
class NeuralNetworks(object):
''''''
def __init__(self, n_layers=None, active_type=None, n_iter=10000, error=0.05, alpha=0.5, lamda=0.4):
'''搭建神經(jīng)網(wǎng)絡(luò)框架'''
# 各層節(jié)點數(shù)目 (向量)
self.n = np.array(n_layers) # 'n_layers必須為list類型，如：[3,4,2] 或 n_layers=[3,4,2]'
self.size = self.n.size # 層的總數(shù)
# 層 (向量)
self.z = np.empty(self.size, dtype=object) # 先占位(置空)，dtype=object ！如下皆然
self.a = np.empty(self.size, dtype=object)
self.data_a = np.empty(self.size, dtype=object)
# 偏置 (向量)
self.b = np.empty(self.size, dtype=object)
self.delta_b = np.empty(self.size, dtype=object)
# 權(quán) (矩陣)
self.w = np.empty(self.size, dtype=object)
self.delta_w = np.empty(self.size, dtype=object)
# 填充
for i in range(self.size):
self.a[i] = np.zeros(self.n[i]) # 全零
self.z[i] = np.zeros(self.n[i]) # 全零
self.data_a[i] = np.zeros(self.n[i]) # 全零
if i < self.size - 1:
self.b[i] = np.ones(self.n[i+1]) # 全一
self.delta_b[i] = np.zeros(self.n[i+1]) # 全零
mu, sigma = 0, 0.1 # 均值、方差
self.w[i] = np.random.normal(mu, sigma, (self.n[i], self.n[i+1])) # # 正態(tài)分布隨機化
self.delta_w[i] = np.zeros((self.n[i], self.n[i+1])) # 全零
下面完整代碼是我學(xué)習(xí)斯坦福機器學(xué)習(xí)教程，完全自己敲出來的：
import numpy as np
'''
參考：http://ufldl.stanford.edu/wiki/index.php/%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C
'''
class NeuralNetworks(object):
''''''
def __init__(self, n_layers=None, active_type=None, n_iter=10000, error=0.05, alpha=0.5, lamda=0.4):
'''搭建神經(jīng)網(wǎng)絡(luò)框架'''
self.n_iter = n_iter # 迭代次數(shù)
self.error = error # 允許最大誤差
self.alpha = alpha # 學(xué)習(xí)速率
self.lamda = lamda # 衰減因子 # 此處故意拼寫錯誤！
if n_layers is None:
raise '各層的節(jié)點數(shù)目必須設(shè)置！'
elif not isinstance(n_layers, list):
raise 'n_layers必須為list類型，如：[3,4,2] 或 n_layers=[3,4,2]'
# 節(jié)點數(shù)目 (向量)
self.n = np.array(n_layers)
self.size = self.n.size # 層的總數(shù)
# 層 (向量)
self.a = np.empty(self.size, dtype=object) # 先占位(置空)，dtype=object ！如下皆然
self.z = np.empty(self.size, dtype=object)
# 偏置 (向量)
self.b = np.empty(self.size, dtype=object)
self.delta_b = np.empty(self.size, dtype=object)
# 權(quán) (矩陣)
self.w = np.empty(self.size, dtype=object)
self.delta_w = np.empty(self.size, dtype=object)
# 殘差 (向量)
self.data_a = np.empty(self.size, dtype=object)
# 填充
for i in range(self.size):
self.a[i] = np.zeros(self.n[i]) # 全零
self.z[i] = np.zeros(self.n[i]) # 全零
self.data_a[i] = np.zeros(self.n[i]) # 全零
if i < self.size - 1:
self.b[i] = np.ones(self.n[i+1]) # 全一
self.delta_b[i] = np.zeros(self.n[i+1]) # 全零
mu, sigma = 0, 0.1 # 均值、方差
self.w[i] = np.random.normal(mu, sigma, (self.n[i], self.n[i+1])) # # 正態(tài)分布隨機化
self.delta_w[i] = np.zeros((self.n[i], self.n[i+1])) # 全零
# 激活函數(shù)
self.active_functions = {
'sigmoid': self.sigmoid,
'tanh': self.tanh,
'radb': self.radb,
'line': self.line,
}
# 激活函數(shù)的導(dǎo)函數(shù)
self.derivative_functions = {
'sigmoid': self.sigmoid_d,
'tanh': self.tanh_d,
'radb': self.radb_d,
'line': self.line_d,
}
if active_type is None:
self.active_type = ['sigmoid'] * (self.size - 1) # 默認激活函數(shù)類型
else:
self.active_type = active_type
def sigmoid(self, z):
if np.max(z) > 600:
z[z.argmax()] = 600
return 1.0 / (1.0 + np.exp(-z))
def tanh(self, z):
return (np.exp(z) - np.exp(-z)) / (np.exp(z) + np.exp(-z))
def radb(self, z):
return np.exp(-z * z)
def line(self, z):
return z
def sigmoid_d(self, z):
return z * (1.0 - z)
def tanh_d(self, z):
return 1.0 - z * z
def radb_d(self, z):
return -2.0 * z * np.exp(-z * z)
def line_d(self, z):
return np.ones(z.size) # 全一
def forward(self, x):
'''正向傳播（在線）'''
# 用樣本 x 走一遍，刷新所有 z, a
self.a[0] = x
for i in range(self.size - 1):
self.z[i+1] = np.dot(self.a[i], self.w[i]) + self.b[i]
self.a[i+1] = self.active_functions[self.active_type[i]](self.z[i+1]) # 加了激活函數(shù)
def err(self, X, Y):
'''誤差'''
last = self.size-1
err = 0.0
for x, y in zip(X, Y):
self.forward(x)
err += 0.5 * np.sum((self.a[last] - y)**2)
err /= X.shape[0]
err += sum([np.sum(w) for w in self.w[:last]**2])
return err
def backward(self, y):
'''反向傳播（在線）'''
last = self.size - 1
# 用樣本 y 走一遍，刷新所有delta_w, delta_b
self.data_a[last] = -(y - self.a[last]) * self.derivative_functions[self.active_type[last-1]](self.z[last]) # 加了激活函數(shù)的導(dǎo)函數(shù)
for i in range(last-1, 1, -1):
self.data_a[i] = np.dot(self.w[i], self.data_a[i+1]) * self.derivative_functions[self.active_type[i-1]](self.z[i]) # 加了激活函數(shù)的導(dǎo)函數(shù)
# 計算偏導(dǎo)
p_w = np.outer(self.a[i], self.data_a[i+1]) # 外積！感謝 numpy 的強大！
p_b = self.data_a[i+1]
# 更新 delta_w, delta_w
self.delta_w[i] = self.delta_w[i] + p_w
self.delta_b[i] = self.delta_b[i] + p_b
def update(self, n_samples):
'''更新權(quán)重參數(shù)'''
last = self.size - 1
for i in range(last):
self.w[i] -= self.alpha * ((1/n_samples) * self.delta_w[i] + self.lamda * self.w[i])
self.b[i] -= self.alpha * ((1/n_samples) * self.delta_b[i])
def fit(self, X, Y):
'''擬合'''
for i in range(self.n_iter):
# 用所有樣本，依次
for x, y in zip(X, Y):
self.forward(x) # 前向，更新 a, z;
self.backward(y) # 后向，更新 delta_w, delta_b
# 然后，更新 w, b
self.update(len(X))
# 計算誤差
err = self.err(X, Y)
if err < self.error:
break
# 整千次顯示誤差（否則太無聊！）
if i % 1000 == 0:
print('iter: {}, error: {}'.format(i, err))
def predict(self, X):
'''預(yù)測'''
last = self.size - 1
res = []
for x in X:
self.forward(x)
res.append(self.a[last])
return np.array(res)
if __name__ == '__main__':
nn = NeuralNetworks([2,3,4,3,1], n_iter=5000, alpha=0.4, lamda=0.3, error=0.06) # 定義神經(jīng)網(wǎng)絡(luò)
X = np.array([[0.,0.], # 準(zhǔn)備數(shù)據(jù)
[0.,1.],
[1.,0.],
[1.,1.]])
y = np.array([0,1,1,0])
nn.fit(X,y) # 擬合
print(nn.predict(X)) # 預(yù)測
更多關(guān)于Python相關(guān)內(nèi)容可查看本站專題：《Python數(shù)學(xué)運算技巧總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》及《Python入門與進階經(jīng)典教程》
希望本文所述對大家Python程序設(shè)計有所幫助。
相關(guān)文章
這篇文章主要為大家詳細介紹了python實現(xiàn)通訊錄管理系統(tǒng)，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2022-05-05
利用python、tensorflow、opencv、pyqt5實現(xiàn)人臉實時簽到系統(tǒng)
這篇文章主要介紹了利用python、tensorflow、opencv、pyqt5實現(xiàn)人臉實時簽到系統(tǒng)，本文給大家介紹的非常詳細，具有一定的參考借鑒價值,需要的朋友可以參考下2019-09-09
如何使用Django默認的Auth權(quán)限管理系統(tǒng)
本文主要介紹了如何使用Django默認的Auth權(quán)限管理系統(tǒng)，文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-02-02
Pandas使用Merge與Join和Concat分別進行合并數(shù)據(jù)效率對比分析
這篇文章主要給大家介紹了關(guān)于pandas中DataFrame數(shù)據(jù)合并連接（merge、join、concat)的相關(guān)資料，文中介紹的非常詳細，需要的朋友可以參考下2022-12-12
這篇文章主要介紹了Python算法繪制特洛伊小行星群實現(xiàn)示例，這個小示例完成后非常的有意思也會使你在Python學(xué)習(xí)的道路上感到一絲絲小成就2021-10-10
Python的幾個高級語法概念淺析(lambda表達式閉包裝飾器)
本文主要記錄自己對幾個高級語法概念的理解：匿名函數(shù)、lambda表達式、閉包、裝飾器。這幾個概念并非Python特有，但本文只限于用Python做說明2016-05-05
python學(xué)習(xí)--使用QQ郵箱發(fā)送郵件代碼實例
這篇文章主要介紹了python使用QQ郵箱發(fā)送郵件，文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-04-04
Python openpyxl 遍歷所有sheet 查找特定字符串的方法
今天小編就為大家分享一篇Python openpyxl 遍歷所有sheet 查找特定字符串的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-12-12
自定義實現(xiàn) PyQt5 下拉復(fù)選框 ComboCheckBox的完整代碼
這篇文章主要介紹了自定義實現(xiàn) PyQt5 下拉復(fù)選框 ComboCheckBox的完整代碼，本文通過實例代碼講解的非常詳細，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-03-03
這篇文章主要介紹了Python datetime模塊的使用示例，幫助大家更好的理解和使用python處理時間，感興趣的朋友可以了解下2021-02-02