numpy linalg模塊的具體使用方法

更新時(shí)間：2019年05月26日 16:40:13 作者：森先生

這篇文章主要介紹了numpy linalg模塊的具體使用方法，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧

最近在看機(jī)器學(xué)習(xí)的 LogisticRegressor，BayesianLogisticRegressor算法，里面得到一階導(dǎo)數(shù)矩陣g和二階導(dǎo)數(shù)Hessian矩陣H的時(shí)候，用到了這個(gè)模塊進(jìn)行求解運(yùn)算，記錄一下。

numpy.linalg模塊包含線性代數(shù)的函數(shù)。使用這個(gè)模塊，可以計(jì)算逆矩陣、求特征值、解線性方程組以及求解行列式等。

import numpy as np

# 1. 計(jì)算逆矩陣
# 創(chuàng)建矩陣
A = np.mat("0 1 2;1 0 3;4 -3 8")
print (A)
#[[ 0 1 2]
# [ 1 0 3]
# [ 4 -3 8]]

# 使用inv函數(shù)計(jì)算逆矩陣
inv = np.linalg.inv(A)
print (inv)
#[[-4.5 7. -1.5]
# [-2. 4. -1. ]
# [ 1.5 -2. 0.5]]

# 檢查原矩陣和求得的逆矩陣相乘的結(jié)果為單位矩陣
print (A * inv)
#[[ 1. 0. 0.]
# [ 0. 1. 0.]
# [ 0. 0. 1.]]

注：矩陣必須是方陣且可逆，否則會(huì)拋出LinAlgError異常。

# 2. 求解線性方程組
# numpy.linalg中的函數(shù)solve可以求解形如 Ax = b 的線性方程組，其中 A 為矩陣，b 為一維或二維的數(shù)組，x 是未知變量
 
#創(chuàng)建矩陣和數(shù)組
B = np.mat("1 -2 1;0 2 -8;-4 5 9")
b = np.array([0,8,-9])
 
# 調(diào)用solve函數(shù)求解線性方程
x = np.linalg.solve(B,b)
print (x)
#[ 29. 16. 3.]
 
# 使用dot函數(shù)檢查求得的解是否正確
print (np.dot(B , x))
# [[ 0. 8. -9.]]

# 3. 特征值和特征向量
# 特征值（eigenvalue）即方程 Ax = ax 的根，是一個(gè)標(biāo)量。
 
#其中，A 是一個(gè)二維矩陣，x 是一個(gè)一維向量。特征向量（eigenvector）是關(guān)于特征值的向量
# numpy.linalg模塊中，eigvals函數(shù)可以計(jì)算矩陣的特征值，而eig函數(shù)可以返回一個(gè)包含特征值和對(duì)應(yīng)的特征向量的元組
 
# 創(chuàng)建一個(gè)矩陣
C = np.mat("3 -2;1 0")
 
# 調(diào)用eigvals函數(shù)求解特征值
c0 = np.linalg.eigvals(C)
print (c0)
# [ 2. 1.]
 
# 使用eig函數(shù)求解特征值和特征向量 
#(該函數(shù)將返回一個(gè)元組，按列排放著特征值和對(duì)應(yīng)的特征向量，其中第一列為特征值，第二列為特征向量)
c1,c2 = np.linalg.eig(C)
print (c1)
# [ 2. 1.] 
print (c2)
#[[ 0.89442719 0.70710678]
# [ 0.4472136 0.70710678]]
 
# 使用dot函數(shù)驗(yàn)證求得的解是否正確
for i in range(len(c1)):
print ("left:",np.dot(C,c2[:,i]))
print ("right:",c1[i] * c2[:,i])
#left: [[ 1.78885438]
# [ 0.89442719]]
#right: [[ 1.78885438]
# [ 0.89442719]]
#left: [[ 0.70710678]
# [ 0.70710678]]
#right: [[ 0.70710678]
# [ 0.70710678]]

# 4.奇異值分解
# SVD（Singular Value Decomposition，奇異值分解）是一種因子分解運(yùn)算，將一個(gè)矩陣分解為3個(gè)矩陣的乘積
# numpy.linalg模塊中的svd函數(shù)可以對(duì)矩陣進(jìn)行奇異值分解。該函數(shù)返回3個(gè)矩陣——U、Sigma和V，其中U和V是正交矩陣，Sigma包含輸入矩陣的奇異值。
 
import numpy as np
 
# 分解矩陣
D = np.mat("4 11 14;8 7 -2")
# 使用svd函數(shù)分解矩陣
U,Sigma,V = np.linalg.svd(D,full_matrices=False)
print ("U:",U)
#U: [[-0.9486833 -0.31622777]
# [-0.31622777 0.9486833 ]]
print ("Sigma:",Sigma)
#Sigma: [ 18.97366596 9.48683298]
print ("V",V)
#V [[-0.33333333 -0.66666667 -0.66666667]
# [ 0.66666667 0.33333333 -0.66666667]]
# 結(jié)果包含等式中左右兩端的兩個(gè)正交矩陣U和V，以及中間的奇異值矩陣Sigma
 
# 使用diag函數(shù)生成完整的奇異值矩陣。將分解出的3個(gè)矩陣相乘
print (U * np.diag(Sigma) * V)
#[[ 4. 11. 14.]
# [ 8. 7. -2.]]

# 5. 廣義逆矩陣
# 使用numpy.linalg模塊中的pinv函數(shù)進(jìn)行求解,
# 注：inv函數(shù)只接受方陣作為輸入矩陣，而pinv函數(shù)則沒有這個(gè)限制
 
import numpy as np
 
# 創(chuàng)建一個(gè)矩陣
E = np.mat("4 11 14;8 7 -2")
# 使用pinv函數(shù)計(jì)算廣義逆矩陣
pseudoinv = np.linalg.pinv(E)
print (pseudoinv)
#[[-0.00555556 0.07222222]
# [ 0.02222222 0.04444444]
# [ 0.05555556 -0.05555556]]
 
# 將原矩陣和得到的廣義逆矩陣相乘
print (E * pseudoinv)
#[[ 1.00000000e+00 -5.55111512e-16]
# [ 0.00000000e+00 1.00000000e+00]]

# 6. 行列式
# numpy.linalg模塊中的det函數(shù)可以計(jì)算矩陣的行列式
 
import numpy as np
 
# 計(jì)算矩陣的行列式
F = np.mat("3 4;5 6")
# 使用det函數(shù)計(jì)算行列式
print (np.linalg.det(F))
# -2.0

學(xué)完這些之后，再用其中的numpy.linalg.solve()函數(shù)對(duì)（H，g）線性方程組進(jìn)行求解。

def _fit(self, X, t, max_iter=100): #輸入樣本 ， 0,1標(biāo)簽 ，最大迭代步數(shù)
  self._check_binary(t)
  w = np.zeros(np.size(X, 1))  #初始化權(quán)重矩陣 X行
  for _ in range(max_iter):
    w_prev = np.copy(w)    #保存原先的權(quán)重信息 用來更新權(quán)重
    y = self._sigmoid(X @ w)  #sigmoid 特征向量@權(quán)重矩陣 輸出y
    grad = X.T @ (y - t)    #一階導(dǎo)數(shù)
    hessian = (X.T * y * (1 - y)) @ X  #二階導(dǎo)數(shù) Hessian矩陣
    try:
      w -= np.linalg.solve(hessian, grad)
      print(w)
    except np.linalg.LinAlgError:
      break
    if np.allclose(w, w_prev): #收斂到一定的精度
      break
  self.w = w
# [-0.17924772 1.02982033 0.54459921]
# [-0.25994586 1.76892341 0.90294418]
# [-0.35180664 2.60346027 1.25122256]
# [-0.468509  3.54309929 1.60131553]
# [-0.58591528 4.43787542 1.93496706]
# [-0.65896159 4.97839095 2.14764763]
# [-0.67659725 5.10615457 2.20048333]
# [-0.67736191 5.11159274 2.20281247]
# [-0.67736325 5.11160214 2.20281657]

PS:更多示例

# 線性代數(shù)
# numpy.linalg模塊包含線性代數(shù)的函數(shù)。使用這個(gè)模塊，可以計(jì)算逆矩陣、求特征值、解線性方程組以及求解行列式等。

import numpy as np

# 1. 計(jì)算逆矩陣
# 創(chuàng)建矩陣
A = np.mat("0 1 2;1 0 3;4 -3 8")
print (A)
#[[ 0 1 2]
# [ 1 0 3]
# [ 4 -3 8]]

# 使用inv函數(shù)計(jì)算逆矩陣
inv = np.linalg.inv(A)
print (inv)
#[[-4.5 7. -1.5]
# [-2. 4. -1. ]
# [ 1.5 -2. 0.5]]

# 檢查原矩陣和求得的逆矩陣相乘的結(jié)果為單位矩陣
print (A * inv)
#[[ 1. 0. 0.]
# [ 0. 1. 0.]
# [ 0. 0. 1.]]

# 注：矩陣必須是方陣且可逆，否則會(huì)拋出LinAlgError異常。


# 2. 求解線性方程組
# numpy.linalg中的函數(shù)solve可以求解形如 Ax = b 的線性方程組，其中 A 為矩陣，b 為一維或二維的數(shù)組，x 是未知變量

import numpy as np

#創(chuàng)建矩陣和數(shù)組
B = np.mat("1 -2 1;0 2 -8;-4 5 9")
b = np.array([0,8,-9])

# 調(diào)用solve函數(shù)求解線性方程
x = np.linalg.solve(B,b)
print (x)
#[ 29. 16. 3.]

# 使用dot函數(shù)檢查求得的解是否正確
print (np.dot(B , x))
# [[ 0. 8. -9.]]


# 3. 特征值和特征向量
# 特征值（eigenvalue）即方程 Ax = ax 的根，是一個(gè)標(biāo)量。其中，A 是一個(gè)二維矩陣，x 是一個(gè)一維向量。特征向量（eigenvector）是關(guān)于特征值的向量
# numpy.linalg模塊中，eigvals函數(shù)可以計(jì)算矩陣的特征值，而eig函數(shù)可以返回一個(gè)包含特征值和對(duì)應(yīng)的特征向量的元組 

import numpy as np

# 創(chuàng)建一個(gè)矩陣
C = np.mat("3 -2;1 0")

# 調(diào)用eigvals函數(shù)求解特征值
c0 = np.linalg.eigvals(C)
print (c0)
# [ 2. 1.]

# 使用eig函數(shù)求解特征值和特征向量 (該函數(shù)將返回一個(gè)元組，按列排放著特征值和對(duì)應(yīng)的特征向量，其中第一列為特征值，第二列為特征向量)
c1,c2 = np.linalg.eig(C)
print (c1)
# [ 2. 1.] 
print (c2)
#[[ 0.89442719 0.70710678]
# [ 0.4472136 0.70710678]] 

# 使用dot函數(shù)驗(yàn)證求得的解是否正確
for i in range(len(c1)):
 print ("left:",np.dot(C,c2[:,i]))
 print ("right:",c1[i] * c2[:,i])
#left: [[ 1.78885438]
# [ 0.89442719]]
#right: [[ 1.78885438]
# [ 0.89442719]]
#left: [[ 0.70710678]
# [ 0.70710678]]
#right: [[ 0.70710678]
# [ 0.70710678]]

 

# 4.奇異值分解
# SVD（Singular Value Decomposition，奇異值分解）是一種因子分解運(yùn)算，將一個(gè)矩陣分解為3個(gè)矩陣的乘積
# numpy.linalg模塊中的svd函數(shù)可以對(duì)矩陣進(jìn)行奇異值分解。該函數(shù)返回3個(gè)矩陣——U、Sigma和V，其中U和V是正交矩陣，Sigma包含輸入矩陣的奇異值。

import numpy as np

# 分解矩陣
D = np.mat("4 11 14;8 7 -2")
# 使用svd函數(shù)分解矩陣
U,Sigma,V = np.linalg.svd(D,full_matrices=False)
print ("U:",U)
#U: [[-0.9486833 -0.31622777]
# [-0.31622777 0.9486833 ]]
print ("Sigma:",Sigma)
#Sigma: [ 18.97366596 9.48683298]
print ("V",V)
#V [[-0.33333333 -0.66666667 -0.66666667]
# [ 0.66666667 0.33333333 -0.66666667]]
# 結(jié)果包含等式中左右兩端的兩個(gè)正交矩陣U和V，以及中間的奇異值矩陣Sigma

# 使用diag函數(shù)生成完整的奇異值矩陣。將分解出的3個(gè)矩陣相乘
print (U * np.diag(Sigma) * V)
#[[ 4. 11. 14.]
# [ 8. 7. -2.]]

# 5. 廣義逆矩陣
# 使用numpy.linalg模塊中的pinv函數(shù)進(jìn)行求解,
# 注：inv函數(shù)只接受方陣作為輸入矩陣，而pinv函數(shù)則沒有這個(gè)限制

import numpy as np

# 創(chuàng)建一個(gè)矩陣
E = np.mat("4 11 14;8 7 -2")
# 使用pinv函數(shù)計(jì)算廣義逆矩陣
pseudoinv = np.linalg.pinv(E)
print (pseudoinv)
#[[-0.00555556 0.07222222]
# [ 0.02222222 0.04444444]
# [ 0.05555556 -0.05555556]]

# 將原矩陣和得到的廣義逆矩陣相乘
print (E * pseudoinv)
#[[ 1.00000000e+00 -5.55111512e-16]
# [ 0.00000000e+00 1.00000000e+00]]

# 6. 行列式
# numpy.linalg模塊中的det函數(shù)可以計(jì)算矩陣的行列式

import numpy as np

# 計(jì)算矩陣的行列式
F = np.mat("3 4;5 6")
# 使用det函數(shù)計(jì)算行列式
print (np.linalg.det(F))
# -2.0

以上就是本文的全部內(nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。

您可能感興趣的文章: