Python人工智能學(xué)習(xí)PyTorch實(shí)現(xiàn)WGAN示例詳解
1.GAN簡述
在GAN中，有兩個(gè)模型，一個(gè)是生成模型，用于生成樣本，一個(gè)是判別模型，用于判斷樣本是真還是假。但由于在GAN中，使用的JS散度去計(jì)算損失值，很容易導(dǎo)致梯度彌散的情況，從而無法進(jìn)行梯度下降更新參數(shù)，于是在WGAN中，引入了Wasserstein Distance，使得訓(xùn)練變得穩(wěn)定。本文中我們以服從高斯分布的數(shù)據(jù)作為樣本。
2.生成器模塊
這里從2維數(shù)據(jù)，最終生成2維，主要目的是為了可視化比較方便。也就是說，在生成模型中，我們輸入雜亂無章的2維的數(shù)據(jù)，通過訓(xùn)練之后，可以生成一個(gè)贗品，這個(gè)贗品在模仿高斯分布。
3.判別器模塊
判別器同樣輸入的是2維的數(shù)據(jù)。比如我們上面的生成器，生成了一個(gè)2維的贗品，輸入判別器之后，它能夠最終輸出一個(gè)sigmoid轉(zhuǎn)換后的結(jié)果，相當(dāng)于是一個(gè)概率，從而判別，這個(gè)贗品到底能不能達(dá)到以假亂真的程度。
4.數(shù)據(jù)生成模塊
由于我們使用的是高斯模型，因此，直接生成我們需要的數(shù)據(jù)即可。我們在這個(gè)模塊中，生成8個(gè)服從高斯分布的數(shù)據(jù)。
5.判別器訓(xùn)練
由于使用JS散度去計(jì)算損失的時(shí)候，會很容易出現(xiàn)梯度極小，接近于0的情況，會使得梯度下降無法進(jìn)行，因此計(jì)算損失的時(shí)候，使用了Wasserstein Distance，去度量兩個(gè)分布之間的差異。因此我們假如了梯度懲罰的因子。
其中，梯度懲罰的模塊如下：
6.生成器訓(xùn)練
這里的訓(xùn)練是緊接著判別器訓(xùn)練的。也就是說，在一個(gè)周期里面，先訓(xùn)練判別器，再訓(xùn)練生成器。
7.結(jié)果可視化
通過visdom可視化損失值，通過matplotlib可視化分布的預(yù)測結(jié)果。
以上就是人工智能學(xué)習(xí)PyTorch實(shí)現(xiàn)WGAN示例詳解的詳細(xì)內(nèi)容，更多關(guān)于PyTorch實(shí)現(xiàn)WGAN的資料請關(guān)注腳本之家其它相關(guān)文章！
- python機(jī)器學(xué)習(xí)pytorch自定義數(shù)據(jù)加載器
- python神經(jīng)網(wǎng)絡(luò)pytorch中BN運(yùn)算操作自實(shí)現(xiàn)
- python神經(jīng)網(wǎng)絡(luò)Pytorch中Tensorboard函數(shù)使用
- python神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)利用PyTorch進(jìn)行回歸運(yùn)算
- python深度學(xué)習(xí)之多標(biāo)簽分類器及pytorch實(shí)現(xiàn)源碼
- python機(jī)器學(xué)習(xí)pytorch?張量基礎(chǔ)教程
相關(guān)文章
Python簡單實(shí)現(xiàn)Base64編碼和解碼的方法
這篇文章主要介紹了Python簡單實(shí)現(xiàn)Base64編碼和解碼的方法,結(jié)合具體實(shí)例形式分析了Python實(shí)現(xiàn)base64編碼解碼相關(guān)函數(shù)與使用技巧,需要的朋友可以參考下2017-04-04
這篇文章主要介紹了python爬蟲學(xué)習(xí) 爬取超清壁紙代碼實(shí)例,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-08-08
使用python在校內(nèi)發(fā)人人網(wǎng)狀態(tài)(人人網(wǎng)看狀態(tài))
人人網(wǎng)怎么發(fā)狀態(tài)?下面使用python實(shí)現(xiàn)這個(gè)功能，大家參考使用吧2014-02-02
Keras 在fit_generator訓(xùn)練方式中加入圖像random_crop操作
這篇文章主要介紹了Keras 在fit_generator訓(xùn)練方式中加入圖像random_crop操作，具有很好的參考價(jià)值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-07-07
Python使用pytest-playwright的原因分析
pytest-playwright 是一個(gè) Python 包，它允許您使用 Microsoft 的 Playwright 庫在 Python 項(xiàng)目中進(jìn)行端到端測試，這篇文章主要介紹了Python為什么使用pytest-playwright,需要的朋友可以參考下2023-03-03
安裝完CentOS5.9(Final)后，執(zhí)行#Python與#python -V，看到版本號是2.4.3，很老了，而且之前寫的都是跑在python3.X上面的，3.X和2.X有很多不同，有興趣的朋友可以參考下這篇文章2013-02-02
這篇文章主要介紹了Python的logging.config模塊操作步驟,本文通過示例代碼給大家介紹的非常詳細(xì)對大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2023-08-08
這篇文章主要介紹了FFrpc python客戶端lib使用解析,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-08-08
詳解Python結(jié)合Genetic?Algorithm算法破解網(wǎng)易易盾拼圖驗(yàn)證
很多網(wǎng)站在登錄或者注冊時(shí)都會遇到拼圖驗(yàn)證碼，這種拼圖驗(yàn)證碼實(shí)際上是多個(gè)小碎片經(jīng)過重新組合成的一張整體。本文將和大家分享一個(gè)基于Python?Genetic?Algorithm的破解拼圖驗(yàn)證碼的辦法，需要的可以參考一下2022-02-02
這篇文章主要介紹了Python壓縮解壓縮zip文件及嘗試破解zip文件密碼的方法,給出了一個(gè)使用zipfile模塊的簡單示例,需要的朋友可以參考下2015-11-11