keras 自定義loss model.add_loss的使用詳解
一點見解,不斷學習,歡迎指正
1、自定義loss層作為網(wǎng)絡(luò)一層加進model,同時該loss的輸出作為網(wǎng)絡(luò)優(yōu)化的目標函數(shù)
from keras.models import Model import keras.layers as KL import keras.backend as K import numpy as np from keras.utils.vis_utils import plot_model x_train=np.random.normal(1,1,(100,784)) x_in = KL.Input(shape=(784,)) x = x_in x = KL.Dense(100, activation='relu')(x) x = KL.Dense(784, activation='sigmoid')(x) def custom_loss1(y_true,y_pred): return K.mean(K.abs(y_true-y_pred)) loss1=KL.Lambda(lambda x:custom_loss1(*x),name='loss1')([x,x_in]) model = Model(x_in, [loss1]) model.get_layer('loss1').output#取出loss model.add_loss(loss1)#作為網(wǎng)絡(luò)優(yōu)化的目標函數(shù) model.compile(optimizer='adam') plot_model(model,to_file='model.png',show_shapes=True) # model.fit(x_train, None, epochs=5)
2、自定義loss,作為網(wǎng)絡(luò)優(yōu)化的目標函數(shù)
x_in = KL.Input(shape=(784,)) x = x_in x = KL.Dense(100, activation='relu')(x) x = KL.Dense(784, activation='sigmoid')(x) model = Model(x_in, x) loss = K.mean((x - x_in)**2) model.add_loss(loss)#只是作為loss優(yōu)化目標函數(shù) model.compile(optimizer='adam') plot_model(model,to_file='model.png',show_shapes=True) model.fit(x_train, None, epochs=5)
補充知識:keras load_weights fine-tune
分享一個小技巧,就是在構(gòu)建網(wǎng)絡(luò)模型的時候,不要怕麻煩,給每一層都定義一個名字,這樣在復用之前的參數(shù)權(quán)重的時候,除了官網(wǎng)給的先加載權(quán)重,再凍結(jié)權(quán)重之外,你可以通過簡單的修改層的名字來達到加載之前訓練的權(quán)重的目的,假設(shè)權(quán)重文件保存為model_pretrain.h5 ,重新使用的時候,我把想要復用的層的名字設(shè)置成一樣的,然后
model.load_weights('model_pretrain.h5', by_name=True)
以上這篇keras 自定義loss model.add_loss的使用詳解就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
python os.path.isfile()因參數(shù)問題判斷錯誤的解決
今天小編就為大家分享一篇python os.path.isfile()因參數(shù)問題判斷錯誤的解決,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-11-11python 三種方法實現(xiàn)對Excel表格的讀寫
這篇文章主要介紹了python 三種方法實現(xiàn)對Excel表格的讀寫,幫助大家更好的利用python處理表格,感興趣的朋友可以了解下2020-11-11詳解BeautifulSoup獲取特定標簽下內(nèi)容的方法
這篇文章主要介紹了詳解BeautifulSoup獲取特定標簽下內(nèi)容的方法,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2020-12-12python把數(shù)據(jù)框?qū)懭隡ySQL的方法
這篇文章主要介紹了如何讓python把數(shù)據(jù)框?qū)懭隡ySQL,下文利用上海市2016年9月1日公共交通卡刷卡數(shù)據(jù)的一份數(shù)據(jù)單展開其方法,需要的小伙伴可以參考一下2022-03-03