概述

經(jīng)典端對端無線通信系統(tǒng)如下圖所示：

信源 xx使用信源編碼，去除冗余得到比特流 ss。

對 ss進行信道編碼（如 Turbo、LDPC 等）得到 yy，增加相應的校驗位來抵抗信道噪聲。

對比特流 yy進行調(diào)制（如 BPSK、16QAM 等）得到 zz，并經(jīng)物理信道發(fā)送。

接收端對經(jīng)信道后的符號 \bar{z}zˉ 進行解調(diào)、解碼操作得到 \bar{x}xˉ。

根據(jù)定義信道方式不同，基于深度學習的信源信道聯(lián)合編碼（Deep JSCC）可以分為兩類。

第一類，受無編碼傳輸?shù)膯l(fā)，將信源編碼、信道編碼和調(diào)制聯(lián)合設(shè)計為編碼器。

系統(tǒng)模型如下圖所示：

第二類，將通信系統(tǒng)中的調(diào)制、噪聲信道、解調(diào)模塊抽象為離散的二進制信道。

系統(tǒng)模型如下圖所示：

第一種模型稱為基于物理信道的符號編碼，第二種稱為基于抽象信道的比特編碼。

另一方面，信源可根據(jù)其是否具有結(jié)構(gòu)化特征劃分為兩類：

• 結(jié)構(gòu)化信源，如圖像、視頻。
• 非結(jié)構(gòu)化信源，如高斯信源。

結(jié)構(gòu)化信源是 Deep JSCC 的主要研究場景。由于神經(jīng)網(wǎng)絡(luò)對結(jié)構(gòu)化數(shù)據(jù)具有強大的特征獲取能力，并且有針對各種結(jié)構(gòu)化數(shù)據(jù)設(shè)計的網(wǎng)絡(luò)結(jié)構(gòu)的出現(xiàn)。

因此，Deep JSCC 相較于傳統(tǒng)設(shè)計更具有優(yōu)勢。

圖像/視頻等具有空間拓撲結(jié)構(gòu)信源適合 CNN 網(wǎng)絡(luò)結(jié)構(gòu)，文本/語音等具有時間序列化結(jié)構(gòu)信源適合 RNN 網(wǎng)絡(luò)結(jié)構(gòu)。

對于非結(jié)構(gòu)化信源，Deep JSCC 則稍顯羸弱。因為非結(jié)構(gòu)化信源內(nèi)部相關(guān)性弱，難以去除冗余。

基于物理信道的符號編碼

結(jié)構(gòu)化信源

Gunduz 團隊1 提出了一個傳輸高分辨率圖像的 Deep JSCC 框架。
發(fā)送端和接收端都使用 CNN 網(wǎng)絡(luò)，并在訓練時加入了高斯白噪聲和瑞利衰減噪聲。
提出的 Deep JSCC 框架如下圖所示：

實驗表明，從 PSNR 和 SSIM 數(shù)據(jù)來看，提出的信源信道聯(lián)合編碼比信源信道分離方案更優(yōu)，在低信噪比的信道環(huán)境下，優(yōu)勢尤其明顯。

Gunduz 團隊2 在前一個方案的基礎(chǔ)上，提出將噪聲反饋模塊融入傳輸系統(tǒng)，以增強編解碼器對變換信噪比的魯棒性。

解碼器將一部分經(jīng)過噪聲信道的接收到的符號 \bar{z}zˉ 反饋給編碼器，編碼器根據(jù) \bar{z}zˉ 重新計算信噪比，并對編解碼網(wǎng)絡(luò)參數(shù)進行改進，以適應變換的信噪比環(huán)境。

其通信方案如下圖所示：

Jankowski3 提出了一種使用 Deep JSCC 來進行圖像檢索的方案，先提取圖像特征，然后使用 Deep JSCC 編碼傳輸圖像特征子，接收端接收解碼特征子并基于特征對圖像進行檢索。

系統(tǒng)架構(gòu)如下圖所示：

非結(jié)構(gòu)化信源

Saidutta4 提出了一種應用雙編碼解碼結(jié)構(gòu)的 Deep JSCC 方案對高斯信源進行編碼傳輸。
訓練時采用 MSE 優(yōu)化器。

系統(tǒng)架構(gòu)如下圖所示：

在前面工作的基礎(chǔ)上，Saidutta5 提出了基于變分自編碼器對高斯信源編碼的 Deep JSCC 方案，通過假設(shè)接收信號和重構(gòu)信號的高斯統(tǒng)計特性，給出了正則化 MSE 損失的可變上限證明。

Xuan6 提出了一種基于 RNN 對高斯信源編碼的 Deep JSCC 方案。

其不需要獲取信源的先驗信息，并在理論上證明了 Deep JSCC 的有效性，同時證明了基于深度學習的編碼器與基于混沌動態(tài)系統(tǒng)（Chaotic Dynamical System）的編碼函數(shù)之間的相似性。

系統(tǒng)框架如下圖所示：

基于抽象信道的比特編碼

與傳統(tǒng)符號流的 Deep JSCC 方案不同，二進制信道下傳輸離散比特流無法計算反向傳播梯度。因此，離散信道的嵌入也比物理信道的嵌入更為復雜。

近年來，神經(jīng)網(wǎng)絡(luò)離散化7和離散自編碼器8的發(fā)展，為上述難點提供了解決思路。針對離散化神經(jīng)網(wǎng)絡(luò)的問題，一個簡單的方法是使用得分函數(shù)估計器替代梯度9。由于該估計方差較高，一部分工作提出了不同的公式和控制變量來解決該問題10。

另外，為了達到使離散隨機變量連續(xù)化的目的，Jang 和 Maddisonet 分別提出了 Gumbel-Softmax 分布11和 Concrete 方案12。

結(jié)構(gòu)化信源

Choi13 提出了一種使用離散自編碼器對圖像進行抽象信道的比特編碼方案。為了保留編碼的硬離散性，使用了多樣本變分下界目標，用于獲得低變差梯度。

系統(tǒng)結(jié)構(gòu)如下圖所示：

其使用圖像及其二進制表示的互信息的變分下界來訓練模型，以獲得更好的魯棒性。

Song14 提出了新的正則化方法 IABF(Infomax Adversarial Bits Flip) ，以增強 NECST 的壓縮和糾錯能力，提升魯棒性。并提出了新的損失函數(shù)，實現(xiàn)了網(wǎng)絡(luò)對高維數(shù)據(jù)更有效的優(yōu)化。

Shao15 基于輕量級 CNN 網(wǎng)絡(luò)提出了可部署到計算能力有限的移動設(shè)備中的低功耗 Deep JSCC。

系統(tǒng)架構(gòu)如下圖所示：

Farsad16 提出了基于 RNN 結(jié)構(gòu)的 Deep JSCC 方案，以對文本信源進行編碼傳輸。采用里德-所羅門（ReedSolomon）碼對信道進行編碼；結(jié)果表明，當編碼比特較短時，該方案比傳統(tǒng)方法具更低的單詞錯誤率。

系統(tǒng)架構(gòu)如下圖所示：

非結(jié)構(gòu)化信源

Carpi17 提出了一種基于強化學習的 Deep JSCC 方案，采用了比特位翻轉(zhuǎn)解碼（bitflipping decoding）、殘差信念傳播（residual belief propagation）和錨解碼（anchor decoding）三種算法，讓解碼器由數(shù)據(jù)驅(qū)動去學習最佳的解碼策略。

以上就是詳解基于深度學習的兩種信源信道聯(lián)合編碼的詳細內(nèi)容，更多關(guān)于基于深度學習的兩種信源信道聯(lián)合編碼的資料請關(guān)注腳本之家其它相關(guān)文章！

最新評論