document.tex

\documentclass[twocolumn]{ctexart}
\CTEXsetup[format={\Large\bfseries}]{section}%让section指令左对齐
\renewcommand{\abstractname}{}%去掉摘要头上的标题
\newcommand{\upcite}[1]{\textsuperscript{\textsuperscript{\cite{#1}}}}%右上角引用文献的命令
\usepackage[margin=2cm]{geometry}%调整页边距
\usepackage{pifont}%提供圆圈数字输入
\usepackage{graphicx}%插入图片
\usepackage{authblk}%作者、单位
\usepackage{amsmath, bm}%数学公式宏包
\usepackage{esint}%使重积分符号更加紧凑，必须加在amsmath后
\usepackage{amssymb}%特殊数学符号
\usepackage{caption}%图片标题处理
\usepackage{float}%处理图表浮动插入
\usepackage[section]{placeins}%防止图表浮动跨过section
\usepackage{subfigure}%插入多图时用子图显示的宏包
\usepackage{cite}
\pagestyle{plain}%页码
\setCJKfamilyfont{zhsong}[AutoFakeBold = {2.17}]{SimSun}
\setCJKmainfont{SimSun}[BoldFont=FandolSong-Bold]
\renewcommand*{\songti}{\CJKfamily{zhsong}}%定义新宋体命令
\setlength{\belowcaptionskip}{-2pt}
\graphicspath{{figures/}}
\makeatletter
\def\@cite#1#2{\textsuperscript{[{#1\if@tempswa , #2\fi}]}}
\makeatother

\begin{document}
	\zihao{-4}%设置全文字号为五号
	\fangsong
	\everymath{\displaystyle}%设置所有数学公式为displaystyle形式
	\abovedisplayshortskip=5pt%设置数学公式间距
	\belowdisplayshortskip=5pt
	\abovedisplayskip=5pt
	\belowdisplayskip=5pt
	\lineskiplimit=4pt
	\lineskip=4pt
	\title{\vspace{-2cm}{\heiti {\zihao{3}信源信道联合编码综述报告}} }%标题
	\date{}%不显示日期
	\author[1]{\fangsong {\zihao{5}苗雨丰\vspace{-1.5em}} }%作者名称
	\affil[1]{\fangsong{\vspace{-6em}{{\zihao{5}{ (南京理工大学,南京,210018)}}}}}%作者单位
	\twocolumn[
	\begin{@twocolumnfalse}
		\maketitle 
		\begin{abstract}
			\newgeometry{left=1.5cm, right=1.5cm}%调整摘要部分的页边距，与正文对齐
			\noindent{\zihao{5}\fangsong{\textbf  {摘~~~要} }{\fangsong ~~~传统通信系统以信源信道分离编码(SSCC)为支柱，将信源与信道分别进行优化。但实际中，系统的可容忍时延、复杂度和码长有限，与分离定理的码长不受限前提相冲突。香农分离定理在多用户通信和具有时变信道的移动通信等场景中并不适用。在现代通信技术发展下,我们愈发关注研究信源信道联合编码(JSCC),适时地对相关研究成果进行总结，有助于进一步明确解决信源信道联合编码问题的方式, 为研究新的研究方向提供依据。首先介绍几类信源信道联合编码方式,随后分析不同信源类型下的各种联合编码设计思路，最后探讨上述信源信道联合编码方式的潜在问题和未来的工作方向。}}\\
			\noindent{\zihao{5}\fangsong 关键词 }~~~{\zihao{5}\fangsong 香农极限~~~~分离定理~~~~信源信道联合编码~~~~Deep JSCC}\\
			\\
		\end{abstract}
	\end{@twocolumnfalse}
	]%双栏环境下单栏的摘要
	\section{{\zihao{4}{\fangsong 引言}}\vspace{-0.6em}}
	信息论已经证明,在有噪声信道中，两步骤方法与其他传输信息的方法一样有效。该结果有一些重要的实际应用。这意味着可以将通信系统的设计转化成信源编码与信道编码两个部分的组合。以数据最有效的表达方式设计信源码，也能够分离独立地设计适合于信道的信道码。这种组合的方法与将两个问题一起考虑所能设计出的任何方法一样有效\upcite{1}。
	信源信道编码定理可以表述为$:$如果$V_{1},V_{2},V_{3},\cdots,V_{n}$为有限字母表上满足AEP和$\mathit{H}(\mathcal{V})<\mathit{C}$的随机过程,则存在一个信源信道编码使得误差概率$P_{r}(\hat{V}^{n} \ne V^{n})\to0$。反之，对任意平稳随机过程，如果$\mathit{H}(\mathcal{V})>\mathit{C}$那么误差概率远离0.从而不可能以任意低的误差概率通过信道发送这个过程\upcite{1}。
	故以香农分离定理为基础,信源信道分离编码能将信源和信道编码各自的复杂问题简化的同时不失最优性,这在通信发展历史中一直都是一种有效的方法。
	\par
	但随着日益增长的通信需求和现代通信技术的发展,传统的SSCC已经不能再适应新型通信的要求。在有限码长的复杂环境无线通信中,如果仍然沿用SSCC系统的研究,不仅导致系统复杂而且性能欠佳。因为信源和信道可能都缺乏线性均分性,SSCC的线性方式与部分优化不代表总体的最优化。
	在这样的背景下,信源信道联合编码(JSCC)逐渐进入研究者的视野。由于香农提出的信息论并未对JSCC给出技术指导的历史局限,JSCC的实践在很长一段时间内停滞不前,往往只是提出理论研究。信源信道联合的新范式:语义通信\upcite{2}一文中所总结的JSCC发展历程图十分精彩,在此引用。可以看到，JSCC的发展经历了多个重大节点。
	


	\section{{\zihao{4}{\fangsong 经典JSCC方案}}\vspace{0 cm}}
	由于技术问题,针对早期的通信系统,人们难以建立性能强大的联合编解码架构。早期的DFT,DCT,经典的算术编码,信源信道联合解码,对偶式结构等是基于显式概率模型的JSCC方案。
	
	\begin{figure*}[htbp]
		\centerline{\includegraphics[width=16 cm]{p1.pdf}}
		\fangsong{图1~~~~引用自\upcite{2}的JSCC发展脉络一图}
	\end{figure*}
	
	\subsection{\zihao{4}{\fangsong 线性变换编码}\vspace{0 cm}}
	离散傅里叶变换(DFT)和离散余弦变换\upcite{3}(DCT)都是经典的线性变换方式。
	一维DFT可理解为对一段有限长序列$ x[n], 0\le n \le N-1 $进行如下变换:
	\begin{small}
	\begin{align*}                           
	&X[k]=DFT[x[n]]=\sum_{r= 0}^{N-1 } x[n]W_{N}^{kn};0 \le k \le N-1 \\ 
	&(2.1.1)
	\end{align*}   
	\end{small}
	二维离散傅里叶变换对一般定义为:
	\begin{small}
	\begin{align*} 
	&F(u,v)=\frac{1}{\sqrt{MN} } \sum_{x=0}^{M-1}  \sum_{y=0}^{M-1} f(x,y)exp[-j2\pi(\frac{xu}{M}+\frac{yv}{M} ) ];\\
	&u=0,1,\cdots,M-1;v=0,1,\cdots,N-1\\
	&f(x,y)=\frac{1}{\sqrt{MN} } \sum_{u=0}^{M-1}  \sum_{v=0}^{M-1} F(u,v)exp[j2\pi(\frac{xu}{M}+\frac{yv}{M} ) ];\\
	&x=0,1,\cdots,M-1;y=0,1,\cdots,N-1\\
	&(2.1.2)
	\end{align*}
	\end{small}\\
	DFT为我们提供时域到频域的转换。而DCT相比DFT有更好的能量聚集度,能更好地将高熵信息提取,裁剪熵权重较低的数据。二维DCT变换一般定义为：
	\begin{small}
	\begin{align*}
	&F(u,v)=\frac{2}{N}\sum_{x=0}^{N-1}cos\frac{(2x+1)u\pi}{2N}\left \{\sum_{y=0}^{N-1}f(x,y)cos\frac{(2x+1)v\pi}{2N}  \right \};\\
	&x,y=0,1,\cdots,N-1 ;u,v=0,1,\cdots,N-1\\
	&(2.1.3)        
	\end{align*}
	\end{small}
	DFT和DCT在信息编解码上有重深远的意义,被广泛应用于语音,图像,视频算法中。例如JEPG2000,H.264等编码方案。                                 
	\subsection{{\zihao{4}\fangsong 算术编码}\vspace{0 cm}}
	算术编码是从全序列出发采用递推形式的连续编码，相比哈夫曼编码,游程编码等符号码字对应的块编码具有信源编码更加匹配的优势。香农早已提出信源序列的积累概率的概念，将这个概率映射到[0,1)区间上,使得每个序列对应区间内的一点,这就是一个二进制小数。这些点将[0,1)区间分成许多小段,每段长度等于某一序列概率值。再在段内取一个二进制小数，其长度可与该序列的概率匹配，达到高效编码的目的。算术编码编解码逻辑简单，但存在明显缺点。算术编码的复杂性较高，每次递推都需要乘法运算。算术编码的最大问题是编码存储问题，信源序列越长，编码值小数位越多，所需存储长度越长并且递推过多后会遇到运算存储器字长不够，截断数据导致精度下降。以及算术编码抗干扰较弱,一次递推出错就意味着后续递推编码或解码都失效。
	\par
	柴斌\upcite{4}运用汉明距离对算术编码进行了改进,使其具备较好的纠错能力，其本质就是信源信道联合编码方法。赵旦峰等人\upcite{5}基于多元符号,使用加密向量将数据压缩和加密结合在一起。利用密钥对信源符号在编码区间中的位置进行循环移位，改变算术编码的编码区间，进而改变编码码字，提高的算术编码的安全性。
	
	\subsection{\zihao{4}{\fangsong 信源信道联合解码}\vspace{0 cm}}
	早期的信源信道联合解码(JSCD)仍然基于分离定理。早期的联合解码使用隐马尔可夫信源与因子图结合的形式进行联合解码\upcite{2},但无法实现理想的端到端的优化。柴斌提出一种分层编码方案\upcite{4}：信源编码采用SPIHT的图像编码和信道采用PCPC编码的联合编码方案。但其编码器仍然是级联的,属于早期的JSCD方案。徐榕利\upcite{5}对基于变长码的信源信道联合译码技术做了深入的研究，提出了基于VLC-LDPC的信源信道联合迭代译码方案。基于VLC-LDPC的信源信道联合迭代译码方法，在LDPC迭代译码过程中，考虑信源编码的概率统计特性和码字特点，提高了LDPC的译码性能，仿真结果该方法具有优越的性能。但其仍然是信源信道分离编码,线性次优仍然存在。
	\par
	早期基于显式概率的JSCD并没有实现真正的信源信道联合解码结构,是对分离编码架构的补充完善。SSCC设计结构的限制仍然存在。
	\subsection{\zihao{4}{\fangsong 对偶式结构}\vspace{0 cm}}
	FRESIA等人提出了双低密度奇偶校验码DLDPC\upcite{6},利用对偶式结构真正实现了端到端的传输框架。LDPC编码（Low Density Parity Check Code）是一种用于编码和解码的高阶码率编码算法。它通过在码字中添加一些额外的校验位来提高码字的纠错能力。校验位被称为校验矩阵，用于检查码字中的错误。LDPC编码是一种基于稀疏矩阵的编码方法，利用生成矩阵G，将信源编码后的序列b编码线性映射为待传输符号序列c。解码过程利用校验矩阵H将序列$\hat{c}$译为序列$\hat{b}$,二者互为对偶式处理[2]。基于高效信道编码器，JIN L. Q.等还提出了信源信道联合极化（DPolar)方案\upcite{7}。
	\par
	如此精彩高效的联合编码仍未超越最佳的分离结构编码方案,因为经典联合编码方案仅仅是线性处理的高效编码器。所以通信编码需要向非线性处理方向转型以适应新的通信要求。
	
	\section{{\zihao{4}{\fangsong 现代JSCC方案}}\vspace{0 cm}}
	深度学习(Deep Learning)这一强力工具的出现,使得传统JSCC的线性劣势发生转变。LDPC码及其各类改进码例如protograph-LDPC\upcite{8}的出现与深度学习结合使用,现代JSCC已经具有广阔应用前景。
	\subsection{{\zihao{4}{\fangsong 面向语义通信的JSCC}}\vspace{0 cm}}
	语义通信的主要目的是实现收发端语义信息的准确交互，利用先进的人工智能（AI,artificialintelligence）技术提取出原始数据中与接收端特定的智能任务最相关的信息进行传输，可有效压缩数据冗余，提升信息传输的有效性，减轻网络传输的压力，降低智能任务的处理时延\upcite{9}。吕守晔\upcite{2}等认为经典编码缺少对语义信息的提取和处理，难以提升编码增益。语义编码传输将表征学习、信源编码、信道编码三者进行匹配融合，根据优化目标进行端到端设计，实现数据高保真传输。语义编码是直接传输编码方。在发送端提取语义特征与信源信道编码器融合,在接收端语义特征又和信源信道解码器合二为一,实现了端到端设计。编码器和译码器模块均可部署为深度神经网络 （DNN），以便学习信源空间到编码信号空间的非线性映射，属于自编码器（AE）架构。作者考虑到对信道传输失真的影响，神经网络中间包含一个不可训练的噪声引入层，从而提高了编解码器对抗信道噪声、衰落等不利因素的能力。作者采用语义通信进行JPEG,JPEG2000,H.264传输测试时取得了较好效果\upcite{2}。
	\par
	语义通信JSCC是Deep JSCC的一种具有较好的非线性变换编码方案,相比一般Deep JSCC方案有非定长编码优势,具有较好的应用前景。但语义通信也存在缺陷,使用目前不能由数学公式显示表达和精确解释的深度学习方法限制了多模态语义通信系统性能分析的实现。多模态语义通信系统设计者必须考虑如何在时变的无线环境与复杂的多模态语义通信机制之间建立联系，从而进一步指导系统的高效设计\upcite{10}。
	\subsection{{\zihao{4}{\fangsong DLDPC和D-Polar方案 }}\vspace{0 cm}}
	Y. Dong等\upcite{11}在依据6G指标提出6G编码方案设想时,提出两种JSCC:DLDPC和D-Polar编码方案。DLPPC系统的发射机是两个LDPC码的串行连接，即信源压缩和信道编码都是LDPC码。用一个LDPC码将源s压缩成b，然后用另一个LDPC码将源b编码成c来抵消信道噪声。接收端采用联合BP算法对JSCD进行源端重构。D-Polar系统发射器由两个连接的编码器组成:源极编码器和信道极编码器。源都被设置为二进制伯努利源，其中'1'的概率为p < 1/2。在D-Polar JSCC系统中，长度为Ns的源序列首先使用源极性码压缩为Ks位，然后通过信道极性码编码为长度为Nc的码字。二者在长码与短码下都取得了较好的效果。
	
	
	\subsection{{\zihao{4}{\fangsong 一般Deep JSCC方案 }}\vspace{0 cm}}
	E.Bourtsoulatze等人\upcite{12}通过两个联合训练的卷积神经网络(cnn)来参数化编码器和解码器函数，视为一个自编码器，中间有一个不可训练层，代表有噪声的通信信道。其所提出的深度JSCC方案优于连接JPEG或JPEG2000压缩的数字传输，并且能够在存在加性高斯白噪声(AWGN)的情况下实现低信噪比(SNR)和低信道带宽值的信道编码。该方案深度JSCC不会受到“悬崖效应”的影响，而且当信道信噪比相对于训练期间假设的信噪比值变化时，它提供了一个优雅的性能下降。在缓慢瑞利衰落信道的情况下，深度JSCC学习噪声弹性编码表示，并在所有信噪比和信道带宽值下显著优于基于分离的数字通信。
	D. B. Kurka\upcite{13}将有噪声信道输出反馈纳入传输系统，以提高接收机的重建质量。也引入了一种基于自编码器的JSCC方案:DeepJSCC-f，它利用信道输出反馈，并在固定长度传输的端到端重建质量方面提供了相当大的改进。
	\section{{\zihao{4}{\fangsong 总结}}\vspace{0 cm}}
	科学技术总是在不断进步,从传统显式概率JSCC到现代非线性JSCC,通信编码技术得到的长足的发展。以机器学习为代表的强而有力的技术的出现,各类JSCC方案愈发广泛成熟。但是现代Deep JSCC仍然有许多不足。无线信道需要提出专门的JSCC解决方案。对Deep JSCC方案的复杂度和功耗的场景应用针对性讨论仍有不足。许多Deep JSCC方案在信源信道联合上并不紧密,信源信道编解码仍然是级联式，而相当多深度学习架构的可解释性不高,我们对Deep JSCC的最优化原理仍然不能有所定论。但总体而言，JSCC的发展，让我们愈发能够面对高要求的通信编码挑战。
	

	
	%如果你会用BibTeX,请使用生成参考文献列表的命令
	%\bibliographystyle{unsrt}
	%\bibliography{ref} 
	\zihao{5}
	\fangsong
	\section{\fangsong{参考文献}}
	\renewcommand{\section}[2]{}%
	\begin{thebibliography}{99}
		\bibitem{1} Thomas M.Cover,Joy A.Thomas.阮吉寿,张华,译[M].机械工业出版社.2007:126-127.
		\bibitem{2} 吕守晔,戴金晟,张平. 信源信道联合的新范式:语义通信[J]. 中兴通讯技术,2023,29(2):1-8. DOI:10.12142/ZTETJ.202302002.
		\bibitem{3} P. K. Srivastava and A. K. Jakkani, "FPGA Implementation of Pipelined 8×8 2-D DCT and IDCT Structure for H.264 Protocol," 2018 3rd International Conference for Convergence in Technology (I2CT), Pune, India, 2018, pp. 1-6, doi: 10.1109/I2CT.2018.8529352. 
		\bibitem{4} 柴斌. 对信源信道联合编码的研究[D]. 安徽:合肥工业大学,2004. DOI:10.7666/d.y596629.
		\bibitem{5} 赵旦峰,李超,薛睿,等. 多元符号的安全算术编码[J]. 哈尔滨工业大学学报,2016,48(5):95-99. DOI:10.11918/j.issn.0367-6234.2016.05.015.
		\bibitem{6} 徐榕利. 二进制算术编码与基于VLC的联合译码研究[D]. 山西:太原理工大学,2010. DOI:10.7666/d.d082353. 
		\bibitem{7} FRESIA M, PERÉZ-CRUZ F, POOR H V, et al. Joint source and channel coding [J]. IEEE signal processing magazine, 2010, 27(6): 104-113. DOI:10.1109/MSP.2010.938080.
		\bibitem{8} 刘传宏, 郭彩丽, 杨洋, 等. 人工智能物联网中面向智能任务的语义通信方法[J]. 通信学报, 2021, 42(11): 97-108. LIU C H, GUO C L, YANG Y, et al. Intelligent task-oriented semantic communication method in artificial intelligence of things[J]. Journal on Communications, 2021, 42(11): 97-108.
		\bibitem{9} JIN L Q, YANG H W. Joint source-channel polarization with side information [J]. IEEE access, 2018, 6: 7340-7349. DOI: 10.1109/ACCESS.2017.2788887.
		\bibitem{10} Y. Fang, G. Bi, Y. L. Guan and F. C. M. Lau, "A Survey on Protograph LDPC Codes and Their Applications," in IEEE Communications Surveys \& Tutorials, vol. 17, no. 4, pp. 1989-2016, Fourthquarter 2015, doi: 10.1109/COMST.2015.2436705.
		\bibitem{11} 秦志金,赵菼菼,李凡,等. 多模态语义通信研究综述[J]. 通信学报,2023,44(5):28-41. DOI:10.11959/j.issn.1000−436x.2023105.
		\bibitem{12} Y. Dong, J. Dai, K. Niu, S. Wang and Y. Yuan, "Joint source-channel coding for 6G communications," in China Communications, vol. 19, no. 3, pp. 101-115, March 2022, doi: 10.23919/JCC.2022.03.007.
		\bibitem{13} E. Bourtsoulatze, D. Burth Kurka and D. Gündüz, "Deep Joint Source-Channel Coding for Wireless Image Transmission," in IEEE Transactions on Cognitive Communications and Networking, vol. 5, no. 3, pp. 567-579, Sept. 2019, doi: 10.1109/TCCN.2019.2919300.
		\bibitem{14} D. B. Kurka and D. Gündüz, "DeepJSCC-f: Deep Joint Source-Channel Coding of Images With Feedback," in IEEE Journal on Selected Areas in Information Theory, vol. 1, no. 1, pp. 178-193, May 2020, doi: 10.1109/JSAIT.2020.2987203.
	
		
		
	
	\end{thebibliography}
	
\end{document}