关于离散平稳信源的扩展信源的简单性质的练习题目（扩展信源划重点

如果两个符号的二次扩展信源不太明白，不妨看看这篇~
设有一个信源，它产生 0,10,10,1 序列的消息。它在任意时间而且以前发生过什么符号，均按 P(0)=0.4,P(1)=0.6P(0)=0.4,P(1)=0.6P(0)=0.4,P(1)=0.6 的概率发出符号。
(1) 试问这个信源是否平稳的？
(2) 试计算 H(X2),H(X3/X1X2)H(X^2),H(X_3/X_1X_2)H(X2),H(X3/X1X2) 及 lim⁡N→∞HN(X)\displaystyle \lim_{N\rightarrow\infty}H_N(\pmb{X})N→∞limHN(XXX)；
(3) 试计算 H(X4)H(X^4)H(X4) 并写出 X4X^4X4 信源中可能有的所有符号。
解：
(1) 根据题意，此信源在任何时刻发出的符号概率都是相同的，均按 P(0)=0.4,P(1)=0.6P(0)=0.4,P(1)=0.6P(0)=0.4,P(1)=0.6 ，即信源发出符号的概率分布与时间平移无关，而且信源发出的序列之间也是彼此无依赖的。所以这信源是平稳信源，而且是离散无记忆信源。
(2) 此离散无记忆信源为
[XP(x)]=[010.40.6]\left[ \begin{matrix} X \\ P(x) \end{matrix} \right] = \left[ \begin{matrix} 0 &1 \\ 0.4&0.6 \end{matrix} \right] [XP(x)]=[00.410.6]
可计算得
H(X)=−(0.4log0.4+0.6log0.6)=0.971比特/符号H(X)=-(0.4log0.4+0.6log0.6)=0.971\quad 比特/符号 H(X)=−(0.4log0.4+0.6log0.6)=0.971比特/符号
因为信源是平稳无记忆信源，信源输出序列之间无依赖，所以
H(X2)=2H(X)≈1.94比特/两个符号H(X3/X1X2)=H(X3)=H(X)≈0.971比特/符号lim⁡N→∞HN(X)=lim⁡N→∞1NH(X1X2⋯XN)=lim⁡N→∞1N⋅N⋅H(X)=H(X)≈0.971比特/符号H(X^2)=2H(X)\approx1.94\quad 比特/两个符号\\ H(X_3/X_1X_2)=H(X_3)=H(X)\approx0.971\quad比特/符号\\ \begin{aligned} \lim_{N\rightarrow\infty}H_N(\pmb{X})=&\lim_{N\rightarrow\infty}\frac{1}{N}H(X_1X_2\cdots X_N)\\ =&\lim_{N\rightarrow\infty}\frac{1}{N}\cdot N\cdot H(X)\\ =&H(X)\approx0.971\quad 比特/符号 \end{aligned} H(X2)=2H(X)≈1.94比特/两个符号H(X3/X1X2)=H(X3)=H(X)≈0.971比特/符号N→∞limHN(XXX)===N→∞limN1H(X1X2⋯XN)N→∞limN1⋅N⋅H(X)H(X)≈0.971比特/符号
(3)H(X4)=4H(X)≈3.88比特/四个符号H(X^4)=4H(X)\approx3.88\quad 比特/四个符号\\ H(X4)=4H(X)≈3.88比特/四个符号
X4X^4X4 信源中可能的所有符号是四位二进制排序，即有 161616 种符号
0000000100100011010001010110011110001001101010111100110111101111\begin{matrix} 0000 & 0001 & 0010 & 0011\\ 0100&0101&0110&0111\\ 1000&1001&1010&1011\\ 1100&1101&1110&1111 \end{matrix} 0000010010001100000101011001110100100110101011100011011110111111

关于离散平稳信源的扩展信源的简单性质的练习题目（扩展信源划重点相关推荐

信息论中平稳概念--离散平稳信源
定义信源X具有有限符号集信源X具有有限符号集合信源产生随机序列 xii=..,1,2,... x i i = . . , 1 , 2 , . . . {x_i} i = .., 1, 2 ,.. ...
python之simplejson，Python版的简单、快速、可扩展 JSON 编码器/解码器
simplejson Python版的简单. 快速. 可扩展 JSON 编码器/解码器编码基本的 Python 对象层次结构: import simplejson as jsonprint json ...
php批量新增数据类型,Yii框架批量插入数据扩展类的简单实现方法
本文实例讲述了Yii框架批量插入数据扩展类的简单实现方法.分享给大家供大家参考,具体如下: MySQL INSERT语句允许插入多行数据,如下所示: INSERT INTO tbl_name (a,b ...
论文翻译：DeepFaceLab：一个简单，灵活的可扩展换脸框架
DeepFaceLab:一个简单,灵活的可扩展换脸框架时间有限,翻译仓促,为个人学习所用,仅供参考. DeepFaceLab: A simple, flexible and extensible f ...
DeepFaceLab: A simple, flexible and extensible face swapping framework 一个简单、灵活和可扩展的人脸交换框架
DeepFaceLab: A simple, flexible and extensible face swapping framework 一个简单.灵活和可扩展的人脸交换框架文章目录 DeepF ...
信息论基础——信源熵及其性质研究
本文仅供学习使用,如有侵权请及时联系,博主会第一时间进行处理信源熵及其性质研究一.实验目的二.实验原理及内容三.实验设备与材料四.实验步骤五.实验程序及运行结果六.实验总结一.实验目的 ...
【转】Windows Shell扩展编程傻瓜手册大全：上下文菜单扩展
引用自: http://blog.163.com/yesaidu@126/blog/static/51819307200861853827582/ Part I: A step-by-step tut ...
计算机管理扩展灰色,为什么c盘扩展卷灰色？win7系统c盘扩展卷灰色如何解决
在Widow7系统使用一段时间后,发现C盘的空间越来越小,严重时出现卡顿问题.有什么办法不重转系统就可以加大C盘的空间?可以通过扩展卷功能用于扩展C盘的容量,遇到c盘扩展卷灰色问题怎么办?下面给大家介 ...
usb扩展坞同时接键盘鼠标_笔记本扩展伴侣，轻松解决接口烦恼，毕亚兹USB-C扩展坞体验...
俗话说,鱼和熊掌不可兼得.生活工作中的数码产品也同样如此,就拿日常工作学习必备的笔记本产品来说,功能和便携同样是难以取舍.大家都知道,伴随近几年笔记本轻量化和高功能的发展,笔记本在接口方面也发生了很大 ...

关于离散平稳信源的扩展信源的简单性质的练习题目（扩展信源划重点

如果两个符号的二次扩展信源不太明白，不妨看看这篇~

关于离散平稳信源的扩展信源的简单性质的练习题目（扩展信源划重点相关推荐

最新文章

热门文章