如果你也在 怎样代写信息论information theory 这个学科遇到相关的难题,请随时右上角联系我们的24/7代写客服。信息论information theory回答了通信理论中的两个基本问题:什么是最终的数据压缩(答案:熵$H$),什么是通信的最终传输速率(答案:信道容量$C$)。由于这个原因,一些人认为信息论是通信理论的一个子集。我们认为它远不止于此。
信息论information theory在统计物理学(热力学)、计算机科学(柯尔莫哥洛夫复杂性或算法复杂性)、统计推断(奥卡姆剃刀:“最简单的解释是最好的”)以及概率和统计学(最优假设检验和估计的误差指数)方面都做出了根本性的贡献。
my-assignmentexpert™信息论information theory代写,免费提交作业要求, 满意后付款,成绩80\%以下全额退款,安全省心无顾虑。专业硕 博写手团队,所有订单可靠准时,保证 100% 原创。my-assignmentexpert, 最高质量的信息论information theory作业代写,服务覆盖北美、欧洲、澳洲等 国家。 在代写价格方面,考虑到同学们的经济条件,在保障代写质量的前提下,我们为客户提供最合理的价格。 由于统计Statistics作业种类很多,同时其中的大部分作业在字数上都没有具体要求,因此信息论information theory作业代写的价格不固定。通常在经济学专家查看完作业要求之后会给出报价。作业难度和截止日期对价格也有很大的影响。
想知道您作业确定的价格吗? 免费下单以相关学科的专家能了解具体的要求之后在1-3个小时就提出价格。专家的 报价比上列的价格能便宜好几倍。
my-assignmentexpert™ 为您的留学生涯保驾护航 在澳洲代写方面已经树立了自己的口碑, 保证靠谱, 高质且原创的澳洲代写服务。我们的专家在信息论information theory代写方面经验极为丰富,各种信息论information theory相关的作业也就用不着 说。
数学代写|信息论代写Information Theory代考|Binary Source
We now find the description rate $R(D)$ required to describe a Bernoulli $(p)$ source with an expected proportion of errors less than or equal to $D$.
Theorem 10.3.1 The rate distortion function for a Bernoulli $(p)$ source with Hamming distortion is given by
$$
R(D)= \begin{cases}H(p)-H(D), & 0 \leq D \leq \min {p, 1-p}, \ 0, & D>\min {p, 1-p} .\end{cases}
$$
Proof: Consider a binary source $X \sim \operatorname{Bernoulli}(p)$ with a Hamming distortion measure. Without loss of generality, we may assume that $p<\frac{1}{2}$. We wish to calculate the rate distortion function,
$$
R(D)=\min {p(\hat{x} \mid x): \sum{(x, \hat{x})}} \min _{p(x) p(\hat{x} \mid x) d(x, \hat{x}) \leq D} I(X ; \hat{X}) .
$$
Let $\oplus$ denote modulo 2 addition. Thus, $X \oplus \hat{X}=1$ is equivalent to $X \neq$ $\hat{X}$. We do not minimize $I(X ; \hat{X})$ directly; instead, we find a lower bound and then show that this lower bound is achievable. For any joint distribution satisfying the distortion constraint, we have
$$
\begin{aligned}
I(X ; \hat{X}) & =H(X)-H(X \mid \hat{X}) \
& =H(p)-H(X \oplus \hat{X} \mid \hat{X}) \
& \geq H(p)-H(X \oplus \hat{X}) \
& \geq H(p)-H(D),
\end{aligned}
$$
since $\operatorname{Pr}(X \neq \hat{X}) \leq D$ and $H(D)$ increases with $D$ for $D \leq \frac{1}{2}$. Thus,
$$
R(D) \geq H(p)-H(D)
$$
数学代写|信息论代写Information Theory代考|Gaussian Source
Although Theorem 10.2.1 is proved only for discrete sources with a bounded distortion measure, it can also be proved for well-behaved continuous sources and unbounded distortion measures. Assuming this general theorem, we calculate the rate distortion function for a Gaussian source with squared-error distortion.
Theorem 10.3.2 The rate distortion function for a $\mathcal{N}\left(0, \sigma^2\right)$ source with squared-error distortion is
$$
R(D)= \begin{cases}\frac{1}{2} \log \frac{\sigma^2}{D}, & 0 \leq D \leq \sigma^2, \ 0, & D>\sigma^2 .\end{cases}
$$
Proof: Let $X$ be $\sim \mathcal{N}\left(0, \sigma^2\right)$. By the rate distortion theorem extended to continuous alphabets, we have
$$
R(D)=\min _{f(\hat{X} \mid x): E(\hat{X}-X)^2 \leq D} I(X ; \hat{X})
$$
As in the preceding example, we first find a lower bound for the rate distortion function and then prove that this is achievable. Since $E(X-$ $\hat{X})^2 \leq D$, we observe that
$$
\begin{aligned}
I(X ; \hat{X}) & =h(X)-h(X \mid \hat{X}) \
& =\frac{1}{2} \log (2 \pi e) \sigma^2-h(X-\hat{X} \mid \hat{X}) \
& \geq \frac{1}{2} \log (2 \pi e) \sigma^2-h(X-\hat{X}) \
& \geq \frac{1}{2} \log (2 \pi e) \sigma^2-h\left(\mathcal{N}\left(0, E(X-\hat{X})^2\right)\right) \
& =\frac{1}{2} \log (2 \pi e) \sigma^2-\frac{1}{2} \log (2 \pi e) E(X-\hat{X})^2 \
& \geq \frac{1}{2} \log (2 \pi e) \sigma^2-\frac{1}{2} \log (2 \pi e) D \
& =\frac{1}{2} \log \frac{\sigma^2}{D},
\end{aligned}
$$
where (10.28) follows from the fact that conditioning reduces entropy and (10.29) follows from the fact that the normal distribution maximizes the entropy for a given second moment (Theorem 8.6.5). Hence,
$$
R(D) \geq \frac{1}{2} \log \frac{\sigma^2}{D}
$$
信息论代写
数学代写|信息论代写Information Theory代考|Binary Source
我们现在找到描述伯努利$(p)$源所需的描述率$R(D)$,其期望误差比例小于或等于$D$。
定理10.3.1具有汉明失真的伯努利$(p)$源的速率畸变函数由式给出
$$
R(D)= \begin{cases}H(p)-H(D), & 0 \leq D \leq \min {p, 1-p}, \ 0, & D>\min {p, 1-p} .\end{cases}
$$
证明:考虑一个二进制源$X \sim \operatorname{Bernoulli}(p)$与汉明失真测量。在不失一般性的前提下,我们可以假设$p<\frac{1}{2}$。我们希望计算速率失真函数,
$$
R(D)=\min {p(\hat{x} \mid x): \sum{(x, \hat{x})}} \min _{p(x) p(\hat{x} \mid x) d(x, \hat{x}) \leq D} I(X ; \hat{X}) .
$$
设$\oplus$表示模2加法。因此,$X \oplus \hat{X}=1$相当于$X \neq$$\hat{X}$。我们不直接最小化$I(X ; \hat{X})$;相反,我们找到一个下界,然后证明这个下界是可以实现的。对于任何满足畸变约束的联合分布,我们有
$$
\begin{aligned}
I(X ; \hat{X}) & =H(X)-H(X \mid \hat{X}) \
& =H(p)-H(X \oplus \hat{X} \mid \hat{X}) \
& \geq H(p)-H(X \oplus \hat{X}) \
& \geq H(p)-H(D),
\end{aligned}
$$
因为$\operatorname{Pr}(X \neq \hat{X}) \leq D$和$H(D)$增加,$D$增加$D \leq \frac{1}{2}$。因此,
$$
R(D) \geq H(p)-H(D)
$$
数学代写|信息论代写Information Theory代考|Gaussian Source
虽然定理10.2.1仅对具有有界畸变测度的离散源证明,但对于性能良好的连续源和无界畸变测度也可以证明。假设这一一般定理,我们计算了具有平方误差失真的高斯源的速率失真函数。
定理10.3.2具有平方误差失真的$\mathcal{N}\left(0, \sigma^2\right)$源的速率失真函数为
$$
R(D)= \begin{cases}\frac{1}{2} \log \frac{\sigma^2}{D}, & 0 \leq D \leq \sigma^2, \ 0, & D>\sigma^2 .\end{cases}
$$
证明:让$X$成为$\sim \mathcal{N}\left(0, \sigma^2\right)$。通过将速率畸变定理推广到连续字母,我们得到
$$
R(D)=\min _{f(\hat{X} \mid x): E(\hat{X}-X)^2 \leq D} I(X ; \hat{X})
$$
在前面的例子中,我们首先找到速率失真函数的下界,然后证明这是可以实现的。从$E(X-$$\hat{X})^2 \leq D$开始,我们观察到
$$
\begin{aligned}
I(X ; \hat{X}) & =h(X)-h(X \mid \hat{X}) \
& =\frac{1}{2} \log (2 \pi e) \sigma^2-h(X-\hat{X} \mid \hat{X}) \
& \geq \frac{1}{2} \log (2 \pi e) \sigma^2-h(X-\hat{X}) \
& \geq \frac{1}{2} \log (2 \pi e) \sigma^2-h\left(\mathcal{N}\left(0, E(X-\hat{X})^2\right)\right) \
& =\frac{1}{2} \log (2 \pi e) \sigma^2-\frac{1}{2} \log (2 \pi e) E(X-\hat{X})^2 \
& \geq \frac{1}{2} \log (2 \pi e) \sigma^2-\frac{1}{2} \log (2 \pi e) D \
& =\frac{1}{2} \log \frac{\sigma^2}{D},
\end{aligned}
$$
其中(10.28)源于条件作用减少熵的事实,(10.29)源于正态分布在给定的第二时刻使熵最大化的事实(定理8.6.5)。因此,
$$
R(D) \geq \frac{1}{2} \log \frac{\sigma^2}{D}
$$
数学代写|信息论代写Information Theory代考 请认准UprivateTA™. UprivateTA™为您的留学生涯保驾护航。
微观经济学代写
微观经济学是主流经济学的一个分支,研究个人和企业在做出有关稀缺资源分配的决策时的行为以及这些个人和企业之间的相互作用。my-assignmentexpert™ 为您的留学生涯保驾护航 在数学Mathematics作业代写方面已经树立了自己的口碑, 保证靠谱, 高质且原创的数学Mathematics代写服务。我们的专家在图论代写Graph Theory代写方面经验极为丰富,各种图论代写Graph Theory相关的作业也就用不着 说。
线性代数代写
线性代数是数学的一个分支,涉及线性方程,如:线性图,如:以及它们在向量空间和通过矩阵的表示。线性代数是几乎所有数学领域的核心。
博弈论代写
现代博弈论始于约翰-冯-诺伊曼(John von Neumann)提出的两人零和博弈中的混合策略均衡的观点及其证明。冯-诺依曼的原始证明使用了关于连续映射到紧凑凸集的布劳威尔定点定理,这成为博弈论和数学经济学的标准方法。在他的论文之后,1944年,他与奥斯卡-莫根斯特恩(Oskar Morgenstern)共同撰写了《游戏和经济行为理论》一书,该书考虑了几个参与者的合作游戏。这本书的第二版提供了预期效用的公理理论,使数理统计学家和经济学家能够处理不确定性下的决策。
微积分代写
微积分,最初被称为无穷小微积分或 “无穷小的微积分”,是对连续变化的数学研究,就像几何学是对形状的研究,而代数是对算术运算的概括研究一样。
它有两个主要分支,微分和积分;微分涉及瞬时变化率和曲线的斜率,而积分涉及数量的累积,以及曲线下或曲线之间的面积。这两个分支通过微积分的基本定理相互联系,它们利用了无限序列和无限级数收敛到一个明确定义的极限的基本概念 。
计量经济学代写
什么是计量经济学?
计量经济学是统计学和数学模型的定量应用,使用数据来发展理论或测试经济学中的现有假设,并根据历史数据预测未来趋势。它对现实世界的数据进行统计试验,然后将结果与被测试的理论进行比较和对比。
根据你是对测试现有理论感兴趣,还是对利用现有数据在这些观察的基础上提出新的假设感兴趣,计量经济学可以细分为两大类:理论和应用。那些经常从事这种实践的人通常被称为计量经济学家。
Matlab代写
MATLAB 是一种用于技术计算的高性能语言。它将计算、可视化和编程集成在一个易于使用的环境中,其中问题和解决方案以熟悉的数学符号表示。典型用途包括:数学和计算算法开发建模、仿真和原型制作数据分析、探索和可视化科学和工程图形应用程序开发,包括图形用户界面构建MATLAB 是一个交互式系统,其基本数据元素是一个不需要维度的数组。这使您可以解决许多技术计算问题,尤其是那些具有矩阵和向量公式的问题,而只需用 C 或 Fortran 等标量非交互式语言编写程序所需的时间的一小部分。MATLAB 名称代表矩阵实验室。MATLAB 最初的编写目的是提供对由 LINPACK 和 EISPACK 项目开发的矩阵软件的轻松访问,这两个项目共同代表了矩阵计算软件的最新技术。MATLAB 经过多年的发展,得到了许多用户的投入。在大学环境中,它是数学、工程和科学入门和高级课程的标准教学工具。在工业领域,MATLAB 是高效研究、开发和分析的首选工具。MATLAB 具有一系列称为工具箱的特定于应用程序的解决方案。对于大多数 MATLAB 用户来说非常重要,工具箱允许您学习和应用专业技术。工具箱是 MATLAB 函数(M 文件)的综合集合,可扩展 MATLAB 环境以解决特定类别的问题。可用工具箱的领域包括信号处理、控制系统、神经网络、模糊逻辑、小波、仿真等。