星空浩淼
发表文章数: 1743
武功等级: 九阳神功
(第五重)
内力值: 617/617
关于信息
前面有个帖子中（“无双的采访窍门”）我说“信息的确具有跟物质和能量不一样的特征。信息是在同构映射的意义上来比较大小的，与集合的基数或势的性质类似”，这里补充一下：
上面是就信息储存或信息表达（借用群论语言“同构表示”）的角度来说信息大小的。在数学上，信息理论是将信息定义为“对事件发生概率取对数，再加上一个负号，来表示该事件所包含的信息量大小”。但我个人觉得在通信工程中，这个定义基本没有用上，或者说可有可无。信息工程中，主要就是信息的储存和传输。信息的储存一般是通过媒质的结构秩序来表现信息内容的，只跟结构秩序有关，跟储存信息的载体大小无关，只求“同构映射”，而具有标度不变性：如果一个大方块跟一个小方块结构完全一样，它们可储存的信息也完全一样。当然在相同结构密度的情况下，越大能储存的东西越多。标度不变性是指如果将储存物体按比例缩小，所储存的信息量不变——这个就跟物质和能量不同。打个比方，如果电子和原子核有着太阳系一样丰富的结构并且各种物理规律可以与我们殊途同归，那么那里的智慧文明可以跟我们一样多。
好象还有一个很有趣的一面说掉了，一时想不起来了。
持之以恒就是胜利
| 发表时间：2004-08-19, 01:36:15 |
 作者资料
|
西门吹牛
发表文章数: 469
武功等级: 空明拳
(第三重)
内力值: 416/416
Re: 关于信息
在信息的编码和解码中（有点类似于对一门知识进行形式化符号化的翻译过程或逆过程），有时候为了防止信息在处理中丢失（失真），故意增加一些冗余信息，此时不是“同构映射”，而是“同态映射”了。——这有点象我们在人多的地方讲话，有时候讲一遍没有听清楚，同样的话就再讲一遍。
在实际应用中，信息量大小，跟能够完全地承载所要表达的知识的编码量有关，而且我们在日常生活中听到消息时从来没有哪个去关心这个消息发生的概率多大，有些事情的概率根本就是未知的（例如我曾经终于知道昌海兄现在在纽约），但我们觉得我们得到了信息；我们学习知识的过程也是一个不断接受信息的过程。总之用事件发生概率大小来描述信息量大小，在实际中，我觉得根本就没有用上。
学物理的知道相干态具有超完备性，不同基矢之间不是线性无关的。例如用三根不平行的坐标轴来描述一个二维平面，这个“坐标系”就是超完备的——此时的“坐标系”称为“坐标框架”。我们的学习经历让我们误以为过去的描述方式是天经地义的，其实坐标框架更具有一般性，一般坐标系只是一个特殊的坐标框架。如果为了防止信息在传输中失真，要放进一些冗余信息，此时的信号分析就在一种具有超完备性的Hilbert空间进行。
如果你同时知道相干态和学过小波分析，就会看出小波描述跟相干态描述之间的相似性——在我看来，相干态可能是一种特殊的小波。不过，小波的飞速发展，主要是由于人们找到了完备正交的小波基系统——毕竟，人们还是希望信息在传递和运输时，在信号分析中，所需要的资源最少而效果最佳。
这个话题已经进入观星楼的范畴了:-)
一舞剑气动四方,天下英雄莫能挡
形踪飘忽疑无影,冷面郎君傲雪霜
| 发表时间：2004-08-19, 05:06:18 |
作者资料
|
星空浩淼
发表文章数: 1743
武功等级: 九阳神功
(第五重)
内力值: 617/617
Re: 关于信息
总之，并不见得所有事件都是概率性的事件，但当我们知道它时，就接受到了信息。
下面接着在观星楼那里侃。
持之以恒就是胜利
| 发表时间：2004-08-19, 05:52:33 |
作者资料
|