首页 > 其他 > 详细

十一周导论课后笔记

时间:2019-11-17 21:46:26      阅读:79      评论:0      收藏:0      [点我收藏+]

1.1信息

1.1.1 信息的定义
1.维纳:

        信息是信息,不是物质,也不是能量。
   
信息是人们在适应外部世界并使这种适应反作用于外部的过程中,同外部世界进行相互交换的内容的名称。
2.差异类:
    朗高

信息是反映事物的形式关系和差别的东西。信息存在于客体间的差别之中,而不是存在于客体之中

阿希贝:

信息的本性在于事物本身具有变异度
3.钟义信

钟义信教授分别在本体论和认识论层次上提出了信息定义体系。

本体论层次的信息是指事物运动的状态及其变化方式的自我表述。

认识论层次的信息是指认识主体所感知或所表述的事物运动的状态和方式,包括这种状态或方式的形式、含义和效用。
    ①语法信息。它是指主体所感知或所表述的事物运动状态和方式的形式化关系。
    ②语义信息。它是指认识主体所感知或所表述的事物运动状态和方式的逻辑含义。
    ③语用信息。它是指认识主体所感知或所表述的事物运动状态和方式相对于某种目的的效用。
    ④先验信息。观察者关于某事物的先验信息是指他在观察之前通过某种途径所感知的该事物运动的状态和方式。

实得信息。在观察过程中观察者关于某事物的实得信息,是指他通过观察所新感知到的该事物运动的状态和方式。

实在信息。它是指在理想观察条件下,观察者所获得的关于该事物实际的运动状态和方式等全部信息。

4.香农

假定事物状态可以用一个以经典集合论为基础的概率模型来描述,则信息就是用来消除不确定性的东西,或信息是事物运动状态或存在方式的不确定性描述。但要在实际中寻找个合适的概率模 型往往是非常困难的,甚至这样一种模型是否存在还值得探讨。此外信息有很强的主观性和实用性,但该定义没有考虑信息接收者的主观特性和主观意义,不顾信息的具体含义、具体用途、重要程度和可能引起的后果等因素,这就与实际情况不完全一致。

 

5.种加属差定义

种加属差定义亦称“真实定义”、“实质定义”或“事物定义”。

被定义概念(属概念)=邻近的种概念+属差

简单地说,种加属差就是一个信息相加的运算

信息是可加的。

1.1.2信息的种类

按照产生信息的物体的性质,可以将信息分为自然信息(声、光热、电等),生物信息(生物为繁衍生存而表现出来的各种形态和行为,如遗传信息、生物体内的交流信息、动物种群内的交流信息等),机器信息社会信息等。

按照人类活动领域,可以将信息分为科技信息、经济信息、政治信息、军事信息、文

化信息等。

按照信息所依附的载体,可以将信息分为文献信息、口头信息、电子信息、生物信

等。

按照携带信息的信号性质,可以将信息分为连续信息、半连续信息和离散信息

按照信息所起的作用,可将信息分为无用信息、有用信息和干扰信息

1.1.3 信息的度量

信息量的度量就等于其不确定性的多少

 

由于不确定性的大小能够度量,因此,信息是可以度量的。

 

自信息量

自信息量是指一个事件本 身所包含的信息量,它是由事件的不确定性所决定的。即自信息量是对单个事件不确定性的度量。

随机变量X产生的事件xi的自信息量定义为:

I(xi)= -log2P(xi)= log21/p(xi)(比特,即bit,常用单位)

 

信息熵

 

信息论的基本假设

信息是可以用一组符号来编码的。

②信息的产生和传输是可以用概率论和随机过程来描述的。

③从概率角度看,同样的信息包含同样的信息量。

 

在事件发生以前,自信息量等于事件发生的不确定性的大小。

在事件发生以后,自信息量表示事件所含有的或所能提供的信息量。

因此,自信息的含义为:收到某信息获得的信息量等于不确定性减少的量。

但是,自信息量不能用来作为随机变量X的信息度量。

 

离散随机变量X ~p(xi)的信息熵是从平均意义上对信息不确定性的度量,也称为平均自信息量,定义为

H(X)=-p(xi)log2 p(xi)

 

当各个事件出现的概率相等即“不确定性”最高时,信息熵最大。

 

1.2 计算机信息处理

1.2.1 位模式的信息表示

计算机外部的各种不同类型的数据都是在按照统一的数据格式进行转换后存人计算机,并在从计算机输出时再还原回来的,这种统一的格式称为位模式。位模式是一个序列,有时也称为位串,它是0和1的组合。通常长度为8的位模式被称为1个字节(byte),一个字由若干字节组成。

1.文本的表示

英文一般采用ASCII编码

美国标准Unicode编码等

而中文则大多采用与前者兼容的GB 2312- -1980编码。

2.数值的表示

十进制表示式

二进制表示式

对于二进制而言,数据分为无符号数和有符号数两类。

无符号数:就是二进制数的全部二进制位均表示数值位(没有符号位),相当于数的绝对值。

有符号数:约定二进制数的最高位为符号由“0”表示正数,“1”表示负数]这种在计算机中使用的数的表示形式称为机器数。根据编码的不同,又可将其分为原码反码和补码

 

重要:补码变反码:从后往前直到第一个1,再往前的数都取反。

 

3.音频的表示

要在计算机上表示音频信息,必须对声波进行数字化处理,即把模拟的声波转换成离散的数字信号。

    4.图像的表示

5.视频的表示

1.2.2计算机信息处理过程

信息处理就是对信息进行接收、存储、转化、传输和发布等,其中:

①    信息接收包括信息感知信息测量、信息识别信息获取以及信息输人等。

②信息存储就是把计算机接收到的信息或计算机处理的中间信息通过存储设备

进行缓冲、保存、备份等处理。

③信息转化就是将信息根据人们的特定需要进行分类、计算分析、检索、管理和

综合等处理。

④信息传输是通过计算机内部的指令或计算机之间的网络把信息从一个位置传

送到另外一个位置。

⑤信息发布就是把信息通过各种表示形式展示出来。

(图灵机待续)

十一周导论课后笔记

原文:https://www.cnblogs.com/narbit-dont-know/p/11878177.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!