当前位置:
文档之家› 第一章 信息、信息技术与计算科学
第一章 信息、信息技术与计算科学
数值的按权展开
(S)R= K i R
im
n
i
Ki∈{0,1,……,R-1}
Ex:
(126.07)10=1×102+2×101+6×100+7×10-2
32
1.5 计算机的信息表示与编码
几种常用计数制
十进制(Decimal):基数为10,逢十进一,用
0,1,2,3,4,5,6,7,8,9表示 二进制(Binary):基数为2,逢二进一,用0, 1表示 八进制(Octal):基数为8,逢八进一,用0,1, 2,3,4,5,6,7表示 十六进制(Hexdecimal):基数为16,逢十六 进一,用0,1,2,3,4,5,6,7,8,9,A, B,C,D,E,F表示
Shannon) 1916年4月30日出 生于美国密歇根州,2001年2 月26日去世。美国数学家、信
息论的创始人。
信息就是不确定性的消除量。
信息量即不确定性减少的程度。
信息被看作是用以消除信宿(信息的接受者)对于信源(信息的
发出者)发出消息的不确定性。香农还用概率统计的数学方法,
来度量不确定性被消除的量的大小。
计算:即符号串的变换 算法:求解某类问题的通用法则或方法,
即符号串变换的规则
25
1.4 计算与计算科学
1.4.2 计算模型与图灵机
1 1 0 0 0 1 1 0 1 1 1 1
控制器
图灵机计算模型
26
1.4.2 计算模型与图灵机
图灵机是一种抽象计算模型,用来精确定义可计算 函数。图灵机由一个控制器,一条可以无限延伸的带子 和一个在带子上左右移动的读写头组成。这个概念如此 简单的机器,理论上却可以计算任何直观可计算函数。 图灵在设计了上述模型后提出,凡可计算的函数都可用 这样的机器来实现,这就是著名的图灵论题。
I(x)=lg(1/p(x))= -lg p(x)
熵是系统无组织程度的度量,与信息量意义相反。其计算
过程描述如下:若某实验可能出现的结果分别为M1、M2…Mn; 其概率分别为: P1、P2…Pn;则信息熵的度量公式:
H=-{P1 lg P1 + P2 lg P2 +… Pn lg Pn }
11
1.1 探索信息的真谛
等诸种事物”。
定义5:信息技术包括信息传递过程中的各个方面,即信息
的产生、收集、交换、存储、传输、显示、识别、提取、控制、
加工和利用等技术。
19
1.3
信息技术
1.3.2 扩展人类的信息器官功能的信息技术
1.人类的信息器官与功能 人的信息器官主要包括以下四类(如图1-6所示):
20
1.3
2.信息技术的“四基元”
14
1.2
信息科学
1.2.1 信息科学的产生与定义
信息和控制是信息科学的基础和核心。信息科
学:以信息为主要研究对象,以信息的运动规律和
应用方法为主要研究内容,以计算机等技术为主要
研究工具,以扩展人类的信息功能为主要目标的一
门新兴的综合性学科。其中认识信息是基础,利用
信息是目的。
15
1.2
信息科学
计算机技术、通讯技术、网络技术、多媒体
技术、信息服务业、信息产业、信息经济、
信息化社会、信息管理、信息论等含义紧密
地联系在一起。最典型的应用是广告。
8
1.1 探索信息的真谛
1.1.2 从信息论到信息科学
香农的研究成果标志着信息论 (Information Theory)的诞生。由于香农
提出的信息论是关于通讯技术的理论,它是 以数学方法研究通讯技术中关于信息的传输 和变换规律的一门科学。所以,人们又将其 称为狭义信息论,或经典信息论。信息论发 展的第二个阶段是一般信息论。信息论发展 的第三个阶段是广义信息论。
1.5 计算机的信息表示与编码
2
1.1 探索信息的真谛
1.1.1 什么是信息
就一般意义而言,信息可以理解为消息、
情报、知识、见闻、通知、报告、事实、 赋予某种意义的数据等等。
3
1.1 探索信息的真谛
最早对信息进行科学定义的是哈特莱(Ralph
V.L. Hartley)。他在1928年发表的《信息传输》
16
1.3
信息技术
1.3.1 信息技术的发展与定义
迄今为止,人类社会已经发生过四次信息技术革命:
第一次革命是人类创造了语言和文字,接着现出了
文献。
第二次革命是造纸和印刷术的出现。 第三次革命是电报、电话、电视及其他通讯技术的
发明和应用。
第四次革命是电子计算机和现代通讯技术在信息工
作中的应用。
17
1.3
加工、存储、变换、显示和传输文字、数值、图像及声音信息,
包括提供设备和提供信息服务两大方面的方法与设备总称。
18
1.3
信息技术
1.3.1 信息技术的发展与定义
因其使用的目的、范围、层次不同,对信息技术的定
义有不同的表述:
定义4:信息技术指“应用在信息加工和处理中的科学,技
术与工程的训练方法和管理技巧;上述方法和技巧的应用;计 算机及其与人、机的相互作用,与人相应的社会、经济和文化
逻辑性 可靠性
29
1.5 计算机的信息表示与编码
1.5.2 信息的编码 • 字符的编码
ASCII码 (American Standard Code for Information Interchange) 概念 位(bit) 字节(Byte) 字(Word) ASCII码 7位的二进制编码,表示128个字符,用一个字节表示, 最高位不用,为0 34个功能/控制符,94个字符为信息符 30
5
1.1 探索信息的真谛
维纳1894年11月26日生于密苏
里州的哥伦比亚,1964年3月 18日去世。美国数学家,控制
论的创始人。
信息就是在人们在适应外部世
界,并且使这种适应反作用于
外部世界的过程中,同外部世
界进行交换的内容的名称。
6
1.1 探索信息的真谛
意大利学者朗格(G.Longe) :信息是事物之间的 差异,而不是事物本身。即信息是反映事物
的形式、关系和差别的东西。包含在事物的 差异之中。所谓信息量就是对事物差异度的
量度。 钟义信:信息是事物的运动状态和过程以及关于 这种状态和过程的知识。
7
Hale Waihona Puke 1.1 探索信息的真谛1.1.1 什么是信息
随着时间的推移,时代赋予了信息新的 含义,信息是一个动态的概念。现代“信息”
的概念,已经与半导体技术、微电子技术、
信息技术
1.3.1 信息技术的发展与定义
因其使用的目的、范围、层次不同,对信息技术的定
义有不同的表述:
定义1:信息技术是指有关信息的收集、识别、提取、变换、
存贮、传递、处理、检索、检测、分析和利用等的技术。
定义2:现代信息技术“以计算机技术、微电子技术和通信
技术为特征”。
定义3:信息技术是指在计算机和通信技术支持下用以获取、
信息技术
1.3.2 扩展人类的信息器官功能的信息技术
(1)感测技术——感觉器官(视、听、嗅、味、触、平衡)功
能的延长。
(2)通信技术——传导神经网络(导入、导出)功能的延长。
(3)计算机和智能技术——思维器官(记忆、联想、分析、
推理、决策)功能的延长。 (4)控制技术——效应器官(手、脚、口)功能的延长。
图灵机为现代计算机的出现提供了重要的依据:
带子——存储设备 命令——相当于一组预先设计、存储好的程序
控制器——决定读写头的每一步操作
27
阿兰· 图灵(Alan Turing)
英国数学家,24岁时提出了图灵机
理论 31岁参与了Colossus(二战时,英国 破解德国通讯密码的计算机)的研制
10
1.1 探索信息的真谛
1.1.4 信息的度量
量度信息多少的测度就是信息量。信息的度量反映了人们 对于信息的定量认识。根据香农的有关信息的定义,信息量的
计算描述如下:若某事件的基本空间可能出现的元素分别为x1、 x2…xn;即:P(X=Xi)=P i=1,2,„,n 则定义一个随机事件x所含的 信息量(又称x的自信息量)度量公式:
随着信息概念的广泛应用,香农信息论的局限
性逐渐暴露出来。
香农对信息的定义的出发点是假定事物状态可以
用一个以经典集合论为基础的概率模型来描述。然而
实际存在的某些事物运动状态要寻找一个合适的概率
模型往往是非常困难的。
这个定义和度量考虑收信者的主观特性和主观意 义,也撇开了信息的具体含义、具体用途、重要程度
1.2.2 信息科学的研究内容与体系
信息科学研究的基本内容归纳为以下五个方面:
(1) 探讨信息的基本概念和本质 (2) 研究信息的数值度量方法 (3) 阐明信息感知、识别、变换、传递、存储、检索、 处理、表示等过程的一般规律 (4) 揭示利用信息来描述系统和优化系统的方法和原理 (5) 寻求通过加工信息来生成智能的机制和途径
和引起后果等因素。
12
1.1 探索信息的真谛
1.1.5 数据、消息、信号与信息的区别
从信息科学的角度来看,信息的含义则更为深刻 和广泛,它是不能等同于数据、消息、信号的。
图1- 4 数据(原材料木头)与信息(加工以形成的结构)的关系
数据是未加工的信息,信息是数据的内容或诠释。
将数据加工为信息的过程即信息加工或处理。
器官收集信息的功能)和控制技术(扩展人 的效应器官的功能)等。
23
1.3
信息技术
1.3.4 信息技术的主要支撑技术