并行计算机系统的软件技术
计算模式:

单程序多数据模式:系统由多个独立的进程组成, 它们都运行相同的程序,但处理的数据集合不同 流水线式: 分阶段计算模式: 分而治之式 多完成人模式
并行计算机系统的软件技术
通信方式:

共享变量 消息传递
:多指令流单数据流(流水线处理机): MIMD体系结构:多指令流多数据流
一致性内存访问(UMA) 非一致性内存访问(NUMA) 仅高速缓存访问(COMA) MPP:大规模并行处理系统 COW:工作站集群

多计算机系统:

并行计算机系统的性能问题
硬件性能指标: 延迟时间:CPU发送分组至接收到响应的时间间隔 带宽:系统每秒能传送的信息量 软件性能指标: 加速比:一个程序在有n个处理器的计算机上运行和在只 有一个处理器的计算机上运行的速度之比 获得更高的性能: 增加更多的CPU,但要能够保持相同的CPU平均带宽和不 变的平均延迟时间 减少或隐藏延迟时间的技术:数据复制,数据预取,多线程 技术,使用无阻塞的写
并行计算机体系结构
计算机体系结构的分类
SISD体系结构:单指令流单数据流

以单一的指令流从存储器取指令,以单一的数据流从存储器取操作数并将 结果写回存储器
单一的控制部件,多个处理部件 阵列处理机和向量处理机 多个处理部件,多条指令同时在一份数据上进行操作 多处理机系统:共享物理内存

SIMD体系结构:单指令流多数据流
并行计算机系统的软件技术
控制模式: 使用一个控制线程的方式 使用多个线程控制的方式 并行粒度: 多个独立线程协同工作解决同一个问题 在一个程序调用了一个过程后并不等待调用结 束就继续往下执行,使调用者和被调用者并行运 行 进程用某种方法创建多个线程,所有的线程都在 进程的地址空间中运行