并行计算和分布式处理的区别

1、概念理解

物理处理器:

一个单核CPU,多核CPU的某个内核,都是一个物理处理器;

逻辑处理器:

通过超线程技术可以将一个物理处理器模拟成多个逻辑处理器,

超线程技术的目的是提高物理处理器的利用效率,开销是模拟的多个逻辑处理器在工作切换时,有不少的数据保存和恢复工作,因此实际处理性能的提升要弱于多核CPU的多个物理处理器;双核CPU的两个物理处理器,通过超线程技术也可以模拟成四个逻辑处理器,但随着多内核CPU的物理处理器数量增多,就不必使用开销较大的超线程技术了。为避免概念混淆,后续描述中若无特别指明,处理器都是指物理处理器,不再讨论超线程技术。

并发计算:

时分复用一个处理器,在单处理器上,分时、多任务操作系统采用并发计算的调度方法;

并行计算:

空间复用多个处理器;

Intel多媒体指令优化集是针对一个处理器,扩展处理额外的数据,属于特殊的并行计算优化;

多处理器系统,操作系统采用并行计算的调度方法,允许多个线程在多个处理器上同时执行。

串行计算:

一个处理器依次执行指令,单就一个线程而言,本质上是串行计算的。

处理单元:

一个独立的软/硬件系统,可以是一台PC,或者一个虚拟机系统;

分布式处理系统:

某种处理任务被分解到多个处理器上,系统为扁平结构,一般上层有一个控制中心,下层有多个处理单元,通过下层多个处理单元的数量/功能扩展,来提高整个系统的处理性能;

处理任务有两种分解方法:一种是同类处理任务的分解,属于数量扩展;另一种是按功能不同进行分解,属于功能扩展;两种分解方法一般都混合使用。

集中式处理系统:

某种处理任务被集中到一个处理单元上,系统为星型结构,一般只有一个核心处理单元;即使核心处理单元有双机备份,也属于集中式处理系统。

2、技术范畴

任务:    任务有优先级

进程/线程:操作系统调度的最小单位

软件开发技术:

(1)系统层面 -> 集中式处理系统 - 对象是一个处理单元

->包含一个处理器 -> 并发计算,调度优化

->并行计算之指令优化(特例)

->包含多个处理器 -> 并行计算

-> 分布式处理系统 - 对象是多个处理单元

-> 任务的数量分解,数量空间扩展;

->任务的功能分解,功能空间扩展;

(2)算法层面 -> 一个处理器

-> 并发计算

-> 分时调度 -> 新就绪的高优先级任务

-> 可抢占

->不可抢占,如Linux进程的核心态

-> 新就绪的低优先级任务

->预留时间片,保证调度,延迟可预知

->多任务调度 -> 新就绪的高优先级任务

-> 可抢占

->不可抢占

->新就绪的低优先级任务

-> 不保证及时调度,延迟不可预知

-> 多个处理器

-> 并行计算

-> 并行算法

-> 空间复用多个处理器的算法专题,略

->并行调度

-> 新就绪的高优先级任务->优先分配到空闲的处理器

-> 新就绪的低优先级任务->负荷分担分配到各个处理器

3、多内核CPU的技术展望

多内核CPU -> 一个处理单元

-> 包含多个处理器 -> 并行计算 -> 并行算法 -> ...

-> 并行调度 -> ...

-> 虚拟机技术 -> 分布式处理系统

-> 多个处理单元

-> 任务的数量分解,数量空间扩展;

->任务的功能分解,功能空间扩展。

未来多核CPU的不同内核,如果赋予不同的功能,则更加容易组织成一个强大的分布式处理系统,规避了软件开发在并行计算方面的困难。

1、概念理解

物理处理器:

一个单核CPU,多核CPU的某个内核,都是一个物理处理器;

逻辑处理器:

通过超线程技术可以将一个物理处理器模拟成多个逻辑处理器,

超线程技术的目的是提高物理处理器的利用效率,开销是模拟的多个逻辑处理器在工作切换时,有不少的数据保存和恢复工作,因此实际处理性能的提升要弱于多核CPU的多个物理处理器;双核CPU的两个物理处理器,通过超线程技术也可以模拟成四个逻辑处理器,但随着多内核CPU的物理处理器数量增多,就不必使用开销较大的超线程技术了。为避免概念混淆,后续描述中若无特别指明,处理器都是指物理处理器,不再讨论超线程技术。

并发计算:

时分复用一个处理器,在单处理器上,分时、多任务操作系统采用并发计算的调度方法;

并行计算:

空间复用多个处理器;

Intel多媒体指令优化集是针对一个处理器,扩展处理额外的数据,属于特殊的并行计算优化;

多处理器系统,操作系统采用并行计算的调度方法,允许多个线程在多个处理器上同时执行。

串行计算:

一个处理器依次执行指令,单就一个线程而言,本质上是串行计算的。

处理单元:

一个独立的软/硬件系统,可以是一台PC,或者一个虚拟机系统;

分布式处理系统:

某种处理任务被分解到多个处理器上,系统为扁平结构,一般上层有一个控制中心,下层有多个处理单元,通过下层多个处理单元的数量/功能扩展,来提高整个系统的处理性能;

处理任务有两种分解方法:一种是同类处理任务的分解,属于数量扩展;另一种是按功能不同进行分解,属于功能扩展;两种分解方法一般都混合使用。

集中式处理系统:

某种处理任务被集中到一个处理单元上,系统为星型结构,一般只有一个核心处理单元;即使核心处理单元有双机备份,也属于集中式处理系统。

2、技术范畴

任务:    任务有优先级

进程/线程:操作系统调度的最小单位

软件开发技术:

(1)系统层面 -> 集中式处理系统 - 对象是一个处理单元

->包含一个处理器 -> 并发计算,调度优化

->并行计算之指令优化(特例)

->包含多个处理器 -> 并行计算

-> 分布式处理系统 - 对象是多个处理单元

-> 任务的数量分解,数量空间扩展;

->任务的功能分解,功能空间扩展;

(2)算法层面 -> 一个处理器

-> 并发计算

-> 分时调度 -> 新就绪的高优先级任务

-> 可抢占

->不可抢占,如Linux进程的核心态

-> 新就绪的低优先级任务

->预留时间片,保证调度,延迟可预知

->多任务调度 -> 新就绪的高优先级任务

-> 可抢占

->不可抢占

->新就绪的低优先级任务

-> 不保证及时调度,延迟不可预知

-> 多个处理器

-> 并行计算

-> 并行算法

-> 空间复用多个处理器的算法专题,略

->并行调度

-> 新就绪的高优先级任务->优先分配到空闲的处理器

-> 新就绪的低优先级任务->负荷分担分配到各个处理器

3、多内核CPU的技术展望

多内核CPU -> 一个处理单元

-> 包含多个处理器 -> 并行计算 -> 并行算法 -> ...

-> 并行调度 -> ...

-> 虚拟机技术 -> 分布式处理系统

-> 多个处理单元

-> 任务的数量分解,数量空间扩展;

->任务的功能分解,功能空间扩展。

未来多核CPU的不同内核,如果赋予不同的功能,则更加容易组织成一个强大的分布式处理系统,规避了软件开发在并行计算方面的困难。


相关内容

  • 计算机体系结构各章简答题及答案
  • 第一章 计算机体系结构的基本概念 1. 什么是计算机系统的多级层次结构? 2. 硬件和软件在什么意义上是等效的?在什么意义上是不等效的? 3. 经典计算机系统结构的实质是什么? 4. 语言实现的两种基本技术是什么? 5. 对于通用寄存器型机器来说,机器语言程序设计者所看到的计算机的属性主要有哪些? ...

  • 计算机原理问答题
  • 第一章 1.翻译和解释的区别和联系? 区别:翻译是整个程序转换,解释是低级机器的一串语句仿真高级机器的一条语句. 联系:都是高级机器程序在低级机器上执行的必须步骤. 2.为什么将计算机系统看成是多级机器构成的层次结构? 可以调整软.硬件比例:可以用真正的实处理机代替虚拟机器:可以在1台宿主机上仿真另 ...

  • 构建高性能集群计算机系统的关键技术
  • 管控一体化 文章编号:1008-0570(2006)01-3-0086-03 中文核心期刊<微计算机信息>(管控一体化)2006年第22卷第1-3期 构建高性能集群计算机系统的关键技术 KeyTechnologiesUsedForConstructHigh-performanceComp ...

  • 第5章算法与复杂性(答案)
  • 第5章 算法与复杂性 习 题 一.选择题 1. B 2. D 3. C 4. A 5. B 6. B 7. D 8. C 9. A 10. A 二.简答题 1.什么是算法,算法的特性有哪些? 答:"算法(Algorithm)是一组明确的.可以执行的步骤的有序集合,它在有限的时间内终止并产生 ...

  • 高性能计算系统设计方案
  • 高性能计算系统 方案设计 第1章 需求分析 1.1 高性能计算的和大规模数据处理的应用 高性能计算作为一种先进的科研手段,在国内的应用发展很快,得到了普遍的重视,近年来国家投入逐年加大. 高性能计算的应用条件已经成熟,表现在: ◆ 价格相对低廉的高性能机群系统为高性能计算应用提供了物质基础: ◆ 高 ...

  • 云计算和大数据基础知识
  • * 1: 100. 云计算 (一)大数据(BigData) 1. 定义: 海量数据或巨量数据,其规模巨大到无法用当前主流的计算机系统在合理时间内获取.存储.管理.处理并提取以帮助使用者决策. 2. 特点: 1)数据量大 (Volume ) ----- PB 级以上 2)快速 (Velocity ) ...

  • 第四章 计算智能1 人工智能课程 北京大学
  • 第四章计算智能(1) 教学内容:本章讨论计算智能所涉及的领域和范围,计算智能的含义及它与传统的人工智能的区别.介绍人工神经网络的由来.特性.结构.模型和算法:神经网络的表示和推理.简要地介绍模糊数学的基本概念.运算法则.模糊逻辑推理和模糊判决等. 教学重点:计算智能:人工神经网络的结构.模型和算法, ...

  • 数据库复习重点概念
  • 1. 数据管理的几个阶段及其对比 1人工管理阶段 2. 文件系统阶段 3. 数据库系统阶段 2. 数据库三级模式 外模式.模式.内模式. 外模式又称子模式或用户模式,对应于用户级.它是某个或某几个用户所看到的数据库的数据视图,是与某一应用有关的数据的逻辑表示. 模式又称概念模式或逻辑模式,对应于概念 ...

  • DNA序列拼接的分布式并行处理
  • CN43-1258/TP 计算机工程与科学 2005年第27卷第2期 ISSN1007-130X COMPUTERENGINEERING&SCI£NCE V01.27,No.2,2005 文章编号:1007-130X(2005)02-0071-03 DNA序列拼接的分布式并行处理. ADis ...