作者：ArimaMisaki目录1并行计算概述.21.1基本概念.21.2存储器的层次结构.31.3并行计算.31.4动态互连网络.41.5并行计算机结构模型.51.6并行算法的基本设计策略.61.7并行编程风范.61.8单核多线程和并发执行.71.9拓展：并行计算机的分类.71.10并行层次和代码粒度.101.11并行程序设计模型.102并行计算模型.112.1拓展：进程.112.2拓展：进程模型.112.3拓展：父子进程.122.4拓展：线程.122.5拓展：用户线程和内核线程.122.6POSIX线程.132.7并行算法.132.8并行计算模型.142.9并行算法一般设计过程.152.1
作者：ArimaMisaki目录1并行计算概述.21.1基本概念.21.2存储器的层次结构.31.3并行计算.31.4动态互连网络.41.5并行计算机结构模型.51.6并行算法的基本设计策略.61.7并行编程风范.61.8单核多线程和并发执行.71.9拓展：并行计算机的分类.71.10并行层次和代码粒度.101.11并行程序设计模型.102并行计算模型.112.1拓展：进程.112.2拓展：进程模型.112.3拓展：父子进程.122.4拓展：线程.122.5拓展：用户线程和内核线程.122.6POSIX线程.132.7并行算法.132.8并行计算模型.142.9并行算法一般设计过程.152.1
“并行和并发有什么区别？”关于这个问题，很多工作5年以上的同学都回答不出来。或者说，自己有一定的理解，但是不知道怎么表达。大家好，我是Mic，一个工作了14年的Java程序员。关于这个问题，面试官想考察什么呢？问题解析并行和并发最早其实描述的是Java并发编程里面的概念。他们强调的是CPU处理任务的能力。简单来说，并发，就是同一个时刻，CPU能够处理的任务数量，并且对于应用程序来说，不会出现卡顿现象。并行，就是同一个时刻，允许多个任务同时执行，在多核CPU架构中，同时执行的任务数量是由核心数决定的，比如在4核4线程的CPU中，只能同时执行4个线程。这两个概念看起来类似，但其实描述的纬度是不同的
“并行和并发有什么区别？”关于这个问题，很多工作5年以上的同学都回答不出来。或者说，自己有一定的理解，但是不知道怎么表达。大家好，我是Mic，一个工作了14年的Java程序员。关于这个问题，面试官想考察什么呢？问题解析并行和并发最早其实描述的是Java并发编程里面的概念。他们强调的是CPU处理任务的能力。简单来说，并发，就是同一个时刻，CPU能够处理的任务数量，并且对于应用程序来说，不会出现卡顿现象。并行，就是同一个时刻，允许多个任务同时执行，在多核CPU架构中，同时执行的任务数量是由核心数决定的，比如在4核4线程的CPU中，只能同时执行4个线程。这两个概念看起来类似，但其实描述的纬度是不同的
1. 并发1.1. 两个任务共享时间段1.2. 一个程序要运行两个任务，并且只有一个CPU给它们分配了不同的时间片，那么这就是并发，而不是并行2. 并行2.1. 两个任务在同一时间发生2.2. 为缩短任务执行时间，将一个任务分解成几部分，然后并行执行2.3. 和顺序执行的任务量是一样的，区别就像用更多的马来拉车，花费的时间自然减少了2.4. 重要2.4.1. 不能再依赖提升CPU的时钟频率来提高现有代码的计算能力2.4.2. 需要利用现代CPU的架构，而这唯一的办法就是编写并行化的代码2.4.3. 阿姆达尔定律2.4.3.1. 一个简单规则，预测了搭载多核处理器的机器提升程序速度的理论最大值2
1. 并发1.1. 两个任务共享时间段1.2. 一个程序要运行两个任务，并且只有一个CPU给它们分配了不同的时间片，那么这就是并发，而不是并行2. 并行2.1. 两个任务在同一时间发生2.2. 为缩短任务执行时间，将一个任务分解成几部分，然后并行执行2.3. 和顺序执行的任务量是一样的，区别就像用更多的马来拉车，花费的时间自然减少了2.4. 重要2.4.1. 不能再依赖提升CPU的时钟频率来提高现有代码的计算能力2.4.2. 需要利用现代CPU的架构，而这唯一的办法就是编写并行化的代码2.4.3. 阿姆达尔定律2.4.3.1. 一个简单规则，预测了搭载多核处理器的机器提升程序速度的理论最大值2
本文内容整理自**博学谷狂野架构师**多线程概述基础概念进程和线程进程是程序运行资源分配的最小单位 进程是操作系统进行资源分配的最小单位,其中资源包括:CPU、内存空间、磁盘IO等,同一进程中的多条线程共享该进程中的全部系统资源,而进程和进程之间是相互独立的。进程是具有一定独立功能的程序关于某个数据集合上的一次运行活动,进程是系统进行资源分配和调度的一个独立单位。 进程是程序在计算机上的一次执行活动。当你运行一个程序,你就启动了一个进程。显然,程序是死的、静态的,进程是活的、动态的。进程可以分为系统进程和用户进程。凡是用于完成操作系统的各种功能的进程就是系统进程,它们就是处于运行状态下
本文内容整理自**博学谷狂野架构师**多线程概述基础概念进程和线程进程是程序运行资源分配的最小单位 进程是操作系统进行资源分配的最小单位,其中资源包括:CPU、内存空间、磁盘IO等,同一进程中的多条线程共享该进程中的全部系统资源,而进程和进程之间是相互独立的。进程是具有一定独立功能的程序关于某个数据集合上的一次运行活动,进程是系统进行资源分配和调度的一个独立单位。 进程是程序在计算机上的一次执行活动。当你运行一个程序,你就启动了一个进程。显然,程序是死的、静态的,进程是活的、动态的。进程可以分为系统进程和用户进程。凡是用于完成操作系统的各种功能的进程就是系统进程,它们就是处于运行状态下
前言本文是之前做云计算实验整理的内容，借博客保存一下！使用不同方法对算法加速还是很有意思的！实验题目自选一张图片，按照实验指南说明在jetson05节点上基于OpenMP和CUDA对图片进行边缘提取实验，记录梯度向量幅度的最小值和最大值，比较串行算法和并行算法的运行时间，并提交处理后的边缘提取结果图片。试一下：如果编译时开启优化选项（比如选择“-O3”级别的优化），串行算法和并行算法的运行时间分别有什么变化。使用提供的opencl-examples源码在你自己的计算机上进行基于OpenCL的GPU并行算法实验，记录你的实验环境参数（包括CPU和GPU相关参数等，可从实验程序日志中获取）以及各个
前言本文是之前做云计算实验整理的内容，借博客保存一下！使用不同方法对算法加速还是很有意思的！实验题目自选一张图片，按照实验指南说明在jetson05节点上基于OpenMP和CUDA对图片进行边缘提取实验，记录梯度向量幅度的最小值和最大值，比较串行算法和并行算法的运行时间，并提交处理后的边缘提取结果图片。试一下：如果编译时开启优化选项（比如选择“-O3”级别的优化），串行算法和并行算法的运行时间分别有什么变化。使用提供的opencl-examples源码在你自己的计算机上进行基于OpenCL的GPU并行算法实验，记录你的实验环境参数（包括CPU和GPU相关参数等，可从实验程序日志中获取）以及各个
