并行性是每个CPU或多个CPU（在单个主板上）在多个内核上同时执行进程。

并发是指通过使用划分CPU时间（时间片）的调度算法在单个内核/CPU上实现并行性。进程是交错的。

单位：单个CPU中有1个或多个内核（几乎所有现代处理器）主板上有1个或多个CPU（想想老式服务器）一个应用程序就是一个程序（想想Chrome浏览器）一个程序可以有一个或多个进程（认为每个Chrome浏览器选项卡都是一个进程）一个进程可以有一个程序中的一个或多个线程（Chrome选项卡在一个线程中播放Youtube视频，另一个线程生成评论部分，另一个用于用户登录信息）因此，一个程序可以有一个或多个执行线程1个进程是线程+OS分配的内存资源（堆、寄存器、堆栈、类内存）

这个来源的解释对我很有帮助：

并发性与应用程序如何处理多个任务有关一个应用程序可以一次处理一个任务（按顺序）或同时处理多个任务（同时）。另一方面，并行性与应用程序处理每个单独的任务。应用程序可以处理该任务从开始到结束依次执行，或将任务拆分为子任务可以并行完成。正如您所看到的，应用程序可以是并发的，但不能是并行的。这意味着它同时处理多个任务，但是这些任务不分解为子任务。应用程序也可以是并行的，但不能是并发的。这意味着应用程序一次只能处理一个任务，而此任务被分解为可以并行处理的子任务。此外，应用程序既不能是并发的，也不能是并行的。这意味着它一次只能处理一个任务从未分解为并行执行的子任务。最后，应用程序也可以是并发和并行的，在它可以同时处理多个任务，也可以中断将每个任务分解为子任务以并行执行。然而并发性和并行性的好处可能会因此而丧失由于计算机中的CPU已经处于相当繁忙的状态仅具有并发性或并行性。结合起来可能会导致只有很小的性能增益或甚至性能损失。

假设你有一个有两个线程的程序。程序可以通过两种方式运行：

Concurrency                 Concurrency + parallelism
(Single-Core CPU)           (Multi-Core CPU)
 ___                         ___ ___
|th1|                       |th1|th2|
|   |                       |   |___|
|___|___                    |   |___
    |th2|                   |___|th2|
 ___|___|                    ___|___|
|th1|                       |th1|
|___|___                    |   |___
    |th2|                   |   |th2|

在这两种情况下，我们都有并发性，这仅仅是因为我们有多个线程在运行。

如果我们在具有单个CPU内核的计算机上运行此程序，操作系统将在两个线程之间切换，允许一次运行一个线程。

如果我们在带有多核CPU的计算机上运行这个程序，那么我们就可以同时并行运行两个线程。

并行编程执行有两种类型：非并行并行编程和并行并行编程（也称为并行）。

关键的区别在于，在人类看来，非并行并发中的线程似乎同时运行，但实际上它们并不运行。在非并行并发中，线程通过时间切片快速切换并轮流使用处理器。虽然并行有多个处理器可用，但多个线程可以同时在不同的处理器上运行。

参考文献：编程语言中的并发简介

并发编程关注的是看似重叠的操作，主要关注的是由于非确定性控制流而产生的复杂性。与并发程序相关的定量成本通常是吞吐量和延迟。并发程序通常受IO限制，但并不总是如此，例如并发垃圾收集器完全在CPU上。并发程序的教学示例是网络爬虫。该程序启动对网页的请求，并在下载结果可用时同时接受响应，从而累积一组已访问的网页。控制流是非确定性的，因为每次运行程序时，响应不一定以相同的顺序接收。这种特性会使调试并发程序变得非常困难。有些应用程序基本上是并发的，例如web服务器必须同时处理客户端连接。Erlang可能是未来最有前途的高度并发编程语言。并行编程涉及为提高吞吐量的特定目标而重叠的操作。通过使控制流具有确定性，避免了并发编程的困难。通常，程序生成并行运行的子任务集，父任务仅在每个子任务完成后才继续。这使得并行程序更容易调试。并行编程的难点是针对粒度和通信等问题的性能优化。后者在多核环境中仍然是一个问题，因为将数据从一个缓存传输到另一个缓存会产生相当大的成本。密集矩阵矩阵乘法是并行编程的一个教学示例，它可以通过使用Straasen的分治算法和并行攻击子问题来有效地解决。Cilk可能是共享内存计算机（包括多核）上最有前途的高性能并行编程语言。

从我的回答中复制：https://stackoverflow.com/a/3982782

同意：具有共享资源潜力的多个执行流

前任：两个线程竞争I/O端口。

视差：将问题分成多个相似的块。

前任：通过对文件的每一半运行两个进程来解析大文件。