假设你有一个有两个线程的程序。程序可以通过两种方式运行：

Concurrency                 Concurrency + parallelism
(Single-Core CPU)           (Multi-Core CPU)
 ___                         ___ ___
|th1|                       |th1|th2|
|   |                       |   |___|
|___|___                    |   |___
    |th2|                   |___|th2|
 ___|___|                    ___|___|
|th1|                       |th1|
|___|___                    |   |___
    |th2|                   |   |th2|

在这两种情况下，我们都有并发性，这仅仅是因为我们有多个线程在运行。

如果我们在具有单个CPU内核的计算机上运行此程序，操作系统将在两个线程之间切换，允许一次运行一个线程。

如果我们在带有多核CPU的计算机上运行这个程序，那么我们就可以同时并行运行两个线程。

在电子学中，串行和并行表示一种静态拓扑，决定电路的实际行为。当没有并发时，并行性是确定性的。

为了描述动态的、与时间相关的现象，我们使用了术语顺序和并发。例如，可以通过特定的任务序列（例如配方）获得特定的结果。当我们与某人交谈时，我们会产生一系列单词。然而，在现实中，许多其他过程在同一时刻发生，因此，与某一行动的实际结果一致。如果很多人在同一时间谈话，同时进行的谈话可能会干扰我们的顺序，但这种干扰的结果事先不知道。并发性引入了不确定性。

串行/并行和顺序/并行表征是正交的。数字通信就是一个例子。在串行适配器中，数字消息沿同一通信线路（例如，一根电线）临时（即顺序）分布。在并行适配器中，这也在并行通信线路（例如多条电线）上进行划分，然后在接收端进行重构。

让我们想象一个有9个孩子的游戏。如果我们将它们作为一条链处理，在开始时发送消息，在结束时接收消息，我们将进行串行通信。更多的单词组成了一系列的交流单元。

I like ice-cream so much. > X > X > X > X > X > X > X > X > X > ....

这是在串行基础结构上复制的顺序过程。

现在，让我们想象一下，把孩子们分成三组。我们把这个短语分成三部分，第一部分给左边的孩子，第二部分给中心线的孩子，等等。

I like ice-cream so much. > I like    > X > X > X > .... > ....
                          > ice-cream > X > X > X > ....
                          > so much   > X > X > X > ....

这是一个在并行基础结构上复制的顺序过程（尽管仍部分序列化）。

在这两种情况下，假设孩子之间有完美的沟通，结果会提前确定。

如果有其他人与您同时与第一个孩子交谈，那么我们将同时进行处理。我们不知道基础设施将考虑哪个过程，因此最终结果尚未提前确定。

并发是并行的广义形式。例如，并行程序也可以称为并发程序，但反向不成立。

可以在单个处理器上并发执行（多个线程，由调度器或线程池管理）在单个处理器上无法并行执行，但在多个处理器上无法。（每个处理器一个进程）分布式计算也是一个相关的主题，它也可以被称为并发计算，但反过来却不是，就像并行一样。

有关详细信息，请阅读本研究论文并行编程的概念

“并发”是指同时做任何事情。它们可能是不同的东西，也可能是相同的东西。尽管缺乏公认的答案，但这并不是关于“看起来是在同一时间”，而是真的在同一个时间。您需要多个CPU内核，或者在一个主机内使用共享内存，或者在不同主机上使用分布式内存，以运行并发代码。例如，同时并发运行的3个不同任务的流水线：Task-level-2必须等待Task-level-1完成的单元，而Task-level-3必须等待Task-level-2完成的工作单元。另一个例子是1-生产者与1-消费者的并发；或许多生产者和1-消费者；读者和作家；等

“并行”是指同时做相同的事情。它是并发的，但更重要的是，它是在同一时间发生的相同行为，最典型的是在不同的数据上。矩阵代数通常可以并行化，因为您有重复运行的相同操作：例如，可以使用相同的行为（和）在不同的列上同时计算矩阵的列和。在可用的处理器核之间划分（拆分）列是一种常见的策略，这样每个处理器核处理的工作量（列数）就接近相同。另一种拆分工作的方法是一袋一袋的任务，完成工作的员工会回到经理那里，经理会将工作分配出去，并动态地分配更多的工作，直到所有工作都完成。票务算法是另一种。

不仅仅是数字代码可以并行化。文件太频繁可以并行处理。在自然语言处理应用程序中，对于数百万个文档文件中的每一个，您可能需要计算文档中标记的数量。这是并行的，因为您正在计算每个文件的令牌，这是相同的行为。

换句话说，并行是指同时执行相同的行为。并发意味着同时，但不一定是相同的行为。并行是一种特殊类型的并发，在同一时间发生相同的事情。

例如，术语将包括原子指令、关键部分、互斥、旋转等待、信号量、监视器、屏障、消息传递、map reduce、心跳、铃声、票务算法、线程、MPI、OpenMP。

格雷戈里·安德鲁斯（Gregory Andrews）的著作是关于多线程、并行和分布式编程的顶级教科书。

我认为在这个问题上有两种不同的观点导致了混淆：程序员的观点（并发/并行编程）与计算机/操作系统的观点（并行/并行执行）。

这里回答了计算机的观点。

程序员的观点：

并发编程：程序员编写代码时知道代码将由多个线程执行，无论出于何种原因。原因可能是：在等待I/O时更好地利用CPU，通过不同线程处理Web请求，通过在独立于主线程的线程中运行计算，运行周期性后台任务，使GUI做出响应。程序员必须应用互斥构造、锁定/解锁、等待条件/信号、处理死锁等。多个线程可以在单个处理器/内核上运行（从计算机的角度来看是并发的），也可以在多个内核上运行。

并行编程：程序员知道程序将在具有多个处理器/内核的计算机上运行，并希望利用多个内核。程序员将CPU密集型计算划分为多个子任务，在一个线程中运行每个子任务，一旦线程完成，其结果将合并为总结果（分而治之）。例如，将一些矩阵处理代码划分为并行处理矩阵部分的任务。每个核心将使用子任务执行一个线程（如果线程数大于内核数，则同时执行多个线程）。程序员也必须在这里应用并发的编程构造，但她也关注将任务划分为子任务并合并结果。例如，在Java中，程序员可以使用ParallelStreams来分割数据并自动合并结果。如果程序员知道程序将在单核处理器上执行，那么将CPU密集型任务拆分为多个线程是没有好处的。摘自Doug Leah的《Java并发编程：设计原则和模式》，1999年第2版，第343页：

并行程序专门设计为利用多个CPU来解决计算密集型问题。

并发是编程术语。它是关于多个任务的，这些任务开始运行并以无特定顺序在重叠的时间段内完成。并发性由操作系统管理。当多个线程想要访问同一资源时，线程会遇到竞争条件问题。此外，它们还存在死锁，彼此等待，阻止自己运行。例如，你想一边吃饭一边说话。首先你需要吞下嘴里的食物或停止咀嚼，然后你可以说话（你在划水），说话后你可以再咬一口。

并行性是一个硬件术语。它是关于在具有多个计算资源（如多核处理器）的硬件上同时运行的多个任务。如果你能在咀嚼食物时说话，这将是平行的。平行的一个例子是，一个人可以同时唱歌和跳舞。