并发是编程术语。它是关于多个任务的，这些任务开始运行并以无特定顺序在重叠的时间段内完成。并发性由操作系统管理。当多个线程想要访问同一资源时，线程会遇到竞争条件问题。此外，它们还存在死锁，彼此等待，阻止自己运行。例如，你想一边吃饭一边说话。首先你需要吞下嘴里的食物或停止咀嚼，然后你可以说话（你在划水），说话后你可以再咬一口。

并行性是一个硬件术语。它是关于在具有多个计算资源（如多核处理器）的硬件上同时运行的多个任务。如果你能在咀嚼食物时说话，这将是平行的。平行的一个例子是，一个人可以同时唱歌和跳舞。

我认为在这个问题上有两种不同的观点导致了混淆：程序员的观点（并发/并行编程）与计算机/操作系统的观点（并行/并行执行）。

这里回答了计算机的观点。

程序员的观点：

并发编程：程序员编写代码时知道代码将由多个线程执行，无论出于何种原因。原因可能是：在等待I/O时更好地利用CPU，通过不同线程处理Web请求，通过在独立于主线程的线程中运行计算，运行周期性后台任务，使GUI做出响应。程序员必须应用互斥构造、锁定/解锁、等待条件/信号、处理死锁等。多个线程可以在单个处理器/内核上运行（从计算机的角度来看是并发的），也可以在多个内核上运行。

并行编程：程序员知道程序将在具有多个处理器/内核的计算机上运行，并希望利用多个内核。程序员将CPU密集型计算划分为多个子任务，在一个线程中运行每个子任务，一旦线程完成，其结果将合并为总结果（分而治之）。例如，将一些矩阵处理代码划分为并行处理矩阵部分的任务。每个核心将使用子任务执行一个线程（如果线程数大于内核数，则同时执行多个线程）。程序员也必须在这里应用并发的编程构造，但她也关注将任务划分为子任务并合并结果。例如，在Java中，程序员可以使用ParallelStreams来分割数据并自动合并结果。如果程序员知道程序将在单核处理器上执行，那么将CPU密集型任务拆分为多个线程是没有好处的。摘自Doug Leah的《Java并发编程：设计原则和模式》，1999年第2版，第343页：

并行程序专门设计为利用多个CPU来解决计算密集型问题。

“并发”是指同时做任何事情。它们可能是不同的东西，也可能是相同的东西。尽管缺乏公认的答案，但这并不是关于“看起来是在同一时间”，而是真的在同一个时间。您需要多个CPU内核，或者在一个主机内使用共享内存，或者在不同主机上使用分布式内存，以运行并发代码。例如，同时并发运行的3个不同任务的流水线：Task-level-2必须等待Task-level-1完成的单元，而Task-level-3必须等待Task-level-2完成的工作单元。另一个例子是1-生产者与1-消费者的并发；或许多生产者和1-消费者；读者和作家；等

“并行”是指同时做相同的事情。它是并发的，但更重要的是，它是在同一时间发生的相同行为，最典型的是在不同的数据上。矩阵代数通常可以并行化，因为您有重复运行的相同操作：例如，可以使用相同的行为（和）在不同的列上同时计算矩阵的列和。在可用的处理器核之间划分（拆分）列是一种常见的策略，这样每个处理器核处理的工作量（列数）就接近相同。另一种拆分工作的方法是一袋一袋的任务，完成工作的员工会回到经理那里，经理会将工作分配出去，并动态地分配更多的工作，直到所有工作都完成。票务算法是另一种。

不仅仅是数字代码可以并行化。文件太频繁可以并行处理。在自然语言处理应用程序中，对于数百万个文档文件中的每一个，您可能需要计算文档中标记的数量。这是并行的，因为您正在计算每个文件的令牌，这是相同的行为。

换句话说，并行是指同时执行相同的行为。并发意味着同时，但不一定是相同的行为。并行是一种特殊类型的并发，在同一时间发生相同的事情。

例如，术语将包括原子指令、关键部分、互斥、旋转等待、信号量、监视器、屏障、消息传递、map reduce、心跳、铃声、票务算法、线程、MPI、OpenMP。

格雷戈里·安德鲁斯（Gregory Andrews）的著作是关于多线程、并行和分布式编程的顶级教科书。

并发是指两个或多个任务可以在重叠的时间段内启动、运行和完成。这并不一定意味着它们会同时运行。例如，在单核机器上进行多任务处理。

并行性是指任务实际上同时运行，例如在多核处理器上。

引用Sun的多线程编程指南：

并发：至少有两个线程正在进行时存在的条件。一种更为普遍的并行形式，可以将时间切片作为虚拟并行的一种形式。并行性：当至少两个线程同时执行时出现的情况。

假设你有一个有两个线程的程序。程序可以通过两种方式运行：

Concurrency                 Concurrency + parallelism
(Single-Core CPU)           (Multi-Core CPU)
 ___                         ___ ___
|th1|                       |th1|th2|
|   |                       |   |___|
|___|___                    |   |___
    |th2|                   |___|th2|
 ___|___|                    ___|___|
|th1|                       |th1|
|___|___                    |   |___
    |th2|                   |   |th2|

在这两种情况下，我们都有并发性，这仅仅是因为我们有多个线程在运行。

如果我们在具有单个CPU内核的计算机上运行此程序，操作系统将在两个线程之间切换，允许一次运行一个线程。

如果我们在带有多核CPU的计算机上运行这个程序，那么我们就可以同时并行运行两个线程。

它们解决不同的问题。并发性解决了CPU资源稀缺和任务多的问题。因此，您可以通过代码创建线程或独立的执行路径，以便在稀缺资源上共享时间。直到最近，由于CPU的可用性，并发性一直是讨论的焦点。

并行性解决了找到足够的任务和适当的任务（可以正确分割的任务）并将它们分配到大量的CPU资源上的问题。当然，并行性一直都存在，但由于多核处理器非常便宜，所以它正走到最前沿。