并发编程关注的是看似重叠的操作，主要关注的是由于非确定性控制流而产生的复杂性。与并发程序相关的定量成本通常是吞吐量和延迟。并发程序通常受IO限制，但并不总是如此，例如并发垃圾收集器完全在CPU上。并发程序的教学示例是网络爬虫。该程序启动对网页的请求，并在下载结果可用时同时接受响应，从而累积一组已访问的网页。控制流是非确定性的，因为每次运行程序时，响应不一定以相同的顺序接收。这种特性会使调试并发程序变得非常困难。有些应用程序基本上是并发的，例如web服务器必须同时处理客户端连接。Erlang可能是未来最有前途的高度并发编程语言。并行编程涉及为提高吞吐量的特定目标而重叠的操作。通过使控制流具有确定性，避免了并发编程的困难。通常，程序生成并行运行的子任务集，父任务仅在每个子任务完成后才继续。这使得并行程序更容易调试。并行编程的难点是针对粒度和通信等问题的性能优化。后者在多核环境中仍然是一个问题，因为将数据从一个缓存传输到另一个缓存会产生相当大的成本。密集矩阵矩阵乘法是并行编程的一个教学示例，它可以通过使用Straasen的分治算法和并行攻击子问题来有效地解决。Cilk可能是共享内存计算机（包括多核）上最有前途的高性能并行编程语言。

从我的回答中复制：https://stackoverflow.com/a/3982782

通过查阅字典，你可以看到并发（来自拉丁语）意味着一起运行、聚合、同意；因此，需要同步，因为在相同的资源上存在竞争。平行（来自希腊语）的意思是在侧面复制；从而在同一时间做同样的事情。

并发简单意味着多个任务正在运行（不需要并行）。例如，假设我们在任何时刻都有3个任务：多个任务可能正在运行，或者所有任务可能同时运行。

并行性意味着它们实际上是并行运行的。因此，在这种情况下，三者必须同时运行。

平行度：让多个线程执行类似的任务，这些任务在数据和资源方面彼此独立。例如：谷歌爬虫可以产生数千个线程，每个线程可以独立完成任务。

并发性：当您在线程之间共享数据和共享资源时，并发性就会显现出来。在事务系统中，这意味着您必须使用一些技术（如锁、信号量等）同步代码的关键部分。

在电子学中，串行和并行表示一种静态拓扑，决定电路的实际行为。当没有并发时，并行性是确定性的。

为了描述动态的、与时间相关的现象，我们使用了术语顺序和并发。例如，可以通过特定的任务序列（例如配方）获得特定的结果。当我们与某人交谈时，我们会产生一系列单词。然而，在现实中，许多其他过程在同一时刻发生，因此，与某一行动的实际结果一致。如果很多人在同一时间谈话，同时进行的谈话可能会干扰我们的顺序，但这种干扰的结果事先不知道。并发性引入了不确定性。

串行/并行和顺序/并行表征是正交的。数字通信就是一个例子。在串行适配器中，数字消息沿同一通信线路（例如，一根电线）临时（即顺序）分布。在并行适配器中，这也在并行通信线路（例如多条电线）上进行划分，然后在接收端进行重构。

让我们想象一个有9个孩子的游戏。如果我们将它们作为一条链处理，在开始时发送消息，在结束时接收消息，我们将进行串行通信。更多的单词组成了一系列的交流单元。

I like ice-cream so much. > X > X > X > X > X > X > X > X > X > ....

这是在串行基础结构上复制的顺序过程。

现在，让我们想象一下，把孩子们分成三组。我们把这个短语分成三部分，第一部分给左边的孩子，第二部分给中心线的孩子，等等。

I like ice-cream so much. > I like    > X > X > X > .... > ....
                          > ice-cream > X > X > X > ....
                          > so much   > X > X > X > ....

这是一个在并行基础结构上复制的顺序过程（尽管仍部分序列化）。

在这两种情况下，假设孩子之间有完美的沟通，结果会提前确定。

如果有其他人与您同时与第一个孩子交谈，那么我们将同时进行处理。我们不知道基础设施将考虑哪个过程，因此最终结果尚未提前确定。

这篇惊人的博客节选：

并发和并行之间的区别：并发是指两个任务可以在重叠的时间段。并行性是指任务在例如在多核处理器上。并发是独立执行进程的组成，而并行是同时执行（可能相关）计算。并发是指同时处理许多事情。相似一次做很多事情。应用程序可以是并发的，但不能是并行的，这意味着它同时处理多个任务，但没有两个任务在同一时刻执行。应用程序可以是并行的，但不能是并发的，这意味着它在多核CPU中同时处理一个任务的多个子任务时间应用程序既不能并行，也不能并发，这意味着它一次一个地、顺序地处理所有任务。应用程序既可以是并行的，也可以是并发的，这意味着它在多核CPU中同时处理多个任务时间