和CPU内核一样多的线程是我经常听到的。

正如帕克斯所说，衡量，而不是猜测。这就是我为DNSwitness所做的事情，结果令人惊讶:理想的线程数比我想象的要高得多，大约15,000个线程才能获得最快的结果。

当然，这取决于很多东西，这就是为什么你必须衡量自己。

在Combien de fils d'exécution ?中的完整测量(仅法语)。

你应该记住的一件事是，python(至少是基于C的版本)使用了所谓的全局解释器锁，它可以对多核机器的性能产生巨大影响。

如果你真的很需要多线程python，你可能会考虑使用Jython或其他东西。

我认为这有点回避你的问题，但是为什么不把它们分成进程呢?我对网络的理解(从以前模糊的日子里，我根本就没有编写网络代码)是每个传入的连接都可以作为一个单独的进程来处理，因为如果有人在您的进程中做了一些讨厌的事情，它不会破坏整个程序。

和CPU内核一样多的线程是我经常听到的。

有些人会说两个线程太多了-我不属于那个阵营:-)

我的建议是:衡量，不要猜测。一个建议是将其设置为可配置，并最初将其设置为100，然后将软件发布到野外并监视发生的情况。

如果线程使用的峰值是3，那么100就太多了。如果一天的大部分时间都保持在100，那就把它提高到200，看看会发生什么。

实际上，您可以让您的代码本身监视使用情况，并在下次启动时调整配置，但这可能是多余的。

为了澄清和阐述:

我不提倡滚动您自己的线程池子系统，务必使用您现有的线程池子系统。但是，由于您正在询问线程的良好分界点，我假设您的线程池实现能够限制创建的线程的最大数量(这是一件好事)。

我已经编写了线程和数据库连接池代码，它们具有以下特性(我认为这对性能至关重要):

活动线程的最小数量。 线程的最大数目。 关闭一段时间没有使用的线程。

第一个设置线程池客户机的最低性能基线(这个线程数量总是可用的)。第二个设置活动线程使用资源的限制。第三种是在安静的时候让你回到基线，以尽量减少资源的使用。

您需要平衡拥有未使用线程的资源使用(A)和没有足够线程执行工作的资源使用(B)。

(A)通常是内存使用情况(堆栈等)，因为不做任何工作的线程不会使用太多CPU。(B)通常会延迟处理请求，因为他们到达，因为你需要等待一个线程变得可用。

这就是为什么要测量。在此过程中，绝大多数线程将等待数据库的响应，因此它们不会运行。有两个因素影响您应该允许多少线程。

第一个是可用的DB连接数量。这可能是一个硬限制，除非您可以在DBMS中增加它——我将假设您的DBMS在这种情况下可以接受无限数量的连接(尽管您也应该理想地测量它)。

那么，线程的数量应该取决于历史使用情况。您应该运行的最小值是您曾经运行过的最小值+ A%，具有绝对最小值(例如，并使其像A一样可配置)5。

最大线程数应该是历史最大值+ B%。

您还应该监视行为变化。如果由于某种原因，您的使用率在很长一段时间内达到了可用容量的100%(因此会影响客户机的性能)，那么您应该提高允许的最大值，直到它再次高B%。

在回答“我究竟应该测量什么?”的问题时:

您应该具体测量的是负载下并发使用的线程的最大数量(例如，等待DB调用的返回)。然后添加一个10%的安全系数(强调一下，因为其他海报似乎把我的例子作为固定的建议)。

此外，这应该在生产环境中进行调优。事先进行估计是可以的，但您永远不知道生产过程中会出现什么情况(这就是为什么所有这些东西都应该在运行时可配置)。这是为了捕捉一种情况，例如意想不到的双倍客户端调用。