并发量和吞吐量_延迟，吞吐量和并发度

没有一个简单的问题，所以我回复了一个帖子。

持续吞吐量

我认为吞吐量是一个流程可以在10秒到一天之间的持续时间内执行的操作数。 （假设您有一个相当长的夜晚需要赶上来），我将其度量为每秒的操作数或每秒的兆字节（MB），但是我认为测试需要运行一秒钟以上才能保持健壮。 较短的测试仍然可以报告X / s的吞吐量，但这可能是不现实的，因为系统被设计为使用缓存和缓冲区主动处理突发事件。 如果仅测试一种行为，则会得到一个数字，该数字假定系统上没有其他东西在运行，并且这些缓冲区的限制并不重要。 当您在执行其他操作的真实计算机上运行真实应用程序时，它们将无法充分利用高速缓存，缓冲区，内存和带宽，并且您可能无法获得2-3倍的持续吞吐量，更不用说更乐观的突发吞吐量了。 SATA HDD可以报告500 MB /秒的突发吞吐量，但它可能只能达到40 MB / s的持续速度。 运行真实程序时，您可能会希望获得15-25 MB /秒的速度。

潜伏

有两种报告延迟的方法。 单向延迟和往返延迟（或往返时间）。 通常会报告第一个，因为它较少，但是由于两端都需要同步时钟，因此很难准确测量。 因此，您经常测量往返延迟（因为您只能使用一个准确的时钟），并且可能将其减半以推断单向延迟。 我倾向于对实际应用程序的期望感兴趣，而较高的往返延迟通常是更好的指示。

延迟的一种常见度量是取吞吐量的倒数。 尽管这更容易计算，但只能与以这种方式测量的其他测试相比较，因为它只能为您提供最乐观的延迟视图。 例如，如果您通过环回上的TCP异步发送消息，则每秒可能能够发送20