Смущает среднее время ответа и соотношение вызовов в секунду

Question

У меня среднее время отклика, скажем, 10 секунд, также у меня есть максимальное количество параллельных соединений, которые может обработать моя служба, скажем, его 10. Теперь, как рассчитать значение вызовов в секунду (CPS), которое моя служба обработала из этих данные?

Я предполагаю, что это 1 / 10 (= время AV) = 0,1 CPS или 1/10 (время AV) * 10 (параллельные потоки) = 1 CPS.

Answer 1

Если вы просто измеряете среднюю пропускную способность, тогда да, 10 вызовов за 10 секунд - это 1 в секунду.

Ваши пользователи / потребители также могут быть (более) обеспокоены задержкой (средним временем ответа), которая составляет 10 секунд для всех из них.

Как отмечается в комментарии, среднее значение - это только часть истории. Как ваша служба справляется с пиковыми нагрузками - резко ли снижается пропускная способность после определенного момента или снижение нагрузки становится более плавным при увеличении нагрузки? Является ли 10 секунд наилучшим возможным временем отклика или оно лучше в условиях низкой нагрузки? Хуже при высокой нагрузке?

Здесь есть несколько старых, но полезных рекомендаций, нацеленных на.Net, но представляющих общий интерес.