Тест веб-сервиса uwsgi + nginx + pypy

Question

Как лучше всего сравнить простой веб-сервис на python, развернутый с помощью uwsgi nginx и pypy?

Как я могу узнать ожидаемый средний результат в соответствии с моим оборудованием?

Я использовал AB:

root@# ab -kc 10 -n 1000 http://domain:8080/
This is ApacheBench, Version 2.3 <$Revision: 655654 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/

Benchmarking domain (be patient)
Completed 100 requests
Completed 200 requests
Completed 300 requests
Completed 400 requests
Completed 500 requests
Completed 600 requests
Completed 700 requests
Completed 800 requests
Completed 900 requests
Completed 1000 requests
Finished 1000 requests


Server Software:        
Server Hostname:        domain
Server Port:            8080

Document Path:          /
Document Length:        11 bytes

Concurrency Level:      10
Time taken for tests:   21.567 seconds
Complete requests:      1000
Failed requests:        0
Write errors:           0
Keep-Alive requests:    0
Total transferred:      55000 bytes
HTML transferred:       11000 bytes
Requests per second:    46.37 [#/sec] (mean)
Time per request:       215.673 [ms] (mean)
Time per request:       21.567 [ms] (mean, across all concurrent requests)
Transfer rate:          2.49 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:      103  109  63.1    104    1107
Processing:   103  105   1.6    105     109
Waiting:      103  105   1.6    105     109
Total:        206  214  63.2    209    1215

Percentage of the requests served within a certain time (ms)
  50%    209
  66%    210
  75%    210
  80%    215
  90%    216
  95%    216
  98%    216
  99%    216
 100%   1215 (longest request)

Но я не знаю, являются ли эти значения нормальными или нет. Мне кажется, очень, очень медленно. 46 об / с только 10 одновременных подключений?

когда я использую 100 одновременных подключений, мой веб-сервер падает и не отвечает

Где я неправ?

Когда я использовал 1000 одновременных подключений, ab не может закончить тест.

Completed 1000 requests
Completed 2000 requests
Completed 3000 requests
Completed 4000 requests
Completed 5000 requests
Completed 6000 requests
Completed 7000 requests
Completed 8000 requests
Completed 9000 requests
apr_socket_recv: Connection reset by peer (104)
Total of 9894 requests completed

Начал UWSGI в virtal env:

uwsgi --http :8080 --wsgi-file foobar.py --master --processes 4 --threads 2 --stats :9191

Мой hw: 2 ГБ оперативной памяти, 2 ядра (линод 2 ГБ)

Answer 1

Новое здесь, но я постараюсь помочь. Цифры, которые вы видите, нормальные, и я не думаю, что вы что-то неправильно настроили. 10 одновременных подключений означают, что в тесте десять одновременно работающих потоков делают запросы одновременно. Частота запросов / секунд, которые вы видите, на самом деле является числом полученных запросов, а не скоростью ответов вашего сервера.

Чтобы понять скорость вашего сервера, вы должны посмотреть на "Время на запрос", которое является временем ответа. Это время, которое требуется одному одновременно подключенному потоку, чтобы сделать запрос и получить полный ответ. В этом случае 215 мс - это хорошее среднее значение. Приведенная ниже разбивка особенно полезна, поскольку показывает, что 90% запросов было обработано менее 216 мс, что близко к среднему значению, и показывает, что скорость ответов вашего сервера довольно постоянна. Попробуйте увеличить количество одновременных процессов или количество запросов, которые отправляет каждый процесс. Это увеличит ваш запрос / секунду и увеличит нагрузку на ваш сервер. Затем вы можете определить, какое время ответа следует ожидать с определенным количеством запросов в секунду (нагрузка на трафик в реальном времени).

Надеюсь это поможет!