Тестирование кластерного режима PM2 nodeJS с тестом apache

Я установил одно приложение nodeJS, у которого есть только один маршрут '/', и я использую Nginx в качестве обратного прокси. Итак, поток приложения выглядит следующим образом:

  • Пользователь отправляет запрос на сервер Nginx.
  • И согласно местоположению '/' сервер Nginx передает запрос на сервер узла.

Из nodeJS маршрут '/' отправляет один HTML-файл в качестве ответа клиенту. Для нагрузочного тестирования я использовал тест apache.

Команда тестирования Apache, используемая для тестирования:

ab -k -c 250 -n 10000 http://localhost/

Пожалуйста, проверьте ответ теста apache в следующих двух случаях:

Случай 1. Когда режим кластеризации не включен. (Без pm2, простой сервер nodeJS без кластеризации, например node index.js)

rails@rails-laptop:~$ ab -k -c 250 -n 10000 http://localhost/
This is ApacheBench, Version 2.3 <$Revision: 1706008 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/

Benchmarking localhost (be patient)
Completed 1000 requests
Completed 2000 requests
Completed 3000 requests
Completed 4000 requests
Completed 5000 requests
Completed 6000 requests
Completed 7000 requests
Completed 8000 requests
Completed 9000 requests
Completed 10000 requests
Finished 10000 requests


Server Software:        nginx/1.10.3
Server Hostname:        localhost
Server Port:            80

Document Path:          /
Document Length:        134707 bytes

Concurrency Level:      250
Time taken for tests:   9.531 seconds
Complete requests:      10000
Failed requests:        0
Keep-Alive requests:    10000
Total transferred:      1350590000 bytes
HTML transferred:       1347070000 bytes
Requests per second:    1049.26 [#/sec] (mean)
Time per request:       238.264 [ms] (mean)
Time per request:       0.953 [ms] (mean, across all concurrent requests)
Transfer rate:          138390.37 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0    0   0.8      0       6
Processing:    38  237  77.6    213     626
Waiting:       31  230  73.8    209     569
Total:         44  237  77.5    213     626

Percentage of the requests served within a certain time (ms)
  50%    213
  66%    229
  75%    247
  80%    280
  90%    373
  95%    395
  98%    438
  99%    538
 100%    626 (longest request)

Случай 2. Когда режим кластеризации PM2 включен. (pm2 start index.js -i 4 (4 cluster))

rails@rails-laptop:~$ ab -k -c 250 -n 10000 http://localhost/
This is ApacheBench, Version 2.3 <$Revision: 1706008 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/

Benchmarking localhost (be patient)
Completed 1000 requests
Completed 2000 requests
Completed 3000 requests
Completed 4000 requests
Completed 5000 requests
Completed 6000 requests
Completed 7000 requests
Completed 8000 requests
Completed 9000 requests
Completed 10000 requests
Finished 10000 requests


Server Software:        nginx/1.10.3
Server Hostname:        localhost
Server Port:            80

Document Path:          /
Document Length:        134707 bytes

Concurrency Level:      1
Time taken for tests:   14.109 seconds
Complete requests:      10000
Failed requests:        0
Total transferred:      1350540000 bytes
HTML transferred:       1347070000 bytes
Requests per second:    708.79 [#/sec] (mean)
Time per request:       1.411 [ms] (mean)
Time per request:       1.411 [ms] (mean, across all concurrent requests)
Transfer rate:          93481.05 [Kbytes/sec] received

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:        0    0   0.1      0       9
Processing:     1    1   1.2      1      35
Waiting:        0    1   0.9      1      21
Total:          1    1   1.2      1      35

Percentage of the requests served within a certain time (ms)
  50%      1
  66%      1
  75%      1
  80%      1
  90%      2
  95%      3
  98%      5
  99%      6
 100%     35 (longest request)

Теперь, если вы сравните количество запросов в секунду в обоих сценариях, вы увидите, что запросов в секунду (1049,26 [# / сек] (среднее)), когда не используется режим кластера выше, чем режим кластера pm2 (708,79 [# / сек] (среднее)). Не понимаю, почему так? Насколько мне известно, режим кластеризации используется для достижения более высокого уровня параллелизма, но почему в результате возникает конфликт?


person Shubham    schedule 14.03.2020    source источник
comment
Сколько ЦП у компьютера? Меня не интересует, есть ли только один процессор и производительность при кластеризации падает. Кроме того, как я понял, то, что вы делаете, - это только задача сети, поэтому узкое место не обрабатывается, в этом случае кластеризация ничего не делает. Прежде чем отвечать, попробуйте произвести трудоемкие вычисления и проверьте контрольную отметку.   -  person karianpour    schedule 14.03.2020
comment
Это 4-ядерный процессор.   -  person Shubham    schedule 15.03.2020


Ответы (1)


Я пробовал кластеризовать с разными параметрами:

  • нет процесса

  • расчет

    for(let i = 1; i <= 50000000; i++){
       r += i;
    }
    
  • отправка файла

  • количество одновременных запросов

Вот репозиторий git

Вот мой вывод:

  • для обслуживания файлов кластеризация не имеет смысла. Я думаю, что сеть здесь является узким местом, и кластеризация здесь не помогает.
  • для вычислений имеет смысл кластеризовать, потому что это держит цикл событий занятым, а если вы кластеризуете, у вас есть несколько циклов событий, которые должны быть заняты. Во время тестирования с расчетом я проверил процессы ядер сервера с помощью htop и посчитал, что такое же количество кластеров, которые у меня были на 100% загружены ЦП. Производительность умножается на количество кластеров, например, если я сделал кластер из 6 узлов, производительность стала в 6 раз больше.
  • нет смысла кластеризовать больше ядер ЦП, чем у вас есть на машине. Рекомендую зарезервировать одно ядро ​​под ОС.

Я создал репозиторий и в файле readme написал подробные результаты .

person karianpour    schedule 18.03.2020