Приложение представляет собой asp.net Core WebAPI. Мы используем jmeter с taurus для запуска тестов на агенте в azure devops. При нагрузочном тестировании API мы видим скачки времени отклика, даже если конечная точка сразу возвращает OK в первой строке кода.
Всплески начинают происходить при ~ 20 ударах в секунду.
Что мы пробовали:
- Масштабирование службы приложений (план более высокого уровня) и добавление нескольких экземпляров.
- Настройка пула потоков в соответствии с рекомендациями.
Результат теста: Когда мы достигаем ~20 обращений в секунду, время отклика увеличивается с 50 мс до почти 20 секунд.