Sitio ASP.NET de alto rendimiento (> 1000 solicitud/segundo)

Question

Estoy escribiendo una API JSON ASP.NET de alto rendimiento con pronto> 1000 solicitud/segundo. Toda mi lógica y procesamiento se realiza en un IHttpHandler. Medí a través de la clase Cronómetro y el controlador termina una solicitud en alrededor de 0,1 - 0,5 milisegundos.

Pero parece que IIS y/u otros HTTPHandlers (¿Módulos?) Están quitando mucho rendimiento. ¿Puedo medir eso de alguna manera? ¿Cuánta sobrecarga generará una solicitud en IIS cuando se configura para obtener el mejor rendimiento?

¿Ayudará la eliminación de todos los HTTPHandlers, o hay otros trucos para acelerarlo? No necesito mucho del conjunto de características de ASP.NET además de la sesión (incluso podría dar una solución alternativa si proporciona un impulso significativo en el rendimiento).

Answer 1

Medir el rendimiento de un servidor web no es una tarea trivial. Algunas cosas a considerar:

• Encuentra el cuello de botella real. Esto puede ser memoria, acceso a disco, almacenamiento en caché, acceso a la base de datos, latencia de red, etc. Utilice un generador de perfiles de memoria u otro performance profiler para averiguarlo.
• Utilice WireShark para encontrar la diferencia entre la duración de la solicitud en su máquina y el tiempo de ejecución de su código.
• Pruebe otras configuraciones. Dale a ASP.NET más memoria. Actualiza el sistema de prueba. Es decir, pasar de 8GB/2.5GHz con 600 solicitudes/seg a 16GB/3.0GHz puede generar 6500 solicitudes/seg. El crecimiento del rendimiento a menudo no es lineal. Ver this document from Microsoft.
• Considera añadir una máquina extra. Esto puede producir hasta 50 o incluso una mejora de rendimiento más alta según cómo lo configure. Ver nuevamente ese documento de MS.
• Verificar these hints by Jon Skeet. El hilo de comentarios también revela algunos cuellos de botella potenciales no obvios.

NOTA 1: conozca sus herramientas. ASP.NET ejecuta cada solicitud en su propio hilo. El intercambio de subprocesos es más rápido que el intercambio de procesos, pero aún requiere tiempo. Si otros manejadores toman tiempo porque están en la cadena de solicitud, es beneficioso desactivarlos.

NOTA 2: uno de los objetivos secundarios originales de stackoverflow era crear un sitio en ASP.NET que tuviera un gran rendimiento en un máximo de 2 servidores y podría manejar> 1 millón de visitantes por hora. Ellos lograron hacer eso. Creo que escribieron algunos blogs, pero no recuerdo dónde están.

Answer 2

Esta es una muy buena pregunta. Me di cuenta de lo mismo una vez que ingresas al rango de tiempos de respuesta de un milisegundo, la sobrecarga de ASP.NET comienza a notarse. Puedo confirmar tu observación.

Lo que he hecho con éxito es averiguar qué HttpModules están registrados (usando el Administrador de IIS) y deshabilitar todos los que posiblemente podría deshacerse de ellos. La tubería ASP.NET estándar tiene una gran cantidad de módulos y funcionalidades configuradas.

Si necesita el máximo rendimiento, puede usar una pequeña biblioteca de servidor HTTP y deshacerse de casi todos los gastos generales de esa manera. Esto sería tan increíblemente rápido.