¿Se vuelven más lentas las operaciones atómicas a medida que se agregan más CPU?

Question

x86 y otras arquitecturas proporcionan instrucciones atómicas especiales (bloqueo, cmpxchg, etc.) que le permiten escribir estructuras de datos "sin bloqueo". Pero a medida que se agregan más núcleos, parece que el trabajo que estas instrucciones realmente tendrán que hacer detrás de las escenas crecerá (¿al menos para mantener la coherencia de la memoria caché?). Si un agregado atómico lleva ~ 100 ciclos hoy en día en un sistema dual core, ¿podría tomar mucho más tiempo en las 80 máquinas centrales del futuro? Si está escribiendo código para durar, ¿podría ser una mejor idea usar bloqueos incluso si son más lentos hoy?

Answer 1

Tiene razón en que las limitaciones de topología aumentarán, de una forma u otra, la latencia de la comunicación entre los núcleos, una vez que los recuentos comiencen a ser superiores a un par de docenas. Realmente no sé cuáles son las intenciones de las compañías x86 para lidiar con ese tipo de escala.

Pero los bloqueos se implementan en términos de operaciones atómicas. Entonces, realmente no ganas intentando cambiar a ellos, a menos que se implementen de una manera más escalable que lo que se intentaría con tus propias operaciones atómicas laminadas a mano. Creo que, en general, para las contiendas tipo token único, las primitivas atómicas siempre serán la forma más rápida, independientemente de la cantidad de núcleos que tenga.

Como Cray descubrió hace mucho tiempo, aquí no hay almuerzo gratis. El diseño de software de alto nivel, donde intenta utilizar recursos potencialmente polémicos de la forma más infrecuente posible, siempre generará el mayor pago en aplicaciones masivamente paralelizadas. Esto significa hacer tanto trabajo como sea posible como resultado de una adquisición de bloqueo, pero lo más rápido posible también. En situaciones extremas, esto puede significar calcular previamente su trabajo en el supuesto de un bloqueo adquirido con éxito, tratar de agarrarlo, y simplemente completar lo más rápido posible el éxito, de lo contrario, se descarta su trabajo y se reintenta al error.

Answer 2

Para la pregunta planteada en el título, la respuesta breve es "sí", la respuesta larga es "es complicado".

Con respecto a las cerraduras es mejor, no. Internamente, un bloqueo tiene que empujar al menos tanto tráfico (si no más) sobre el bus. Piénselo de esta manera, si el procesador solo tiene una operación atómica, una comparación atómica y un intercambio, podría usarla para implementar bloqueos e incrementos atómicos. Bueno, en el nivel de protocolo de bus, solo hay algunas primitivas que se usan. Los bloqueos no son más lentos que las operaciones atómicas porque están haciendo algo diferente, son más lentos porque hacen más de lo mismo (desde el punto de vista de la coherencia). Así que a medida que las operaciones atómicas disminuyen, las cerraduras tenderán a desacelerarse de forma comparable.

Habiendo dicho eso, hay montones de documentos sobre el tema y los casos particulares son complicados. No me preocuparía cómo se va a escalar su código en las CPU de 80 núcleos que tienen características de rendimiento impredecibles (porque no sabemos cómo se diseñarán). O se comportarán como nuestras CPU actuales y tu código funcionará bien, o no lo harán, y lo que sea que hayas adivinado ahora resultará incorrecto. En la mayoría de los casos, resultará que el código no es sensible al rendimiento de todos modos, por lo que no importa, pero si lo hace, lo apropiado será arreglarlo en el futuro cuando comprenda las características arquitectónicas y de rendimiento. de tus procesadores objetivo

Answer 3

No creo que el problema sea que las operaciones atómicas tomarán más tiempo ellas mismas; el verdadero problema podría ser que una operación atómica podría bloquear las operaciones de bus en otros procesadores (incluso si realizan operaciones no atómicas).

Si quiere escribir el último código, intente evitar el bloqueo en primer lugar.

Answer 4

En una nota lateral a esta pregunta, vale la pena mencionar que el futuro al que se refiere ya es una tecnología presente en las GPU.una GPU Quadro moderna tiene hasta 256 núcleos y puede pefrorm operaciones atómicas en la memoria global (pantalla).
No estoy seguro de cómo se logra esto, pero el hecho es que ya está sucediendo.