Es muy dependiente del procesador, como era de esperar.
En general, el hardware del procesador aparece en alguna configuración predeterminada y luego comienza a ejecutarse desde una dirección de memoria particular. Lo que sucede después de eso depende del software.
Por lo general, la primera instrucción ejecutada es un tipo de software de salto al gestor de arranque, que luego prepara el hardware y carga la siguiente etapa de software. Repite ese proceso de configuración/carga tantas veces como quieras y listo: ¡estás en el SO!
Algunos procesadores son más configurables que otros y tienen opciones de flejado de hardware (o fusibles en silicio) que pueden controlar algunos de los parámetros de arranque. Otros han incorporado un código ROM que se ejecuta al encender o reiniciar el chip. Algunos chips se han integrado en la memoria, otros pueden configurar memoria externa automáticamente y otros requieren que se cargue el software para realizar incluso las tareas de arranque más básicas.
Si usted aclarar su pregunta un poco más, que podría ser capaz de llenar algunos detalles más sobre el proceso específico de un sistema que le interesa.