Si profundizamos un poco en cómo ocurren las cosas, encontramos varios niveles:

Núcleos

En el hardware, la CPU se divide en núcleos. Son varios procesadores conectados entre sí.

Procesos

Un núcleo puede ejecutar procesos. Gestionarlos es principalmente responsabilidad del sistema operativo.

Hilos

Un proceso puede iniciar distintos hilos de ejecución. Un hilo es una «unidad de trabajo» que se procesa en paralelo. Si la CPU tiene varios núcleos, un hilo se ejecutará en otro núcleo y será «realmente paralelo». Si no tiene varios núcleos, alternará entre los hilos, procesando un poco de cada uno por turno.

Nota: en realidad, el ordenador siempre funciona así. Cambia constantemente entre procesos e hilos, pero lo hace tan deprisa que no lo notas.