Fu monaco dell'abbazia di Pomposa, presso Ferrara, dove iniziò gli studi di teoria musicale, ma le sue innovazioni didattiche gli valsero l'ostilità dei confratelli; si stabilì allora ad Arezzo (1023 circa).
A quell'epoca i canti dovevano essere imparati a memoria dalla voce del maestro e non era possibile apprendere una melodia sconosciuta senza ascoltarla.
Guido d'Arezzo ideò il suo metodo pedagogico utilizzando l'Inno a San Giovanni:
Nell'inno le sillabe iniziali rappresentano non solo il nome delle note odierne, ma la loro intonazione relativa. Il cantore poteva quindi intonare a prima vista un canto mai udito prima, sostituendo il testo con queste sillabe.
Un altro espediente attribuito al monaco Guido, benché non si trovi il minimo accenno a questa pratica nei suoi scritti, è la "mano guidoniana": si usava associare le note della scala alle dita di una mano e alle loro articolazioni, probabilmente come aiuto alla memorizzazione.