En el 931 fallece su esposa Oneca, hecho que afectó profundamente a Alfonso. Este decidió abdicar del trono en favor de su hermano Ramiro II y se retiró al monasterio de Sahagún, de ahí su apodo “El Monje”.
Meses después, descontento con su nueva vida monástica y con los acontecimientos que sucedían en el reino, Alfonso intentó recuperar el trono con el apoyo de algunos nobles. Esta rebelión fracasó, y fue hecho prisionero por su hermano Ramiro II. Por su rebelión, Alfonso IV, Alfonso Froilaz y sus hermanos fueron cegados como castigo, y sus posesiones fueron repartidas. Alfonso IV pasó el resto de sus días en el monasterio de Ruiforco de Torío, que había sido construido por su abuelo décadas atrás.