Giovanni era bisbe de Sabina quan va ser escollit papa mitjançant pagament, per part la família dels Crescenzi. L'anterior papa, Benet IX, s'havia vist obligat a fugir de Roma després d'una revolta popular encapçalada per un capità de la ciutat, Gerardo di Sasso.
Benet el va declarar antipapa i va aconseguir recuperar el tron papal el 10 d'abril del 1045, gràcies a l'ajuda dels comtes de Túsculum, familiars seus. Silvestre III es va refugiar a la seva diòcesi de Sabina reprenent-hi les funcions de bisbe, fins que en un concili celebrat a Sutri el 20 de desembre del 1046, al qual va assistir l'emperador Enric III, se'l va privar de la dignitat papal i se'l va recloure en un monestir.
Aquesta sentència va ser suspesa, ja que Silvestre va continuar exercint com a bisbe de Sabina fins com a mínim l'any 1062 segons els registres oficials de la diòcesi en què no consta un nou bisbe fins a l'octubre de 1063.
El fet que fos elegit per imposició, i també que fos oficialment deposat en un concili, serien causes suficients per considerar-lo antipapa. Tanmateix, l'Església Catòlica el considera un papa legítim.