Les premières années de son ministère sacerdotal ont été consacrées au monde des jeunes. Il a en effet été pendant cinq ans aumônier de lycée (de 1963 à 1968), puis pendant cinq autres années membre d'une équipe de prêtres chargés des jeunes (de 1968 à 1973).
En 1973, il devient directeur adjoint de la catéchèse, puis, en 1977, responsable du Centre de pastorale sacramentelle.
En 1982, il est nommé délégué général pour le monde scolaire et universitaire et en 1983,vicaire général dudiocèse de Paris.
Nommé évêque auxiliaire de l'archevêque de Paris le, il est consacré le suivant par lecardinalLustiger, archevêque de Paris. Le, il est nommé évêque coadjuteur dePoitiers. Il en devient évêque titulaire le, jour du décès deJoseph Rozier, et devientarchevêque de Poitiers le. Ayant atteint la limite d'âge de 75 ans, il présente sa démission au papeBenoît XVI qui l'accepte le.
Au sein de laConférence des évêques de France, il a été responsable de la Commission sociale des évêques de France et membre du Conseil permanent. Il est actuellement membre du Comité« Études et projets ».
« La religion catholique n'a de rôle présentable que politique. », Albert RouetLe Nouvel observateur,
« L'islam ne doit pas être une excuse pour nous détourner de nos propres dysfonctionnements. », Albert Rouet,,Jeune Afrique[1]
« L'Église est menacée de devenir une sous-culture. Ma génération était attachée à l'inculturation, la plongée dans la société. Aujourd'hui, le risque est que les chrétiens se durcissent entre eux, tout simplement parce qu'ils ont l'impression d'être face à un monde d'incompréhension. Mais ce n'est pas en accusant la société de tous les maux qu'on éclaire les gens. », Albert Rouet,Le Monde,
Vous avez fait de moi un évêque heureux (entretiens avec Albert Rouet réalisés par Marc Taillebois et Éric Boone). Editions de l'Atelier, 2011.
Vers une Église de la confiance (ouvrage collectif avec Carole Benoist, Loïc Buthaud, Thomas Duranteau, Stéphane Marcireau, Sylvain Marmasse, Jean-Yves Meunier et Bertrand Parisot). Paris :Éditions Bayard, 2011