Né à Rozoy-sur-Serre dans l'Aisne, il est le fils de Charles, Louis comte de Failly et de Sophie de Mons de Maigneux[1]. Il intègre l'École spéciale militaire de Saint-Cyr en 1826.
Il fait ses premières armes à Paris, dans l'affaire de la rue Transnonain, où il gagne une réputation de cruauté militaire. Le crayon de Daumier a reproduit l'épisode de la maison Doyen avec une singulière énergie.
Colonel au mois d', général de brigade le , il participe à la guerre de Crimée et revint général de division.
Il épouse en 1857 Felicité de Frézals de Bourfaud née à Compiègne (Oise) le .
En 1867, il est chargé d'arrêter net la tentative de Garibaldi sur les États romains ; c'est alors qu'après Mentana il écrit : « nos fusils Chassepot ont fait merveille », phrase qui lui est durement reprochée.
Le , méprisant les avertissements des habitants de Beaumont-en-Argonne, il se laisse surprendre, près de la Meuse, au moment où ses soldats mangent la soupe. Victime de l'impéritie de son chef, la division de Failly écrasée, découvre le corps principal de l'armée, en marche sur Sedan, et sa déroute précipite le désastre final. Failly est démis de son commandement, et se retrouve prisonnier après la capitulation de Sedan.
À son retour d'Allemagne, le général de Failly échappe au Conseil de guerre et se fait oublier avant de prendre sa retraite.