Iniziarono a condurre vita comune a El Abiodh Sidi Cheikh, in Algeria, e a seguire la regola elaborata da Charles de Foucauld nel 1899, che prevedeva la clausura e l'adorazione eucaristica: volendo imitare più da vicino lo stile di vita di de Foucauld, che aveva assistito soprattutto materialmente le popolazioni del Sahara, vivendo a stretto contatto e lavorando insieme a loro, abbandonarono la rigida interpretazione della regola.[2]
L'istituto dei Piccoli Fratelli di Gesù venne eretto in istituto di diritto diocesano da Gustave Nouet, prefetto apostolico di Ghardaïa, il 19 marzo 1936; ricevette il pontificio decreto di lode il 13 giugno 1968.[2]
I Piccoli Fratelli conducono una vita di povertà, condividendo la sorte degli strati più umili della popolazione e svolgendo lavori manuali; esercitano l'apostolato tra i diseredati e negli ambienti meno penetrabili dalla normale azione pastorale. Spesso vivono in appartamenti. Il loro abito tradizionale consiste in una tunica e scapolare bianchi o grigi, con un cuore rosso sormontato da una croce ricamato sul petto.
