Johan Kleen föddes som son till kvartermästaren Anderas Kleen (1758–1809) och Anna Sofia Kallenberg (1760–1835). Kleen blev student vid Lunds universitet 1818 och filosofie magister 1823. Samma år utnämndes han till underlöjtnant vid Ingenjörkåren och befordrades till löjtnant 1830. Åren 1830–1833 var han arbetsbefälhavare vid Karlsborgs fästning och därefter reste han runt i Europa för att studera ingenjörsväsendet.
Efter en resa till Krim 1855 för att informera sig om det pågående Krimkriget utsågs han samma år till leda mot av Kommittén för Stockholms och Mälardalens befästande. Efter att 1858 blivit överstelöjtnant vid Ingenjörskåren och överste i armén utsågs han i slutet av samma år till generalmajor och chef för Ingenjörskåren, en post som han innehade till 1868, då han begärde avsked. Under tiden ritade han och ledde arbetet med slutvärnet vid Karlsborgs fästning[6]. Han utnämndes då till generallöjtnant i armén. År 1869 erhöll han avsked ur krigstjänsten.
År 1848 utsågs han till ledamot av Kungliga Vetenskapsakademien. Han tog aktiv del i uppförandet och utformningen av Nationalmuseums[7] byggnad i Stockholm och 1850–1863 var han chef för byggandet av Nationalmuseibyggnaden i Stockholm. Han adlades 1858, introducerad 1859 under namnet af Kleen och blev 1874 filosofie jubeldoktor. Vid sidan av sitt militära arbete var han verksam som tecknare bland annat skapade han den färglagda litografin Tegnér till häst som har återgivits i ett flertal bokverk.
1. Med 1809 års regeringsform infördes § 37 som begränsar adel-, friherr- eller grevskapet till primogenitur. Den äldste manlige bröstarvingen (äldste sonen eller, i brist på söner, närmaste annan manlig ättling) blir då adlig, friherrlig eller greve efter faderns död.