Początki osadnictwa na tym terenie datują się od XI–XII w. W miejscu obecnego Landwarowa wcześniej funkcjonowała osada Pietuchowo. Dzisiejsza nazwa ma pochodzenie niemieckie i wywodzi się prawdopodobnie ze słów „Land” (ziemia, kraj) i „Warte” (warta, straż). Znane są różne jej wersje: Littawarów, Liutawarow, Litavoriškes, Lietuwaryszki, Landwerow, Landwerów oraz Landvare.
Ziemie te często zmieniały właścicieli – ówczesne Lietuwaryszki należały m.in. do rodzin Kuncewiczów, Sapiehów, Naruszewiczów, do wileńskiego zakonu benedyktynów, Chodkiewiczów, Francuzewiczów, Hryniewiczów, Dąbrowskich. W 1850 nabył je Józef Tyszkiewicz wraz z małym zamkiem z XVII wieku oraz 4 folwarkami (Karpiówką, Pietuchowem, Raczkunami i Ustroniem). Zmienił wtedy nazwę Pietuchowa na Landwarów, a dotychczasową nazwą zaczęto określać inną osadę w okolicy.
Po agresji ZSRR na Polskę 1939 Landwarów przekazano Litwie, w latach 1940–1941 włączono do Związku Radzieckiego, 1941–1944 pod okupacją niemiecką, 1944–1991 ponownie w granicach ZSRR, od 1990 należy do Republiki Litewskiej.
W okresie po II wojnie światowej i utracie miasta przez Polskę do 1 listopada 1946 z rejonu landwarowskiego wysiedlono ok. 5,5 tys. Polaków i przeniesiono na ziemie mieszczące się w obecnych granicach Polski, natomiast ok. 6,3 tys. zarejestrowanych do przesiedlenia Polaków pozostało w rejonie landwarowskim[2]. Według danych litewskich w 2011 Polacy stanowili 25,75% mieszkańców Landwarowa[3].
Prawa miejskie Landwarów otrzymał w 1949, herb w 2001.
W latach 1953–1993 w najbliższej okolicy mieściła się baza rakietowa Armii Czerwonej.