Em 1930, ele e Eileen se divorciaram amigavelmente. Em 1931 ele se casou com a atriz Carole Lombard. Ficaram casados por apenas dois anos, divorciando-se em 1933. Mas mantiveram-se em bons termos e chegaram a estrelar juntos um filme alguns anos depois.
Talvez o papel mais famoso de Powell tenha sido o de Nick Charles nos seis filmes da série Thin Man. O papel dava uma oportunidade perfeita para que Powell mostrasse seu charme e senso de humor sofisticados. Powell recebeu sua primeira indicação ao Oscar em 1934 por seu desempenho em Thin Man. Myrna Loy intepretou sua esposa em todos os filmes da série. Sua parceria com Powell constituiu uma das duplas mais prolíficas das telas de Hollywood: o casal apareceu junto em 14 filmes.
Em 1935 ele estreou o filme Reckless com Jean Harlow, e se tornaram bons amigos. Logo a amizade se transformou em um romance sério, mas ela morreu antes que eles pudessem se casar. Sua tristeza com a morte dela, bem como a batalha com seu próprio câncer no intestino, fez com que ele diminuisse sua carga de trabalho.
Em 6 de janeiro de 1940 ele se casou com a atriz Diana Lewis, que ele chamava carinhosamente de Mousie, ou "Ratinha". O casal se conheceu três semanas antes de casar. Apesar disso, eles permaneceram casados até a morte de Powell em 1984.
Sua carreira desacelerou consideravelmente na década de 1940, apesar de em 1947 ter recebido sua terceira indicação ao Oscar pelo trabalho em Life with Father (filme). Seu último filme foi Mister Roberts, em 1955, com Henry Fonda. Apesar de muitas tentativas de fazê-lo retornar às telas, Powell recusou todas as ofertas, tão feliz estava com sua aposentadoria.