Zur New York Times kam er 1984 und arbeitete für sie in Washington. 1986 wurde er Reporter in Moskau und 1988 wurde er Leiter des dortigen Büros. 1989 erhielt er den Pulitzer-Preis für seine Reportagen aus der Sowjetunion. 1992 wurde er Chef der Zeitung in Johannesburg und blieb es bis 1995. 1995 wurde er foreign editor und 1997 managing editor. Den Abschluss des Advanced Management Programs an der University of Pennsylvania machte er 2000. 2001 wurde er dann Kolumnist und Senior Writer. Ab Juli 2003 war er als Chefredakteur für die New York Times verantwortlich.
Anfang Juli 2011 kündigte Keller seinen Rücktritt auf den 6. September 2011 an; Nachfolgerin wurde Jill Abramson. Keller arbeitet weiter im Unternehmen und wird unter anderem als Autor für das New York Times Magazine schreiben.[1][2] Keller ist heute (Stand 2016) Chefherausgeber des Marshall Project, einer Non-Profit-Organisation für Journalismus über Strafjustiz.[3]