Allison Janney è nata a Boston, nel Massachusetts da un'ex attrice e casalinga, Macy Brooks Putnam, e dal musicista jazz Jervis Spencer Janney Jr.[3]
È cresciuta a Dayton, in Ohio, dove ha frequentato la Miami Valley, e successivamente la scuola di Hotchkiss nel Connecticut. Ha poi frequentato il Kenyon College di Gambier, sempre in Ohio, dove ha incontrato Paul Newman, che successivamente l'ha diretta nello spettacolo dell'inaugurazione del nuovo teatro Bolton dedicato alla scuola. Newman e sua moglie, Joanne Woodward, hanno incoraggiato Janney a continuare con la recitazione. Ha poi frequentato la Neighborhood Playhouse di New York e ha fatto dei programmi estivi presso l'Accademia Reale di Arte Drammatica di Londra.
La sua prima apparizione televisiva è stata nella commedia Morton & Hayes (1991), dove ha interpretato il ruolo della moglie di Eddie Hayes. Successivamente è passata alle soap opera: ha iniziato a recitare nel ruolo di Vi Kaminski in Così gira il mondo, a cui è seguito per due anni il ruolo di Ginger in Sentieri. Nella primavera del 1994, è apparsa nel finale della quarta stagione di Law & Order - Unità vittime speciali, nel ruolo di una testimone riluttante contro un membro della mafia russa.
Nel 1999 è stata scelta per il ruolo di portavoce della Casa BiancaC.J. Cregg nel dramma televisivo West Wing - Tutti gli uomini del Presidente, per cui ha vinto quattro Emmy Awards, due come attrice non protagonista nel 2000 e nel 2001, e due come miglior attrice protagonista nel 2002 e nel 2004. È stata candidata agli Emmy anche nel 2003 e nel 2006 come attrice protagonista in una serie drammatica.
Ha vinto anche due Screen Actors Guild Award per la migliore attrice in una serie drammatica, nel 2001 e nel 2002. Il cast di The West Wing ha vinto il premio Screen Actors Guild Award per il miglior cast in una serie drammatica negli stessi due anni. Altri riconoscimenti per il lavoro di Janney in The West Wing includono quattro candidature ai Golden Globe e una candidatura nel 2002 per come attrice dell'anno del American Film Institute. Nel gennaio 2006 il cast di West Wing è stato nuovamente candidato dalla Screen Actors Guild per la performance come miglior cast.
Nel 2006 Janney è stata candidata per un Independent Spirit Award per la sua performance nel film Our Very Own. Nel 2007 è apparsa in Juno, interpretando la parte di Bren MacGuff, la matrigna del personaggio del titolo, per la quale ha vinto come miglior attrice non protagonista negli Austin Film Critics Association Awards 2007. Nello stesso anno, è apparsa nel film Hairspray - Grasso è bello dove ha interpretato Prudy Pingleton, madre rigorosa e religiosa di Penny (Amanda Bynes).
Rimasta attiva in teatro, nel 1998 è stata candidata al Tony Award per il suo ruolo in Uno sguardo dal ponte di Arthur Miller. Il suo primo ruolo a Broadway fu in Presentation Laughter, assieme a Frank Langella. Alla fine del 2008 è entrata a far parte del cast con Stephanie J. Block, Megan Hilty e Marc Kudisch nel musical Dalle 9 alle 5... orario continuato, nel ruolo di Violet Newstead, interpretata da Lily Tomlin nel film originale. Grazie a questa parte è stata candidata per il Premio Tony per la Migliore Attrice Protagonista in un Musical e ha vinto il Drama Desk Award per la Migliore Attrice in un Musical.
Nel maggio 2010 è apparsa nell'episodio della serie televisiva ABC Lost come madre adottiva di Jacob e dell'Uomo in nero. Nel 2014 ha vinto due Emmy Awards. Per il suo ruolo nella serie Mom, con Anna Faris, ha vinto come miglior attrice non protagonista in una serie comica, mentre per il suo ruolo ricorrente in Masters of Sex ha vinto come attrice guest star di una serie di drammatica.
Dal 2015 al 2018 ha avuto una relazione con il coordinatore della produzione IATSE Philip Joncas.[9] In un'intervista del 2021 ha dichiarato che pur essendo single e non avendo avuto figli, si sente realizzata e felice, e che non ha mai escluso di potere vivere un legame duraturo con un'altra persona: "Mi piacerebbe trovare eventualmente una persona con la quale condividere la vita, ma se non dovesse succedere va bene ugualmente"[10].
Nelle interviste relative al suo ruolo in Mom, Janney ha parlato del fratello, che ha combattuto la dipendenza dall'alcool e si è suicidato.[11][12]