JAM Software (Jason and Andy's Magic[2]) est fondé en 1984 par Andy Gavin et Jason Rubin, alors qu'ils sont encore âgés de 12 ans[2] et travaillent dans leur « garage ». Les deux premiers jeux de l'équipe, Ski Crazed (1987) et le jeu d'aventure Dream Zone (1988) sont édités par Baudville. Leur troisième jeu, Keef the Thief (1989), un action-RPG, est produit par Electronic Arts et est le dernier de l'équipe à voir le jour sur ordinateurs personnels. Pendant le développement du jeu, Andy et Jason craignent que JAM Software ne soit associé à "Jams", une marque de short de plage qui gagne en popularité aux Etats-Unis dans les années 1980. Ils décident alors de changer de nom et optent pour Naughty Dog, en hommage à un personnage irrévérencieux du même nom inventé par Jason, qui devient leur mascotte[4].
Le prochain titre du studio, Rings of Power (1991), est l'une des premières productions de Electronic Arts à voir le jour sur la console Mega Drive. Rapidement tombé en rupture de stock, ce jeu de rôle n'est jamais réédité et acquiert un statut quasi-culte[réf. nécessaire]. Après une période de latence durant laquelle Andy Gavin et Jason Rubin terminent leur cursus universitaire, Naughty Dog se reforme à Boston pour travailler sur un projet autofinancé et « bon marché ». Way of the Warrior (1994), jeu de combat sanguinolent assez pauvre d'intérêt, est édité par Universal Interactive sur 3DO.
Naughty Dog connaît un nouveau départ en 1994 après un accord passé avec Universal Interactive pour trois jeux. La compagnie s'installe en Californie et prend une nouvelle dimension en recrutant du personnel qualifié. Pendant deux années, le studio développe son premier jeu en 3D. Mark Cerny, alors président de Universal Interactive Studios, apporte sa contribution à l'élaboration du projet et demeure par la suite un proche collaborateur du studio. Le jeu de plates-formes Crash Bandicoot voit le jour en 1996 sur PlayStation. Il connaît un important succès critique et commercial, et s'établit comme une série phare, dont les ventes sous l'ère Naughty Dog s'élèvent à plus de 22 millions d'exemplaires[5]. C'est la franchise la plus populaire sur PlayStation après Gran Turismo et Final Fantasy, et son succès est sans précédent au Japon pour un titre d'origine occidentale. Sony Computer Entertainment est l'éditeur de la série sous l'ère PlayStation, Universal Interactive restant propriétaire des droits de la franchise[6]
En janvier 2001, Naughty Dog devient une filiale de Sony Computer Entertainment[3]. Le studio s'attèle à une nouvelle série de jeu de plates-formes/action, Jak and Daxter, qui connaît un important succès sur PlayStation 2. En 2004 et 2005, Jason Rubin et Andy Gavin quittent la direction de Naughty Dog. Evan Wells et le français Christophe Balestra les remplacent en tant que co-présidents, tandis qu'Amy Hennig intègre l'équipe en qualité de directeur créatif. À partir de 2007, la société crée et développe sur PlayStation 3 une nouvelle série à l'univers plus réaliste, Uncharted. Celle-ci connaît un grand succès, notamment grâce à la maîtrise technique du studio — Uncharted 2 et sa suite L'Illusion de Drake sont considérés par de nombreux critiques comme parmi les plus beaux jeu de la PlayStation 3[réf. nécessaire].
Naughty Dog héberge ICE Team, un des groupes technologiques de SCE Worldwide Studios qui développent des outils pour les studios internes de Sony travaillant sur PS3[7],[8].
Le 1er mars 2010, le studio a déménagé de 150 mètres, dans un bâtiment plus grand[9]. Dans une interview, Christophe Balestra indique que le déménagement intervient en raison d'une augmentation du personnel avant la sortie d'un jeu et du mode multijoueur en plus à tester. La volonté de conserver un studio de capture de mouvement qui leur appartient, ainsi qu'une salle de projection, ont poussé les directeurs au déménagement[10].
En 2013, Naughty Dog produit le jeu The Last of Us, qui remporte un immense succès critique avant même sa sortie officielle, de nombreux sites spécialisés lui attribuant la note maximale. Ce jeu se voit d'ailleurs attribuer deux récompense Golden Joystick : celui de la meilleure nouveauté et celui du meilleur scénario. Le studio Naughty Dog, lui, reçoit le Golden Joystick du studio de l'année[11].
Un an après sort The Last of Us Remastered sur PlayStation 4 : un portage apportant quelques améliorations graphique et incluant le DLC Left Behind.
Après douze ans en tant que co-président, Christophe Balestra quitte Naughty Dog le pour se consacrer à sa famille [12]. Il laisse à Evan Wells le soin de diriger seul le studio. Neil Druckmann est nommé vice-président en mars 2018[13], puis co-président aux côtés d'Evan Wells en décembre 2020, quelques mois après la sortie du nouveau titre phare du studio: The Last of Us: Part II. Alison Mori et Christian Gyrling prennent quant à eux les postes de vice-présidents[14].
En mars 2020, Jason Schreier publie une enquête dans Kotaku révélant les conditions de travail difficiles des employés de Naughty Dog, notamment la pratique intensive du crunch et la culture du perfectionnisme au détriment du bien-être des employés[24].