Il passe quatre saisons en Ligues mineures avant d'effectuer ses débuts en Ligue majeure le . Avec les Brewers, il obtient 50 points produits en 124 parties lors de sa saison recrue.
En 2008, Hardy affiche sa meilleure moyenne au bâton à ce jour (,288) et frappe 24 circuits, produisant 74 points. Il aide Milwaukee à se qualifier pour les éliminatoires pour une première fois en 26 ans et frappe dans une moyenne de ,429 (6 coups sûrs en 14) contre les Phillies de Philadelphie en Série de divisions.
Twins du Minnesota
Victime d'une nette baisse de régime en 2009 avec 11 longues balles et 47 points produits, il est échangé, le 6 novembre, aux Twins du Minnesota en retour du voltigeur de centreCarlos Gómez[2]. Le déclin de ses performances offensives se poursuit au Minnesota, avec une six coups de circuit et 38 points produits en 101 matchs, mais sa moyenne au bâton (,268) est à la hausse.
Orioles de Baltimore
J. J. Hardy (à gauche) pose avec son second Gant doré, remporté en 2013.
Le , les Twins échangent Hardy le joueur d'avant-champBrendan Harris aux Orioles de Baltimore en retour des lanceurs Brett Jacobson et Jim Hoey[3]. Hardy frappe 30 circuits, un nouveau record personnel, en 2011 et il égale son meilleur total de points produits en une saison (80). Il atteint ce total en 129 parties plutôt qu'en 151 comme à son autre saison de 80 points produits avec Minnesota en 2007. Il affiche la meilleure moyenne de puissance (,491) cette saison-là parmi les joueurs des Orioles[4].
En 2013, Hardy est voté joueur d'arrêt-court partant de l'équipe de la Ligue américaine au match des étoiles. Il honore sa seconde sélection à la classique de mi-saison. Gagnant d'un second Gant doré en deux ans, Hardy met la main sur son premier Bâton d'argent du meilleur joueur offensif à sa position : il claque 25 circuits, produit 76 points en 159 rencontres et hausse sa moyenne au bâton à ,263.
En 2014, sa production offensive baisse quelque peu avec seulement 9 circuits et 52 points produits en 141 matchs. Il maintient une moyenne au bâton de ,268 mais sa moyenne de puissance chute de ,433 à ,372. Le , Hardy renonce à devenir agent libre après les séries éliminatoires et accepte une prolongation de contrat de 3 saisons à 40 millions de dollars[5].
Hardy connaît une décevante saison 2015 où il ne frappe que pour ,219 avec 8 coups de circuit en 114 matchs joués. Il rate les 25 premières parties de l'équipe, souffrant d'une blessure à l'épaule gauche qui l'ennuie toute la saison, même s'il reste dans l'effectif[6].