Joseph Merklin sammelte erste berufliche Erfahrungen in der Orgelbauwerkstadt seines Vaters Franz Joseph Merklin, bevor er bei Friedrich Haas in Basel seine Lehre fortsetzte. Eine wichtige Station war die Weiterbildung bei Eberhard Friedrich Walcker, bevor er in Linnich bei Aachen bei dem für seine Romantikorgeln bekannten Orgelbauer Wilhelm Korfmacher arbeitete. Während dieser Zeit (1840er Jahre) wurde er in Belgien aktiv, indem er am Bau von zwei Orgeln in Stavelot und Namur beteiligt war.
Ab 1843 betrieb Merklin in Brüssel seine eigene Werkstatt, ab 1847 gemeinsam mit seinem Schwager Friedrich Schütze. 1853 wurde die Firma, unter dem Namen J. Merklin-Schütze et Cie., in eine Kommanditgesellschaft umgewandelt. Ab 1870 lebte er zunächst in Paris und ging dann nach Lyon, wo er sich mit dem Orgelbauer Théophile Kuhn (aus der schweizerischen Orgelbaufamilie Kuhn) zusammentat. Am Ende des Jahrhunderts hieß die Firma dann Michel, Merklin & Kuhn. Im Laufe der Zeit entwickelte er sich zu einem starken Konkurrenten von Aristide Cavaillé-Coll.[1]
Joseph Merklins Bruder Gustav (1839–1879) war ab 1863 ebenfalls als Orgelbauer tätig. Zu den beiden im südbadischen Raum bekannten Orgelbauern Fridolin Merklin (1821–1900) und dessen Sohn August Merklin (1860–1940) besteht hingegen trotz Namensgleichheit und familiärer Wurzeln in Oberhausen keine nachweisbare Verwandtschaft.[2]
Heinrich Richard Trötschel: Der Orgelbauer Franz Joseph Merklin und seine Approbation als Orgelbauer. In: Roland Behrens, Christoph Grohmann (Hrsg.): Dulce Melos Organorum. Festschrift Alfred Reichling zum 70. Geburtstag (= Veröffentlichung der Gesellschaft der Orgelfreunde. Band 200). Gesellschaft der Orgelfreunde, Mettlach 2005, S. 487–502.
Michel Jurine: Joseph Merklin, facteur d'orgues européen. édité par Association Aristide Cavaille-Coll, diffusion Klincksiek 1991.