André Wiss commence le football au sein du club amateur des SR Bergheim en 1972 puis, rejoint, l'année suivante, les SR Colmar[1]. Après une saison dans ce club, il intègre le centre de formation du RC Strasbourg[2]. Il remporte en fin d'année la coupe nationale des cadets avec ses coéquipiers, les Strasbourgeois s'imposent sur l'Olympique de Marseille sur le score de deux à un.
Il intègre l'effectif professionnel l'année suivante et débute en division 2 le 1976, alors qu'il n'a pas encore dix-sept ans, dans un match opposant le Racing au FC Tours. Il entre en jeu en remplacement, à la 28e minute, de Michel Sénéchal et les Strasbourgeois l'emporte sur le score de cinq à un[2]. Le , il marque ses premiers buts sous le maillot strasbourgeois, un doublé face à Saint-Dié[2]. En fin de saison, le RC Strasbourg remporte le groupe B de division 2 et retrouve la division 1. André Wiss marque également en finale de la division 2 où le RC Strasbourg s'impose face à l'AS Monaco sur le score de trois à un sur les deux matchs[3].
L'année suivante, il est prêté au FC Metz, autre club de division 1. Il dispute avec les Messins 24 matchs de championnat en étant titulaire à 21 reprises[7]. Il marque cinq buts dont un face à ses anciens coéquipiers[2].
Il est ensuite transféré au FC Mulhouse, club de division 2, et réussit une année pleine, le club termine deuxième du groupe B avec la meilleure attaque des deux groupes et parvient à monter en division 1 en battant en barrages le CS Thonon puis Valenciennes FC (6-3 sur les deux matchs). Le club est promu en division 1 mais André Wiss n'est pas conservé à la suite du recrutement des attaquants Salah Assad, Daniel Sanchez et Roland Wagner. André Wiss signe alors au Racing Paris 1 et réalise en 1983 une belle saison en terminant meilleur buteur du club avec 13 buts, le Racing échoue cependant dans la course aux barrages en finissant 4e.
La saison suivante, il retourne au FC Mulhouse qui vient d'être relégué en division 2. le club effectue un recrutement de qualité en engageant Didier Six et Kees Kist comme autres attaquants. Les Mulhousiens échouent cependant dans leur tentative de remontée immédiate en finissant 7e du championnat et André Wiss s'engage alors avec le FC Sète avec qui il reste deux ans.
Il enchaîne ensuite les clubs et signe à l'En avant Guingamp puis au FC Martigues et enfin à l'US Créteil où il arrête sa carrière professionnelle en fin de saison 1991 qui voit le club être relégué.