Zemļinskis ha cominciato la carriera professionistica nel 1988, nell'allora Unione Sovietica, con la divisa dello Zvezda Ventspils. Si è trasferito presto allo Skonto Riga, squadra di cui è divenuto il simbolo e con cui ha dominato il calcio lettone nel decennio successivo con la conquista di 13 titoli nazionali consecutivi e 7 Coppe di Lettonia.
Si è ritirato dal calcio giocato al termine della stagione 2005. Nel 2003 ha vinto il titolo di difensore lettone dell'anno.
Nazionale
Ha fatto il proprio esordio in Nazionale lettone l'8 aprile 1992 contro la Romania, in occasione della prima storica gara del paese baltico dopo l'indipendenza[1]. Nel 2004 è stato uno dei 23 lettoni a prendere parte per la prima volta al campionato d'Europa, disputato quell'anno in Portogallo e chiusosi per la squadra al primo turno.
Ha disputato l'ultima gara in Nazionale l'8 ottobre 2005, contro il Giappone. Con la maglia del proprio paese ha disputato 104 gare, numero che lo pone al secondo posto, dopo Vitālijs Astafjevs (167), nella classifica dei giocatori più presenti, e realizzato 12 reti.
Allenatore
Smessi i panni del calciatore ha allenato per due stagioni l'Olimps Riga dove inizialmente vestiva i panni di giocatore / allenatore; in seguito è stato per altre due stagioni il Daugava Daugavpils, con cui ha vinto la Coppa di Lettonia nel 2008.
Dal 2009 al 2011 è stato allenatore della nazionale Under-21 lettone[2].