Il est adjoint au maire de Strasbourg de 2008 à juin 2016, conseiller départemental du canton de Strasbourg-2 entre 2015 à 2021 et député de 2016 à 2017.
En , il figure en 7e position sur la liste de Roland Ries[2], candidat PS à la mairie de Strasbourg ; et à la suite de la victoire de ce dernier, il devient adjoint au maire chargé des foires et marchés.
Le , Éric Elkouby est désigné, avec sa suppléante Laurence Noss[10], par les militants socialistes pour briguer le poste laissé vacant ; à la suite de la démission d'Armand Jung (dont Eric Elkouby est proche politiquement), pour raisons de santé[11]. Il recueille 98,03 % des suffrages. 52,71 % des adhérents du PS de la 1re circonscription se sont déplacés pour ce vote[12].
En juin 2016, il annonce démissionner du conseil municipal de Strasbourg et de son mandat d'adjoint au maire pour respecter la loi sur le non-cumul des mandats[16].
En 2021, il se représente aux élections départementales, toujours en binôme avec Martine Jung.
Le duo, en ballotage défavorable, échoue au second tour face au binôme Damien Fremont (EELV) et Fleur Laronze (PCF), élus pour leur premier mandat.
Éric Elkouby perd alors son dernier mandat, celui de conseiller d’Alsace au sein de la Collectivité européenne d’Alsace.
Il tente à nouveau de se présenter aux élections législatives de 2022, sans parvenir à obtenir l’investiture ni du PS ni de LREM, mais est éliminé dès le premier tour. Sandra Regol (EELV) sera élue au second tour.