Han deltok i grunnleggelsen av KPD i desember-januar 1919 og deretter i den første kongressen i Komintern 2.-6. mars 1919. Han innehadde viktige poster i Komintern frem til 1928, men ikke lenger på grunn av hans fraksjonatilknytning.[2][3] Da nazistene tok makten i Tyskland i 1933 flyktet Eberlein til Sovjetunionen, der han fant tilflukt på Hotell Lux.[2]
I juli 1937 ble han rammet av Den store terroren i Stalins Sovjet. I januar 1938 ble han avhørt og torturert i ti dager og netter. I april 1938 ble han bragt til Lefortovofengselet, der han ble torturert i mange uker. I 1939 ble han dømt til femten års soning i Vorkuta korrektive arbeidsleir. Han ble sendt tilbake til Moskva i 1941, der han igjen ble stilt for retten og dømt, og ble henrettet den 16. oktober 1941.[2] Andre mener han døde i fengsel i 1944.
Hermann Weber/Andreas Herbst: Deutsche Kommunisten. Biographisches Handbuch 1918 bis 1945, Berlin: Karl Dietz Verlag 2004, S. 168-170 ISBN 3-320-02044-7