Die Vorfahren hatten bereits um 1545 den polnischen Adel und erhielten diesen für die Familienlinien am Anfang des 19. Jahrhunderts auch in Preußen. Alfred von Gramatzki war der Sohn des Rittergutsbesitzers Adolf Ferdinand von Gramatzki (1806–1866), preußischer Adel 1834, und dessen Frau Marianne Salzmann (1811–1882). Archibald von Gramatzki war sein jüngerer Bruder.
1877 heiratete er seine Frau Anna Elisabeth Richter, mit der er den 1879 geborenen Sohn Alfred Ferdinand hatte und der später Erbe der 1150 ha in Schrombehnen in Ostpreußen wurde.
Gothaisches Genaologisches Taschenbuch der Adeligen Häuser. Teil B (Briefadel) 1942. Zugleich Adelsmatrikel der Deutschen Adelsgenossenschaft. 34. Jahrgang, Justus Perthes, Gotha November 1941, S. 180.
Gothaisches Geneaologisches Taschenbuch der Briefadeligen Häuser 1915. 9. Jahrgang, Justus Perthes, Gotha 1914, S. 315.
↑ Bernhard Mann: Biographisches Handbuch für das Preußische Abgeordnetenhaus 1867–1918, In: Handbücher zur Geschichte des Parlamentarismus und der politischen Parteien. Band 3, Droste, Düsseldorf 1988, ISBN 3-7700-5146-7, S. 153.