Toeplitz était issu d'une famille de mathématiciens : son père et son grand-père étaient professeurs de mathématiques au lycée de Lissa(de).
Otto Toeplitz grandit à Breslau, capitale de la province de Silésie, et étudia les mathématiques à l'université. À l'issue de ses études, il se spécialisa en géométrie algébrique et reçut l'habilitation en 1905.
Malgré l'entrée en vigueur de la législation anti-juive, Toeplitz bénéficia d'une nomination à Bonn en 1935. Lorsqu'on lui retira sa chaire d'enseignant, il se mit à enseigner dans une école réservée aux juifs.
Excellent pédagogue, Toeplitz s'intéressait aussi à l'histoire de sa discipline : il écrivit une histoire du calcul infinitésimal originale par la place qu'elle faisait à des faits alors oubliés, comme la méthode des indivisibles de Bonaventura Cavalieri. Ce livre (Die Entwicklung der Infinitesimalrechnung – Eine genetische Annäherung) ne parut toutefois qu'en édition posthume, en 1949. Toeplitz se passionnait en outre pour les rapports entre les mathématiques et la philosophie dans la Grèce ancienne et fréquenta souvent le séminaire que son ami Hellinger animait depuis 1914 à Francfort sur l'histoire des mathématiques.
Die Entwicklung der Infinitesimalrechnung, Springer, 1949, traduit en français sous le titre La Genèse de l'analyse mathématique, Cassini (ISBN978-2-84225047-8), et précédemment en anglais sous le titre The calculus – A genetic approach, Univ. de Chicago, rééd. 2007 (ISBN978-0-22680668-6).
Heinrich Behnke et Gottfried Köthe, « Otto Toeplitz zum Gedächtnis », Jahresbericht der deutschen Mathematiker-Vereinigung, vol. 66, , p. 1 (lire en ligne). La nécrologie de Behnke est presque identique à celle qu'il a publié dans les Mathematisch Physikalische Semesterberichte, vol. 1, 1949, p. 89; Köthe traite l'œuvre scientifique.
Carl Ludwig Siegel, « On the History of the Frankfurt Mathematics Seminar », Mathematical Intelligencer, vol. 1, no 4, 1978-1979.