Hacia 1935 estaba convencido de que Adolf Hitler debía morir. En 1938 desde la invasión de Checoslovaquia, Schwerin pertenecía a los círculos de la resistencia junto a sus amigos más allegados Peter Yorck von Wartenburg y Fritz-Dietlof Graf von der Schulenburg, y luego al Círculo de Kreisau.
Schwerin participa en el complot del 20 de julio de 1944 para asesinar a Hitler. Es arrestado al día siguiente, juzgado y condenado por el juez Roland Freisler. El inquisidor Freisler lo ridiculiza y humilla (le gritaba tanto que no se podía oír la voz del acusado), lo condena a la horca y es ajusticiado ese mismo día en la prisión de Plötzensee en Berlín.