Le gare di scherma si tennero nello Zappeion, costruito con i fondi messi a disposizione da Evangelis Zappas, il 7 e 9 aprile 1896. Diversamente dagli altri sport (nei quali potevano gareggiare solo atleti dilettanti), i professionisti poterono partecipare ad una gara a loro riservata in questa disciplina.
Le gare di fioretto, di cui una dedicata ai maestri, furono una partita a due tra francesi e greci con la differenza che i primi facevano parte di una vera e propria scuola che continuò poi ad avere successi; la gara per dilettanti fu dunque vinta da Eugène-Henri Gravelotte, che batté il suo connazionale Henri Callot in finale, mentre in quella per professionisti risultò vincitore il greco Leōnidas Pyrgos, che fu il primo campione olimpico greco dell'era moderna.
La gara di sciabola, invece, fu vinta dai greci alle prime due posizioni con l'apparizione di Adolf Schmal, vincitore di tre medaglie olimpiche nel ciclismo, di cui una d'oro nella 12 ore su pista, e Holger Nielsen, medagliato nel tiro a segno. Sfortunato il primo che, mentre era quasi alla vittoria per arrivare ad una medaglia, dovette ricominciare la gara, perché era entrato ad assistere re Giorgio I di Grecia.
Nazioni partecipanti
Un totale di 15 atleti, provenienti da 4 nazioni, gareggiarono alle Olimpiadi di Atene nella scherma:
Queste medaglie sono state assegnate retroattivamente dal Comitato Olimpico Internazionale. All'epoca i vincitori ricevettero una medaglia d'argento, mentre non ci furono premi per le posizioni successive.
Lampros, S.P.; Polites, N.G.; De Coubertin, Pierre; Philemon, P.J.; & Anninos, C., The Olympic Games: BC 776 – AD 1896, Athens, Charles Beck, 1897. (AAFLA.orgArchiviato il 16 gennaio 2013 in Internet Archive.)