Филмот го прикажува животот на големиот руски фрескописец од 15. век, Андреј Рубљов. Дејството започнува така што Рубљов (го игра Солоницин), заедно со двајца други монаси, Данило (го игра Гринко) и Кирил (го игра Лапиков) се упатуваат во еден манастир. Еден ден, во манастирот доаѓа гласник, кој бара од Рубљов да замине во Москва за да работи заедно со познатиот фрескописец Теофан Гркот (го игра Сергеев). Кирил, кој е љубоморен на дарбата на Рубљов, е разочаран и го напушта манастирот, а Рубљов е тажен што мора да се раздели од Данило.
Потресен од настаните што се случуваат во тогашна Русија (наездата на Татарите, големата сиромаштија и неписменост на народот и самоволието на власта), Рубљов запаѓа во длабоки морални дилеми и не е способен да слика. Еден ден, со помош на братот на Големиот Кнез, Татарите го опустошуваат градот Владимир и ги убиваат жителите кои се скриени во црквата, притоа уништувајќи ги иконите што тој ги насликал. За време на пустошењето, Рубљов извршува убиство, во желба да заштити една глувонема девојка. Разочаран од предавството на кнезот, од уништувањето на црквата и убивањето на луѓето, тој се заветува на молчење и одлучува дека повеќе нема да слика.
Потоа, за време на студената зима, кога Русија е зафатена од глад, Рубљов се враќа во својот манастир, каде повторно се среќава со Кирил, кој исто така се вратил во манастирот, покајувајќи се. Тогаш, Кирил му кажува за својата љубомора и го поттикнува повторно да се врати на сликањето. Во исто време, Рубљов е сведок на леењето на големата камбана што ја порачал Големиот кнез. Во потрага по мајстор, гласниците на кнезот доаѓаат во едно село, каде што го наоѓаат само детето Бориска (го игра Бурљаев), кое ги лаже, велејќи дека ја знае тајната за леење на камбани. Притоа, цело време, Бориска е под голем притисок, зашто знае дека ќе биде убиен, ако не успее да ја заврши работата. Кога, најпосле, камбаната е успешно направена, Бориска плаче од радост и тогаш му пристапува Рубљов, канејќи го да му се придружи како соработник.[2]