The Rutles oppsto i 1976, som musikalsk innslag med parodier på Beatles i TV-showet Rutland Television Weekend. Programleder var Eric Idle, og Neil Innes kapellmester. Blant gjestene var George Harrison, som fremførte «The Pirat Song» blandet med My Sweet Lord, som kommentar til saken om opphavsrett til den låta. Til eget pianoarrangement fremførte Neil Innes sin egen komposisjon, «Cheese And Onions», som hadde en slående likhet med John LennonsA Day in the Life.
Parodien slo så godt an at Innes fulgte opp med å komponere en hel serie låter med umiskjennelig preg av velkjente Lennon-McCartney-låter, mens Eric Idle skrev manus til en parodisk dokumentar som en komisk parallell til Beatles fra John møtte Paul McCartney til gruppa ble oppløst i 1970. Filmen fikk tittelen All You Need Is Cash, og på rollelisten sto en rekke kjente rockeartister, som John Belushi, Dan Aykroyd, Bill Murray, Ron Wood og George Harrison, samt Idles kollega fra Monty Python, Michael Palin. Mick Jagger og Paul Simon ble intervjuet som seg selv, men forholdt seg til The Rutles som om de erstattet et ikke-eksisterende The Beatles og var deres mer håpløse, talentløse brødre. Både musikken og filmen har oppnådd den reneste kultstatus blant Beatles-fans som tidenes mest intelligente Fab Four-parodi.
En ny giv skjedde da Beatles utga sin Anthology-serie på DVD og tre doble CD-er. The Rutles utga da sin Archaeology. De har opp gjennom årene holdt mange konserter, riktignok uten Eric Idle. I 2007 bestemte de seg for å gravlegge prosjektet med en avskjedskonsert i England. Men Neil Innes sluttet ikke å spille sine Rutles-låter på konsert. Han opptrådte stadig med ulike musikere som en slags The Rutles, og fikk også med seg John Halsey igjen. I 2014 utga de konsertalbumet Live + Raw. I 2018 kom 50-årsjubileumsutgivelsen av The Beatles (White Album), noe som The Rutles besvarte med The Wheat Album. På alle disse senere albumene resirkulerte Neil Innes låter han hadde laget som soloartist, men arrangerte dem slik at de fikk en følelse av lydbildet til The Beatles. Mulighetene for nye Rutles-opptredener varte ved like til Neil Innes nokså overraskende døde helt på tampen av året 2019.
