רקאו נזכרת לראשונה במאה ה-15, הגם שאתרה של העיירה היה מיושב מאות שנים קודם לכן. בשנת 1465 העניק קז'ימייז' הרביעי, מלך פולין, את העיירה לשליט מטעם הדוכסות הגדולה של ליטא. מאז הייתה העיירה בבעלות מספר משפחות אצולה.
ב-26 ביוני 1941, במהלך מבצע ברברוסה, נכבשה העיירה בידי הגרמנים, ואלו הוציאו בה להורג 49 צעירים יהודים שהואשמו בקומוניזם. שלושה אנשי חברה קדישא שקברו את אלו נרצחו גם כן. כעבור כשבועיים רצחו הגרמנים 14 יהודים נוספים מהעיירה.
באוקטובר 1941 נצטוו יהודי העיירה להתרכז בכיכר השוק בה. יהודים שלא התייצבו נורו בבתיהם, ובהם קשישים וחולים. בהמשך היום, רצחו הגרמנים 112 גברים יהודים בבית העלמין היהודי בעיירה.
כ-2,000 היהודים שנותרו בעיירה רוכזו לאחר האקציה בגטו שהוקם במתחם בית הכנסת המקומי, ממנו נלקחו מדי יום לעבודות כפייה, תוך החרמת כל רכושם. בתקופה זו הצליחו מספר צעירים מהגטו להימלט ליערות הסביבה, ולחבור ליחידות פרטיזנים.
ב-4 בפברואר 1942 נרצחו כל יושבי הגטו שבעיירה בבית הכנסת המקומי. יהודים מעטים שהושארו בעיירה לאיסוף ולסידור רכוש הנרצחים שולחו לאחר מכן למחנה עבודה בקראסנה.