טארגה נולד בוויאריאל שבמחוז קאסטיון, ספרד. הוא סיפר כי אביו ניגן פלמנקו ועוד מספר סגנונות מוזיקה על הגיטרה שלו וכאשר אביו היה עובד כשומר במנזר סן פסקואל, היה פרנסיסקו לוקח את הגיטרה של אביו ומנסה לנגן את הצלילים אותם שמע בנגינת אביו ובעקבות כך פיתח את חושיו המוזיקליים. כילד נפצע כאשר ברח מן המטפלת שלו ונפל לתוך תעלת השקיה דבר אשר גרם לפגיעה בעינו. מהחשש שבנו יאבד את ראייתו לחלוטין, אביו העביר את המשפחה לקאסטיון דה לה פלאנה כדי להשתתף בשיעורי מוזיקה, כי האמין כי בתור מוזיקאי הוא יוכל להתפרנס, גם אם יהיה עיוור. שני מורי המוזיקה הראשונים שלו, אוג'ני רואיז ומנואל גונזלס, היו עיוורים. בשנת 1862 במהלך בסיור בקסטלון שמע גיטריסט הקונצרטים ג'וליאן ארקס את הופעתו של טארגה ויעץ לאביו לאפשר לפרנסיסקו לבוא לברצלונה ללמוד עמו. אביו של טארגה הסכים אך התעקש שבנו ייקח בנוסף גם שיעורי פסנתר, באותם הזמנים הגיטרה נתפסה ככלי לליווי זמרים, בעוד הפסנתר היה פופולרי למדי ברחבי אירופה ככלי מרכזי. עם זאת זמן קצר לאחר המעבר לברצלונה טארגה נאלץ להפסיק את השיעורים שלו כאשר ארקס יצא לסיור הופעות בחו"ל. אף על פי שטארגה היה רק בן עשר, הוא ברח וניסה לפתוח קריירה מוזיקלית לבדו בבתי קפה ובמסעדות בברצלונה. עד מהרה מצא אותו אביו והביא אותו בחזרה אליו, שהיה צריך להשקיע זמן רב כדי לקדם את החינוך המוזיקלי של בנו. שלוש שנים מאוחר יותר, בשנת 1865 שוב ברח טארגה, הפעם אל העיר ולנסיה שם הצטרף לחבורה של צוענים. אביו מצא אותו והחזירו הביתה אך טארגה ברח בפעם השלישית כאשר הוא שב אל ולנסיה. בשנות העשרה המוקדמות שלו טארגה היה בקיא הן בפסנתר והן בגיטרה. במשך זמן מה, הוא ניגן עם מוזיקאים אחרים ברשויות מקומיות כדי להרוויח כסף, אבל בסופו של דבר הוא חזר הביתה כדי לעזור למשפחתו.
בשנת 1874 טארגה נכנס לקונסרבטוריון של מדריד בחסותו של סוחר עשיר בשם אנטוניו קאנסה. הוא הביא עמו גיטרה שנרכשה לאחרונה ונבנתה בסביליה על ידי יצרן הגיטרות אנטוניו דה טורס חוראדו. תכונותיה הטובות של הגיטרה העניקו לו השראה הן בנגינתו והן בהשקפתו על הפוטנציאל ההלחנתי של הכלי. בקונסרבטוריון למד טארגה קומפוזיציה אצל המלחין אמיליו אריאטה ששכנע אותו להתמקד בגיטרה ולנטוש את הרעיון של קריירה מוזיקלית בפסנתר. בסוף שנות השבעים של המאה ה -19, טארגה החל ללמד גיטרה כאשר בין תלמידו ניתן למנות את אמיליו פוג'יול, מיגל לובט ודניאל פורטיאה. הוא החל להופיע בקונצרטים קבועים. טארגה זכה לשבחים רבים על יכולת הנגינה שלו והחל לנסוע לאזורים אחרים של ספרד כדי להופיע. בשלב זה הוא הלחין את יצירותיו הראשונות בגיטרה שאותן ביצע בנוסף ליצירות המבוססות על מנגינות של מלחינים אחרים.
בחורף 1880 החליף טארגה את חברו לואיס דה סוריה בקונצרט בנובלה אשר במחוז אליקנטה שם לאחר הקונצרט, ניגש אליו אחד מנכבדי העיר וביקש מן טארגה להקשיב לנגינת בתו, מרייה חוסה ריזו שלמדה לנגן בגיטרה. עד מהרה התארסו השניים. בשנת 1881 טארגה ניגן בתיאטרון האופרה בליון ולאחר מכן באודיאון שבפריז בערב לציון מאתיים שנה למותו של המשורר פדרו קלדרון דה לה ברקה. הוא גם הופיע בלונדון אך לא אהב את השפה ולא את מזג האוויר. מסופר שבביקורו באנגליה לאחר קונצרט מספר אנשים ראו שהמוזיקאי שרוי במצב רוח ירוד. "מה קרה, מאסטרו?" שאלו אותו. "האם אתה מתגעגע הביתה? הם יעצו לו לקחת את אותו רגע של עצב ולהכניסו אל אל המוזיקה שלו. כך על פי הסיפור הוא הגה את הנושא של אחת היצירות הזכורות ביותר שלו, Lágrima (דמעה). לאחר שניגן בלונדון חזר לנובלדה לחתונתו. בחג המולד של 1882, טארגה נישא למאריה חוסה ריזו. כדי להגדיל את הרפרטואר המנגינות שלו בגיטרה וכדי לנצל את הידע הרב שלו על המוזיקה, הוא התחיל לעבד יצירות פסנתר של בטהובן, שופן, מנדלסון ואחרים לגיטרה. טארגה ואשתו עברו למדריד והתפרנסו מהוראה פרטית של גיטרה ומהופעה בקונצרטים. אך לאחר מותה של ביתם התינוקת בחורף, מריה יוספה דה לוס אנג'לס טארגה ריזו, הם החליטו להתיישב בברצלונה. ב-1885 ביחד עם כמה מחבריהם המוזיקאים איסק אלבניס, אנריקה גרנדוס, חואקין טורינה ופבלו קזאלס.
לטארגה ואשתו מריה ז'וזה ריזו היו שלושה ילדים נוספים: פאקיטו (פרנסיסקו), מריה רוזאטיה (מריה רוזליה) (הידועה בעיקר בשם מריאטה) וקונספסיון. בסיור קונצרטים בוולנסיה זמן קצר לאחר מכן, פגש טארגה אלמנה עשירה בשם קונקסה מרטינז שעד מהרה הפכה לפטרונית בעלת ערך עבורו. היא הרשתה לטארגה ולמשפחתו להשתמש בביתה בברצלונה, שם החל לכתוב את עיקר היצירות הפופולריות ביותר שלו. מאוחר יותר לקחה אותו מרטינז לעיר גרנדה שם הגה הגיטריסט את יצירתו המפורסמת "Recuerdos de la Alhambra" (אנ') שאותה חיבר עם שובו וחבר לחברו נגן הגיטרה הצרפתי אלפרד קוטין שסייע לו לקדם את הקונצרטים שלו בפריז.
מסוף שנות ה-80 של המאה 19 עד 1903, טארגה המשיך להלחין אבל הגביל את הקונצרטים שלו לספרד. בשנת 1900, טארגה ביקר באלג'יר שם נתקל במקצב חוזר ונשנה של ניגון על תוף ערבי. למחרת בבוקר הוא הלחין את "דנזה מורה" על סמך המקצב. בערך בשנת 1902 הוא חתך את ציפורניו ויצר צליל שיהיה אופייני לאותם גיטריסטים הקשורים לאסכולה שלו. בשנה שלאחר מכן הוא יצא לסיור באיטליה, ניגן בקונצרטים מוצלחים מאוד ברומא, נאפולי, ומילאנו. בינואר 1906 הוא סבל משיתוק בצדו הימני, ואף על פי שבסופו של דבר הוא חזר לנגן בקונצרטים, הוא מעולם לא התאושש לגמרי. הוא סיים את יצירתו האחרונה, "אורמוס", ב-2 בדצמבר 1909. הוא נפטר בברצלונה כעבור שלושה-עשר ימים ב-15 בדצמבר 1909, בגיל 57.
בנוסף ליצירותיו המקוריות לגיטרה, אשר כללו Recuerdos de la Alhambra, Capricho Árabe ו-Danza Mora, הוא גם עיבד לגיטרה יצירות אשר נכתבו לכלים אחרים, יצירות של בטהובן, שופן ומנדלסון. כמו חברו איסק אלבניס, רצה טארגה לשלב מוזיקה קלאסית ורומנטית יחד עם סגנון ספרדי.
טארגה נחשב לאבי הגיטרה הקלאסית במאה ה-20 על כך שהעלה את המודעות שגיטרה היא גם כלי קלאסי בנוסף לעממיותה. אנדרס סגוביה הרבה לנגן את יצירותיו של טארגה בקונצרטים באירופה והשתמש בטכניקות הייחודיות שפיתח.
חברת נוקיה השתמשה בחלק מהיצירה "Gran Vals" כרינגטון ברירת המחדל במכשירי הטלפון שלה.