הרוזן נולד במטולה. הוריו היו אליעזר רזניק, עולה מנבהרדק, שסלל את מסילות הרכבת מיפו לירושלים, וחיה בת יצחק משה קרונשטאדט. אביו שימש תחילה כחקלאי בזכרון יעקב, וכשהוקמה המושבה מטולה עבר להתגורר בה והיה מחלוצי עבודת האדמה במטולה.
יעקב למד בבית-הספר העממי במטולה ובגימנסיה "הרצליה" בתל אביב וכשפרצה מלחמת העולם הראשונה חזר לכפרו. באותה תקופה ערך ועד המושבה חיפושים אחר יוסף לישנסקי, יליד מטולה, שהיה פעיל במחתרת ניל"י - עקב פניית ועד זכרון יעקב שאויים על ידי מפקדת הצבא הטורקי, הנער יעקב נשלח לחיפושים אך הוא הוליכם שולל לבל ימצאו את לישנסקי. לאחר שגילו כמה טעויות שעשה הוא נשלח למאסר, אך שוחרר במהרה ונשלח לכפר גלעדי לשמור על רכושם של חברי השומר שנאסרו.
לאחר המלחמה שב ללימודיו בגימנסיה. כשהחלו ההתקפות הערביות על תל-חי בשנת ה'תרע"ט נשלח להגן על הגליל העליון יחד עם חבריו פסח ליפובצקי וסימקין. כשנפלה תל-חי ופונה הגליל העליון נשלח להגן על המושבה שרונה שבגליל התחתון.
הוא החל לפרסם את רשימותיו בעיתון הארץ למשך כמה שנים ועבד כמורה עברי בבית-הספר של כי"ח בביירות, שם נפגש עם המלך פייצל ואז פוטר מתפקידו. ב-1925 נסע להיות מורה עברי בבולגריה, הוא מונה לראש הסתדרות המורים, ערך עיתון והקים הוצאת-ספרים עברית. שם נתמנה לחבר מזכירות הקונגרס הציוני. ב-1929 נסע ללמוד משפטים בפריז שבצרפת וב-1933 קיבל תואר מוסמך למדעי המשפט.
ב-1936 נבחר לנשיא הסתדרות המורים היהודים, נשיא מועדון בני ארץ ישראל, ויו"ר חוג הנוער הלאומי היהודי בפריז.
ב-1933 פרסם את מאמרו הראשון בעיתון הצרפתי "מרקורי די פראנס" בו מתח ביקורת על שלטון המנדט וזכה לתגובת הנציב הצרפתי בסוריה. הוא למד לתואר ד"ר להיסטוריה והכין את ספרו על "דונה גרציה" בו הוכיח שהמלך קארל החמישי שנודע כאנטישמי, ניהל את חשבונו בבנק מנדס שהיה בבעלות יהודים אנוסים ושדונה גרציה מנדס הקלה את יחסו. עוד חשף שהחוזה בין טורקיה לצרפת שנחתם ב-1569 נכתב בעברית.
ב-1939 פרסם את ספרו "ארץ ישראל וארצות הברית של ערב" ובא במגע עם מדינאים צרפתים. בספטמבר באותה שנה הוציא את ספרו "מדיניותה של הציונות בעולם ובמזרח הקרוב". בתש"ט הוציא קובץ ספרותי בשם "האופק".