עם תום לימודיו התקבל הרצברג לתקופת ניסיון כמורה בגימנסיה בשטטין, אולם כעבור שנה, למרות ההמלצה שקיבל ממנהל הגימנסיה, סירב שר החינוך הפרוסי לאשר לו משרה קבועה, בשל היותו יהודי. הרצברג נמנע מלהמיר את דתו (בניגוד לחלק מאחיו), והתפרנס כמורה פרטי בביתו של אחד מעשירי המבורג ומכתיבה בעיתונים. במשך מספר שנים התגורר בבתי שלושת אחיו הסוחרים בברלין, סנקט פטרבורג ולונדון.
בשנת 1868 פרסם הרצברג בהמבורג את ספרו כתבי-משפחה עבריים: מכתביו של מיסיונר (Jüdische Familienpapiere: Briefe eines Missionairs) הוציא הרצברג בשנת תחת שם העט גוסטאב מיינהרדט (Gustav Meinhardt). בספרו הביע ביקורת על יסודות הנצרות אל מול העליונות המוסרית של היהדות, וציין כי הפתרון האפשרי עבור היהודים נמצא בהחייאת ארץ ישראל יהודית בתוך אדמת צרפת. בהמשך תמך הרצברג ברעיון הקמת מדינה יהודית בארץ ישראל. הספר זכה לתפוצה והתרשמות רבה בקרב הקהילה היהודית. הוא זכה למהדורות רבות, תורגם לאנגלית בניו יורק וחלקים ממנו תורגמו לעברית על ידי פרץ סמולנסקין בירחון "השחר". בעקבות קריאת הספר החלה נהידה רות לצרוס להתכתב עם הרצברג.
בשנת תרנ"א אולץ הרצברג לעבור לבריסל בשל המצב בארץ, שם המשיך בעבודתו הספרותית.
בשנת תרנ"ה נבחר לייצג בוועידת בני ברית בארצות הברית את לשכות בני ברית שבארץ ישראל והארצות השכנות, אולם בשל מחלה נאלץ לשוב לאחר זמן קצר לבריסל. הרצברג נפטר בי"ט בניסןתרנ"ז, חודשים ספורים לאחר שספרו תורגם לעברית.
ספריו
כתבי משפחה עבריים / מתורגמים לעברית על ידי יחיאל מיכל פינס ור' בנימין, ירושלים: לשכת הגליל הגדולה מספר י"ד לאגודת חורין בני ברית בא"י: ולשכת ירושלים בירושלם, תר"ץ.
Jüdische Familienpapiere: Briefe eines Missionairs / herausgegeben von Gustav Meinhard, Hamburg: Otto Meissner, 1868.
Jewish family papers: or Letters of a missionary / Tr. from the German of Dr. Wilhelm Herzberg ["Gustav Meinhardt"], by the Rev. Dr. Frederic de Sola Mendes, New York: American Jewish Publication Society, 1875.
W. Herzberg, Irrgänge der Seele: Erzählungen, Trier: Sigmund Mayer, 1891. (סיפורים עם מוטיבים יהודיים)
W. Herzberg, Der freie Wille: Novelle, Leipzig: Leiner, 1875. (נובלה בנושא יהדות)
לקריאה נוספת
אליעזר רפאל מלאכי, 'בנימין זאב הרצברג וספרו "כתבי משפחה עברית"', התורן, י, ג (תרפ"ג–תרפ"ד), עמ' 7–16 (נדפס שוב בתוך: אלחנן ריינר, חגי בן-שמאי (עורכים), מנגד תראה: אסופה ממאמרי א.ר. מלאכי בענייני ארץ-ישראל, ירושלים: יד יצחק בן-צבי, תשס"א, עמ' 501–510).
Reuven Michael, 'Dr. Wilhelm Herzberg (1827-1897): eine lückenhafte Biographie,' Bulletin des Leo Baeck Instituts 65 (1983), 53-86. (בגרמנית)
זאב הרצברג, בתוך: ספר מאה שנה: אנשי מופת וחלוצים ראשונים בארץ ישראל במשך מאה שנה ומעלה (ספרית שלשלת הזהב) / סודר ונערך בידי יצחק טריואקס, אליעזר שטינמן; השתתף בלקט חומר יעקב יערי-פולסקין, תל אביב – בני ברק: יצחק טריואזקס), תרצ"ח 1938, עמ' 229–238, באתר היברובוקס