נוסחת האנטרופיה של בולצמן

המשוואה של בולצמן שנחצבה על מצבתו. ^[1]

במכניקה סטטיסטית, המשוואה של בולצמן (הידועה גם בשם המשוואה של בולצמן-פלאנק) היא משוואה הסתברותית, המקשרת את האנטרופיה S של גז אידיאלי לפונקציית ריבוי W, אשר מייצגת את מספר מצבי המיקרו (microstate) המתאימים למצב המקרו של הגז (macrostate).

המשוואה היא:

${\displaystyle S=k_{\mathrm {B} }\ln W}$

(1)

כאשר k _B הוא קבוע בולצמן (שלעיתים נכתב כ-k) ושווה ל ${\displaystyle 1.38065\times 10^{-23}{\frac {J}{K}}}$.

כלומר, נוסחת בולצמן מציגה את הקשר בין אנטרופיה למספר הדרכים בהן ניתן לסדר אטומים או מולקולות של מערכת תרמודינמית (באנגלית: Thermodynamic system).

היסטוריה

קברו של בולצמן ב- Zentralfriedhof, וינה, עם נוסחת האנטרופיה.

המשוואה נוסחה במקור על ידי לודוויג בולצמן בין 1872 ל-1875, אך לאחר מכן שונתה לצורתה הנוכחית על ידי מקס פלאנק בשנת 1900 בערך.^[2][3] כפי שאמר פלאנק - "הקשר הלוגריתמי בין אנטרופיה והסתברות נאמר לראשונה על ידי ל' בולצמן בתורת הגזים הקינטית שלו".

הערך של W נועד במקור להיות פרופורציונלי ל-Wahrscheinlichkeit (הסתברות בגמנית) של מצב מקרוסקופי לצורך חלוקת הסתברות מסוימת של מצבי מיקרו אפשריים - אוסף (בלתי ניתן להבחנה) של "דרכים" במצבו (המדיד) התרמודינאמי של מערכת ניתן לחישוב על ידי הקצאת מיקומים ותנעים שונים למולקולות השונות. באופן המתפרש, הנוסחה של בולצמן היא הנוסחה הכללית ביותר לאנטרופיה התרמודינמית. עם זאת, הפרדיגמה של בולצמן הייתה גז אידיאלי של N חלקיקים זהים, מהם ה- N_i במצב המיקרוסקופי ה-i של מיקום ותנע. במקרה הזה, ההסתברות של כל מצבי המיקרו של מערכת שווה, ולכן בולצמן חישב את מספר מצבי המיקרו המתאימים לכל מצב מאקרו, ומכאן הוא היה יכול להסיק את ההסתברות של כל מצב מקרו. W פורש על ידי אחרים כ"מספר מצבי המיקרו", אף על פי שלא לכך התכוון בולצמן. פירוש זה תפס, ועל כן הוא בשימוש כיום. ניתן למנות את W באמצעות הנוסחה לתמורות (פרמוטציות):

${\displaystyle W={\frac {N!}{\prod _{i}N_{i}!}}}$

(2)

כאשר i נע בין כל המצבים המולקולריים האפשריים, ו- "!" מציין עצרת. ה"תיקון" במכנה נובע מהעובדה שלא ניתן להבחין בין חלקיקים זהים באותו מצב. W נקרא לפעמים "ההסתברות התרמודינמית" מכיוון שמדובר במספר שלם גדול מאחד, ואילו הסתברויות מתמטיות הן תמיד מספרים בין אפס לאחד.

הכללה לאנטרופית גיבס

הנוסחה של בולצמן תקפה למצבי מיקרו של היקום בכללותו, כאשר כל מצב מיקרו אפשרי צפוי להיות סביר באותה מידה.

אך בתחום התרמודינמיקה חשוב להיות מסוגלים לבצע את הקירוב של חלוקת היקום למערכת המעניינת, ולסביבתה; ואז להיות מסוגלים לזהות את האנטרופיה של המערכת. מצבי מיקרו של מערכת תרמודינמית כזו אינם שווי הסתברות - למשל, מצבי מיקרו עם אנרגיה גבוהה סבירים פחות מאשר מצבי מיקרו עם אנרגיה נמוכה עבור מערכת תרמודינמית אשר נשמרת בטמפרטורה קבועה (למשל, על ידי מגע עם אמבט חום). עבור מערכות תרמודינמיות בהן מצבי המיקרו של המערכת עשויים להיות בעלי הסתברות לא שווה, ההכללה המתאימה, הנקראת אנטרופיית גיבס, היא:

${\displaystyle S=-k_{\mathrm {B} }\sum p_{i}\ln p_{i}}$

(3)

כאשר ההסתברויות שוות, משוואה זו הופכת למשוואה (1).

בולצמן השתמש בנוסחה בסגנון ${\displaystyle \rho \ln \rho }$ כבר בשנת 1866.^[4] הוא פירש את ρ כצפיפות במרחב הפאזה - מבלי להזכיר הסתברות - אך מכיוון שזה מספק את ההגדרה האקסיומטית של מדידה הסתברותית, נוכל לפרש זאת בדיעבד כהסתברות. גיבס נתן פרשנות הסתברותית מפורשת בשנת 1878.

בולצמן עצמו השתמש בביטוי הזהה ל- (3) בעבודתו המאוחרת^[5] וזיהה את זה כביטוי כללי יותר ממשוואה (1). כלומר, משוואה (1) היא תוצאה של משוואה (3) - ולא להפך. בכל מצב בו משוואה (1) תקפה, משוואה (3) תקפה גם היא - ולא להפך.

האנטרופיה של בולצמן והתפלגויות

המונח אנטרופית בולצמן משמש לעיתים גם כדי לציין אנטרופיות המחושבות על סמך הקירוב לפיו ניתן לחשב את ההסתברות הכללית על ידי חישוב חלקיק בודד, ומשם הכללה לסך החלקיקים - בהנחה שלכל חלקיק יש הסתברות בלתי תלויה וזהה (IID), והתעלמות מאינטראקציות ומתאמים (correlation) בין החלקיקים. זה מדויק לגז אידיאלי של חלקיקים זהים, ועשוי להיות קירוב טוב למערכות אחרות.^[6]

האנטרופיה של בולצמן מתקבלת אם מניחים שניתן להתייחס לכל החלקיקים המרכיבים מערכת תרמודינמית כאל בלתי תלויים סטטיסטית. ואז התפלגות ההסתברות של המערכת כולה ניתנת לכתיבה כמכפלת N ביטויים זהים, ביטוי אחד לכל חלקיק; והאנטרופיה של גיבס הופכת לאנטרופיה של בולצמן:

${\displaystyle S_{\mathrm {B} }=-Nk_{\mathrm {B} }\sum _{i}p_{i}\ln p_{i}}$

(4)

כאשר הסכימה מתבצעת על כל מצב אפשרי במרחב הפאזה ה-6-ממדי של חלקיק בודד (3 ממדים למיקום, ו-3 לתנע), ולא על מרחב הפאזה ה-6 N-ממדי של המערכת כולה.

זה משקף את פונקציית האנטרופיה הסטטיסטית המקורית שהוצגה על ידי לודוויג בולצמן בשנת 1872. למקרה המיוחד של גז אידיאלי הוא מתאים בדיוק לאנטרופיה התרמודינמית הנכונה.

עם זאת, לכל דבר פרט לגזים מאוד דלילים, הוא מוביל לתחזיות שגויות של אנטרופיות והתנהגויות פיזיקליות, על ידי התעלמות מהאינטראקציות והמתאמים בין מולקולות שונות. במקום זאת יש לעקוב אחר גיבס, ולהתחשב בהרכב מצבי המערכת בכללותה, ולא במצבים של חלקיקים יחידים.

כיווניות הזמן^[7]

אחד הדברים שהטרידו את בולצמן היו התפתחויות אסימטריות בזמן של מערכות מקרוסקופיות, אשר נובעות ממשוואות אסימטריות בזמן, כמו, למשל, משוואת הדיפוזיה.

משוואות אלו, במקרים רבים, נובעות מהמשוואות המקרוסקופיות (חוקי ניוטון או משוואת שרדינגר), אשר הן בעצמן סימטריות בזמן. בולצמן קדם למכניקת הקוונטים, וגם לתורת היחסות הפרטית והכללית, ועל כן עסק במכניקה ניוטונית.

אחת המסקנות של בולצמן היא שמעבר ממצב אחד למצב אחר של מערכת מאקרוסקופית מאופשר על ידי חוקי ניוטון כמו שגם מעבר מהמצב השני לראשון. אבל, כיוון אחד יותר סביר, והכיוון השני אף פעם לא נצפה. הכיוון הסביר מצביע בעצם על כיוון הזמן.

שיווי משקל

הטענה של בוצלמן: "למצב המקרו של שיווי המשקל יש הסתברות גדולה בהרבה מכל מצב מקרו אחר (אז הוא מכיל את הרוב המוחלט של מצבי המיקרו הזמינים למערכת)"

ניתן להסתכל על דוגמה על מנת להמחיש את כוונתו.

במקרה של מודל פרומגנט, אשר מורכב מחלקיקים (אלקטרונים) בעלי מצב בינארי (למעלה או למטה).

במקרה זה, ניתן לחשב ישירות את ${\displaystyle W}$, מספר המצבים האפשריים של המערכת, ולראות כי ${\displaystyle W=2^{N}}$, כאשר ${\displaystyle N}$ הוא מספר החלקיקים.

בנוסף, במקרה זה, מספר החלקיקים בעלי ספין מעלה (${\displaystyle N_{\uparrow }}$) ומספר החלקיקים בעלי ספין מטה ${\displaystyle N_{\downarrow }}$ מקיימים, במצב שיווי משקל:

${\displaystyle N_{\uparrow }=N_{\downarrow }={\frac {N}{2}}}$

נראה כי למצב שיווי המשקל יש את הסתברות גדולה בהרבה מכל מצב אחר, שכן אם קיים מצב מקרו בו יש ${\displaystyle k}$ חלקיקים עם ספין למעלה, אז הסיכוי למצוא את המערכת במצב הזה הוא:

${\displaystyle P(k)={\binom {N}{k}}{\frac {1}{2^{N}}}={\frac {N!}{k!(N-k)!}}{\frac {1}{2^{N}}}}$

וכן בגבול בו ${\displaystyle N}$ גדול מאוד, ההסתברות פרופורציונלית כך:

${\displaystyle P(k)\propto {\frac {N^{k}}{2^{N}}}\ \ {\xrightarrow[{N\rightarrow \infty }]{}}\ \ 0}$

ועל כן, סביר רק למצוא את המערכת במצב שיווי המשקל שלה.

קשר לטמפרטורה

אם ניקח שתי מערכות, כאשר הראשונה בעלת אנטרופיה ${\displaystyle S_{1}=k_{B}\log(W_{1})}$ והשנייה בעלת אנטרופיה ${\displaystyle S_{2}=k_{B}\log(W_{2})}$, ונצמיד אותן, כך שהן יהיו במצב של צימוד תרמי (זאת אומרת, המערכות יוכלו להעביר אנרגיה אחת לשנייה, אך כל מערכת תישאר ללא שינוי בנפח או במספר החלקיקים), נקבל שאחרי זמן מה, המערכות יגיעו לשיווי משקל.

בשיווי משקל ניתן לומר כי לא תעבור יותר אנרגיה בין המערכות, ועל כן, נוכל לכתוב את השוויון הבא:

${\displaystyle {\frac {\partial S_{1}}{\partial U_{1}}}={\frac {\partial S_{2}}{\partial U_{2}}}}$

כאשר הנגזרת החלקית נלקחת לפי האנרגיה הפנימית של כל מערכת ${\displaystyle U_{i}}$, וכן הנפח ${\displaystyle V_{i}}$ ומספר החלקיקים ${\displaystyle N_{i}}$ של כל מערכת מוחזקים קבועים.

מכן ניתן להגדיר את הטמפרטורה, ${\displaystyle T}$, באופן הבא:

${\displaystyle {\frac {\partial S}{\partial U}}={\frac {1}{T}}}$

כאשר, גם כאן, הנפח ומספר החלקיקים קבוע.

הגדרה זו תואמת לחוק האפס של התרמודינמיקה, שכן אם מערכת ${\displaystyle A}$ ומערכת ${\displaystyle B}$ נמצאות בצימוד תרמי, ולא זורמת ביניהן אנרגיה, אז ניתן לומר כי:

${\displaystyle {\frac {1}{T_{A}}}={\frac {\partial S_{A}}{\partial U_{A}}}={\frac {\partial S_{B}}{\partial U_{B}}}={\frac {1}{T_{B}}}}$

ובנוסף, אם מערכת ${\displaystyle B}$ ומערכת ${\displaystyle C}$ נמצאות בצימוד תרמי, ולא זורמת ביניהן אנרגיה, אז ניתן לומר בנוסף כי:

${\displaystyle {\frac {1}{T_{B}}}={\frac {\partial S_{B}}{\partial U_{B}}}={\frac {\partial S_{C}}{\partial U_{C}}}={\frac {1}{T_{C}}}}$

ומכאן נובע ש-

${\displaystyle {\frac {1}{T_{A}}}={\frac {1}{T_{B}}}={\frac {1}{T_{C}}}}$

ולכן,

${\displaystyle T_{A}=T_{C}}$

מחוץ לשיווי משקל

בהתייחסות לתרמודינמיקה מחוץ לשיווי משקל נדרוש כי אין צורך בבחירת אנסמבל ספציפי על מנת לראות את הכיווניות של הזמן בהתפתחות המערכת.

במבט שנובע מאנטרופית בולצמן, נראה כי מצב מקרוסקופי, אשר ניתן לתיאור על ידי פרמטרים מקרוסקופיים ${\displaystyle M}$, בעצם נובע ממצב (או אוסף מצבים) מיקרוסקופיים.

באופן דומה, מחוץ לשיווי משקל, ניתן להראות כי ההתפתחות בזמן של ${\displaystyle M(t)}$ תיתן על ידי פתרון משוואת הדיפוזיה, וכן בכל זמן, האנטרופיה של אותו מצב, ${\displaystyle S(M(t))}$ תקיים את החוק השני של התרמודינמיקה.^[8]

אנלוגיה לאנטרופיה של שאנון^[9]

ראו גם – אנטרופיה בתרמודינמיקה ובתורת האינפורמציה

אנטרופיית שאנון מגיעה מתורת האינפורמציה, ועם זאת, ניתן לראות כי היא דומה לאנטרופיה של בולצמן, המגיעה מהתרמודינמיקה בפיזיקה.

האנטרופיה של בולצמן	האנטרופיה של שנון
${\displaystyle X}$ - מצב מיקרו מסוים של חלקיק בודד	${\displaystyle X}$ - משתנה מקרי
${\displaystyle (n_{1},n_{2},\dots ,n_{l})}$ - ${\displaystyle l}$ מיקומים שונים בהם החלקיק יכול להיות	${\displaystyle (x_{1},x_{2},\dots ,x_{l})}$ - ${\displaystyle l}$ ערכים שונים
${\displaystyle (p_{1},p_{2},\dots ,p_{l})}$ - ההסתברות להיות בכל מצב מיקרו	${\displaystyle (p_{1},p_{2},\dots ,p_{l})}$ - ההסתברות לכל ערך
${\displaystyle p_{j}={\frac {n_{j}}{N}}}$ - ההסתברות שמצב מיקרו מסוים ימצא במיקום ה-${\displaystyle j}$	${\displaystyle p_{j}}$ - ההסתברות שמדידת ${\displaystyle X}$ תתן את הערך ${\displaystyle x_{j}}$
${\displaystyle -\ln(p_{j})}$ - האינפורמציה המתקבלת ממדידת חלקיק ומציאתו במיקום ה-${\displaystyle j}$	${\displaystyle -\log _{2}(p_{j})}$ - האינפורמציה המתקבלת ממדידת ${\displaystyle X}$ וקבלת הערך ${\displaystyle x_{j}}$
${\displaystyle S_{B}=-Nk_{B}\textstyle \sum _{j=1}^{l}\displaystyle p_{j}\ln(p_{j})}$ - האנטרופיה של בולצמן	${\displaystyle H=-\textstyle \sum _{j=1}^{l}\displaystyle p_{j}\log _{2}(p_{j})}$
${\displaystyle {\frac {S_{B}}{N}}}$ - התוחלת של האינפורמציה המתקבלת ממדידת מצב מיקרו של חלקיק בודד	${\displaystyle H}$ - התוחלת של האינפורמציה המתקבלת ממדידת ${\displaystyle X}$

ראו גם

• פיזיקה סטטיסטית

קישורים חיצוניים

• מבוא למשוואת בולצמן
• Vorlesungen über Gastheorie, Ludwig Boltzmann (1896) כרך א '. אני, ג'יי בארת, לייפציג
• Vorlesungen über Gastheorie, Ludwig Boltzmann (1898) כרך א '. ב. JA Barth, לייפציג.

לקריאה נוספת

• Charles Kittel and Herbert Kroemer, Thermal Physics, San Francisco: W.H. Freeman and Company
• R. Feynman, The Character of Physical Law, The MIT Press, Cambridge, Mass, 1967. Chapter 5.
• P. L. Garrido, S. Goldstein, and J. L. Lebowitz, Boltzmann Entropy for Dense Fluids Not in Local Equilibrium

הערות שוליים

1. See: photo of Boltzmann's grave in the Zentralfriedhof, Vienna, with bust and entropy formula.
2. Boltzmann equation. Eric Weisstein's World of Physics (states the year was 1872).
3. Perrot, Pierre (1998). A to Z of Thermodynamics. Oxford University Press. ISBN 0-19-856552-6.
4. Ludwig Boltzmann (1866). "Über die Mechanische Bedeutung des Zweiten Hauptsatzes der Wärmetheorie". Wiener Berichte. 53: 195–220.
5. Ludwig Boltzmann (1896). Vorlesungen über Gastheorie, vol. I. J.A. Barth, Leipzig.; Ludwig Boltzmann (1898). Vorlesungen über Gastheorie, vol. II. J.A. Barth, Leipzig.
6. Jaynes, E. T. (1965). Gibbs vs Boltzmann entropies. American Journal of Physics, 33, 391-8.
7. Joel L. Lebowitz, BOLTZMANN'S ENTROPY AND TIME'S ARROW, https://cmsr.rutgers.edu/images/people/lebowitz_joel/publications/lebowitz_370.pdf
8. S. Goldstein, Joel L. Lebowitz, On the (Boltzmann) entropy of non-equilibrium systems, https://www.sciencedirect.com/science/article/pii/S0167278904000211
9. Boltzmann Entropy, Gibbs Entropy, Shannon Information, ‏2020/04/16