Ноль в нулевой степени

График функции z = x^y вблизи x = 0, y = 0

Выражение 0⁰ (ноль в нулевой степени) многие учебники считают неопределённым и лишённым смысла^[1][2]. Связано это с тем, что функция двух переменных ${\displaystyle f(x,y)=x^{y}}$ в точке ${\displaystyle (0,0)}$ имеет неустранимый разрыв. В самом деле, вдоль положительного направления оси ${\displaystyle X,}$ где ${\displaystyle y=0,}$ она равна единице, а вдоль положительного направления оси ${\displaystyle Y,}$ где ${\displaystyle x=0,}$ она равна нулю. Поэтому никакое соглашение о значении 0⁰ не может дать непрерывную в нуле функцию.

Соглашение 0⁰ = 1: аргументация сторонников

Некоторые авторы предлагают принять соглашение о том, что ${\displaystyle 0^{0}}$ равно 1. В пользу подобного варианта приводятся несколько доводов. Например, разложение в ряд экспоненты:

${\displaystyle e^{x}=1+\sum _{n=1}^{\infty }{\frac {x^{n}}{n!}}}$

можно записать короче, если принять ${\displaystyle 0^{0}=1}$:

${\displaystyle e^{x}=\sum _{n=0}^{\infty }{\frac {x^{n}}{n!}}}$

(рассматриваемое соглашение используется при ${\displaystyle x=0,\ n=0}$).

Другое обоснование соглашения ${\displaystyle 0^{0}=1}$ опирается на «Теорию множеств» Бурбаки^[3]: число различных отображений n-элементного множества в m-элементное равно ${\displaystyle m^{n},}$ при ${\displaystyle m=n=0}$ получаем отображение пустого множества в пустое, а оно единственно. Разумеется, это нельзя считать доказательством (соглашения не нуждаются в доказательствах), тем более что в самой теории множеств соглашение ${\displaystyle 0^{0}=1}$ не используется.

В любом случае соглашение ${\displaystyle 0^{0}=1}$ чисто символическое, и оно не может использоваться ни в алгебраических, ни в аналитических преобразованиях из-за разрывности функции в этой точке, в противном случае может возникнуть ошибка. Пример для аналитических вычислений: функция ${\displaystyle f(t)=(a^{-1/t})^{t},}$ где ${\displaystyle a}$ — произвольное положительное вещественное число. При ${\displaystyle t\to 0}$ мы получаем неопределённость типа ${\displaystyle 0^{0},}$ и, если не отличать тип предела ${\displaystyle 0^{0}}$ (где каждый из нулей обозначает стремление к нулю) и значение ${\displaystyle 0^{0}}$ (где каждый из нулей и есть ноль), можно ошибочно посчитать, что предел равен 1. На самом деле данное выражение тождественно равно ${\displaystyle a^{-1}.}$ Это означает, что бесконечно малая в бесконечно малой степени может в пределе дать любое значение, не обязательно единицу. Аналогичные ошибки могут быть сделаны, если использовать соглашение в алгебраических преобразованиях.

История различных точек зрения

Дискуссия по поводу определения ${\displaystyle 0^{0}}$ продолжается, по крайней мере, с начала XIX века. Многие математики тогда принимали соглашение ${\displaystyle 0^{0}=1}$, но в 1821 году Коши^[4] причислил ${\displaystyle 0^{0}}$ к неопределённостям, таким, как ${\displaystyle {\frac {0}{0}}.}$ В 1830-х годах Либри^{[англ.][5][6]} опубликовал неубедительный аргумент в пользу ${\displaystyle 0^{0}=1}$ (см. Функция Хевисайда § История), и Мёбиус^[7] встал на его сторону, ошибочно заявив, что ${\displaystyle \lim _{t\to 0^{+}}f(t)^{g(t)}=1}$ всякий раз, когда ${\displaystyle \lim _{t\to 0^{+}}f(t)=\lim _{t\to 0^{+}}g(t)=0}$. Обозреватель, который подписал своё имя просто как «S», предоставил приведённый выше контрпример ${\displaystyle (e^{-1/t})^{t}}$, и это немного успокоило дебаты. Больше исторических деталей можно найти в статье Кнута (1992)^[8].

Более поздние авторы интерпретируют ситуацию выше по-разному. Часть математиков считает, что ${\displaystyle 0^{0}}$ должно быть определено как 1. Например, Кнут (1992) уверенно утверждает, что ${\displaystyle 0^{0}}$ «должно быть 1», делая различие между значением ${\displaystyle 0^{0}}$, которое должно равняться 1, как это было предложено Либри, и предельной формой ${\displaystyle 0^{0}}$ (аббревиатура для предела ${\displaystyle f(x)^{g(x)}}$ где ${\displaystyle f(x),g(x)\to 0}$), что обязательно является неопределённостью, как указано Коши: «И Коши, и Либри были правы, но Либри и его защитники не понимали, почему истина на их стороне»^[8]. Авторитетный сайт MathWorld, приведя мнение Кнута, всё же констатирует, что обычно значение ${\displaystyle 0^{0}}$ считается неопределённым, несмотря на то, что соглашение ${\displaystyle 0^{0}=1}$ позволяет в некоторых случаях упростить запись формул^[9].

Другие математики утверждают, что наилучшее значение для ${\displaystyle 0^{0}}$ зависит от контекста, и поэтому определение его раз и навсегда проблематично^[10]. Согласно Бенсону (1999), «Выбор, следует ли определять ${\displaystyle 0^{0},}$ основан на удобстве, а не на правильности. Если мы воздержимся от определения ${\displaystyle 0^{0}}$, то некоторые утверждения становятся излишне неудобными. <…> Консенсус заключается в использовании определения ${\displaystyle 0^{0}=1}$, хотя есть учебники, которые воздерживаются от определения ${\displaystyle 0^{0}}$»^[11].

В России Большая российская энциклопедия, Большая советская энциклопедия, Математический энциклопедический словарь, Справочник по элементарной математике Выгодского, школьные учебники и другие источники однозначно характеризуют ${\displaystyle 0^{0}}$ как выражение, не имеющее смысла (неопределённость).

Раскрытие неопределённости 0⁰

Если даны две функции ${\displaystyle f(x)}$ и ${\displaystyle g(x)}$, которые стремятся к нулю, то предел ${\displaystyle f(x)^{g(x)}}$ в общем случае, как показано выше, может быть любым. Таким образом, с этой точки зрения ${\displaystyle 0^{0}}$ является неопределённостью. Для нахождения предела ${\displaystyle f(x)^{g(x)}}$ в этом случае пользуются методами раскрытия неопределённости — как правило, сначала взяв логарифм от данного выражения:

${\displaystyle \ln \left(f(x)^{g(x)}\right)={\frac {g(x)}{\frac {1}{\ln f(x)}}}}$,

а потом воспользовавшись правилом Лопиталя.

Однако при определённых условиях этот предел будет действительно равен единице. А именно: если функции ${\displaystyle f}$ и ${\displaystyle g}$ являются аналитическими в точке ${\displaystyle 0}$ (то есть в некоторой окрестности точки ${\displaystyle 0}$ совпадают со своим рядом Тейлора), и ${\displaystyle f(0)=g(0)=0}$, а ${\displaystyle f(x)>0}$ в окрестности ${\displaystyle (0,\delta )}$, то предел ${\displaystyle f(x)^{g(x)}}$ при ${\displaystyle x}$ стремящемся к нулю справа равен 1^[12][13][14].

Например, таким образом можно сразу убедиться, что

${\displaystyle \lim _{x\to 0^{+}}x^{x}=1,}$

${\displaystyle \lim _{x\to 0^{+}}(\sin x)^{\operatorname {tg} x}=1,}$

${\displaystyle \lim _{x\to 0^{+}}\left(e^{x+1}-e\right)^{x}=1.}$

При этом надо не забывать, что если хотя бы одна из функций не разлагается в ряд Тейлора в точке 0 или ${\displaystyle f(x)}$ тождественно равен 0, то предел может быть любым, или может не существовать. Например,

${\displaystyle \lim _{x\to 0^{+}}x^{a/\ln x}=e^{a},}$

${\displaystyle \lim _{x\to 0^{+}}\left(e^{-1/x}\right)^{x}=e^{-1},}$

${\displaystyle \lim _{x\to 0^{+}}0^{x}=0.}$

Комплексный случай

Для комплексных чисел ${\displaystyle u,v}$ выражение вида ${\displaystyle u^{v}}$ для ${\displaystyle u\neq 0}$ многозначно и определяется как ${\displaystyle e^{v\operatorname {Ln} u}}$, Однако комплексный логарифм ${\displaystyle \operatorname {Ln} 0}$ не определён ни в какой своей ветви, и это лишает смысла любое соглашение не только для ${\displaystyle 0^{0},}$ но и для любого ${\displaystyle 0^{z},}$ хотя часть авторов предлагает при ${\displaystyle z\neq 0}$ принять соглашение ${\displaystyle 0^{z}=0}$^[15][16][17].

В компьютерах

Стандарт IEEE 754-2008, описывающий формат представления чисел с плавающей запятой, определяет три функции возведения в степень^[18]:

• Функция для возведения в целую степень: ${\displaystyle \operatorname {pown} (x,y)}$. Согласно стандарту, ${\displaystyle \operatorname {pown} (x,0)=1}$ для любого ${\displaystyle x}$, в том числе, когда ${\displaystyle x}$ равен нулю, NaN или бесконечности.
• Функция для возведения в произвольную степень: ${\displaystyle \operatorname {powr} (x,y)}$ — по сути равная ${\displaystyle \exp {\big (}y\ln(x){\big )}}$. Согласно стандарту, ${\displaystyle \operatorname {powr} (\pm 0,\pm 0)}$ возвращает значение «не число» NaN.
• Функция для возведения в произвольную степень, которая особо определена для целых чисел: ${\displaystyle \operatorname {pow} (x,y)}$. Согласно стандарту, ${\displaystyle \operatorname {pow} (x,\pm 0)=1}$ для всех ${\displaystyle x}$ (так же, как и ${\displaystyle \operatorname {pown} (x,0)}$). Данное соглашение в целом имеет разумное обоснование (см. ниже), однако вопрос может вызывать случай, когда x=NaN.

Во многих языках программирования ноль в нулевой степени равен 1. Например, в C++: pow(0, 0) == 1, в языке Haskell это верно для всех трёх стандартных операций возведения в степень: 0^0 == 1, 0^^0 == 1, 0**0 == 1. То же касается и стандартного калькулятора MS Windows.

Хотя общеизвестно, что ${\displaystyle 0^{0}}$ — это неопределённость, поведение некоторых функций, возвращающих в данном случае ${\displaystyle 1}$, не является результатом соглашения или ошибкой, оно имеет логическое обоснование. Дело в том, что в компьютерной арифметике числовые данные подразделяются на целые и вещественные. Это может неявно использоваться в некоторых функциях, реализующих операцию возведения в степень. Например, так сделано в калькуляторе Windows и функции pow в C++. Для целого и вещественного показателя степени используются различные алгоритмы, и функция возведения в степень анализирует показатель: если он равен целому числу, то вычисление степени идёт по другому алгоритму, в котором отрицательные и нулевое основания степени являются допустимыми. Если показатель степени принадлежит множеству целых чисел и равен 0, а основание - вещественное число, то операцию ${\displaystyle 0^{0}}$ следует определять не иначе как ${\displaystyle \lim _{x\to 0}x^{0}}$. Поскольку 0 в показателе точный, предельный переход касается только основания и (в отличие от случая, когда показатель тоже вещественный) определён однозначно и равен ${\displaystyle 1}$. Сказанное в полной мере относится и к случаю вычисления выражения ${\displaystyle (\pm \infty )^{0}}$.

Литература

• Степенная функция // Большая советская энциклопедия. — М.: Советская энциклопедия, 1969—1978.
• Степенная функция : [арх. 19 октября 2022] // Большая российская энциклопедия : [в 35 т.] / гл. ред. Ю. С. Осипов. — М. : Большая российская энциклопедия, 2004—2017.

Примечания

1. БРЭ.
2. БСЭ, 1969—1978: «При ${\displaystyle x=0}$ степенная функция ${\displaystyle x^{a}}$ … не определена при ${\displaystyle a<0}$; ${\displaystyle 0^{0}}$ определённого смысла не имеет».
3. N. Bourbaki. Theory of Sets // Elements of Mathematics, Springer-Verlag, 2004, III, § 3.5.
4. Augustin-Louis Cauchy. Cours d’Analyse de l'École Royale Polytechnique (1821). In his Oeuvres Complètes, series 2, volume 3.
5. Guillaume Libri. Note sur les valeurs de la fonction 0^0x, Journal für die reine und angewandte Mathematik 6 (1830), 67-72.
6. Guillaume Libri. Mémoire sur les fonctions discontinues, Journal für die reine und angewandte Mathematik 10 (1833), 303—316.
7. A. F. Möbius. Beweis der Gleichung 0⁰ = 1, nach J. F. Pfaff (нем.) // Journal für die reine und angewandte Mathematik : magazin. — 1834. — Bd. 12. — S. 134—136. Архивировано 30 апреля 2019 года.
8. Donald E. Knuth, Two notes on notation, Amer. Math. Monthly 99 no. 5 (May 1992), 403—422 (arXiv: math/9205211 Архивная копия от 20 ноября 2018 на Wayback Machine [math.HO]).
9. Weisstein, Eric W. Power  (неопр.). Wolfram MathWorld. Дата обращения: 5 октября 2018. Архивировано 12 сентября 2018 года.
10. Например: Edwards and Penny (1994). Calculus, 4th ed, Prentice-Hall, p. 466; Keedy, Bittinger, and Smith (1982). Algebra Two. Addison-Wesley, p. 32.
11. Donald C. Benson, The Moment of Proof : Mathematical Epiphanies. New York Oxford University Press (UK), 1999. ISBN 978-0-19-511721-9.
12. Louis M. Rotando; Henry Korn. The indeterminate form 0⁰ (англ.) // Mathematics Magazine : magazine. — 1977. — January (vol. 50, no. 1). — P. 41—42. — doi:10.2307/2689754.
13. sci.math FAQ: What is 0^0?  (неопр.) www.faqs.org. Дата обращения: 30 августа 2019. Архивировано 2 декабря 2010 года.
14. Leonard J. Lipkin. On the Indeterminate Form 0⁰ // The College Mathematics Journal. — 2003. — Т. 34, вып. 1. — С. 55—56. — ISSN 0746-8342. — doi:10.2307/3595845. Архивировано 13 октября 2019 года.
15. «Since log(0) does not exist, 0^z is undefined. For Re(z) > 0, we define it arbitrarily as 0». (George F. Carrier, Max Krook and Carl E. Pearson, Functions of a Complex Variable: Theory and Technique, 2005, p. 15).
16. «For z = 0, w ≠ 0, we define 0^w = 0, while 0⁰ is not defined». Mario Gonzalez, Classical Complex Analysis, Chapman & Hall, 1991, p. 56.
17. «Let’s start at x = 0. Here x^x is undefined». Mark D. Meyerson, The x^x Spindle, Mathematics Magazine 69, no. 3 (June 1996), 198—206.
18. IEEE Computer Society. IEEE Standard for Floating-Point Arithmetic § 9.2.1 (англ.) : journal. — IEEE, 2008. — 29 August. — ISBN 978-0-7381-5753-5. — doi:10.1109/IEEESTD.2008.4610935. Архивировано 16 июля 2021 года.