8Теорема Вейершстрасса, немного комбинаторики и число e

До сих пор у нас был единственный способ доказать, что некоторая последовательность имеет предел: угадать, чему этот предел равен, а затем использовать определение, чтобы доказать, что он действительно этому равен. В этой лекции мы познакомимся с утверждением, которое позволит доказать существование предела в ситуации, когда его значение неизвестно. Но начнём мы слегка издалека.

8.1Ограниченные множества

8.1.1Максимум и минимум

Определение 1. Пусть — некоторое числовое множество, . Пусть существует такое число , что все элементы множества не превосходят :
Тогда множество называется ограниченным сверху.

Аналогично, с заменой неравенства на , определяется множество, ограниченное снизу.

Замечание 1. Для дальнейшего полезно ввести новые обозначения, позволяющие описывать множества, получаемые из других множеств по некоторым правилам. Проще всего объяснить их на примере.
  • — множество всех квадратов всех натуральных чисел. Фигурные скобки подсказывают, что мы создаём новое множество, после вертикальной черты написано, какие значения пробегает переменная , а до черты — как из переменной изготовить элементы множества.
  • — это тоже множество квадратов всех натуральных чисел, только записанное иначе. Здесь до вертикальной черты написано, из какого множества выбирается , а после — какому условию должно удовлетворять, чтобы быть включённым в наше новое множество.

Замечание 2. Пусть есть последовательность . Рассмотрим множество всех её элементов: . (В отличие от последовательности, это просто множество: в нём нет никакого порядка, и каждый элемент в него может входить только один раз. Например, для последовательности получится конечное множество ; такое же множество получится для последовательности .) Это множество ограничено тогда и только тогда, когда последовательность ограничена. (Докажите!)

Определение 2. Рассмотрим произвольное числовое множество . Его максимумом (соответственно, минимумом) называется такой элемент , который не меньше (соответственно, не больше) всех элементов :

Вопрос 1. Что будет, если заменить нестрогое неравенство на строгое?
  Ничего не изменится, мы такое уже проходили.

Неверный ответ. В этот раз всё не так.

  Определение потеряет свой смысл.

Верный ответ. Действительно, если потребовать строгое неравенство, условие будет всегда нарушаться: элемент не может быть строго больше или строго меньше самого себя.

Упражнение 1. Докажите, что если максимум (минимум) определён, он задан единственным образом.

Если множество конечное, у него всегда определён максимум и минимум, мы уже пользовались этим свойством. (Доказать это аккуратно с помощью индукции — полезное упражнение.) Если множество бесконечно, становится интереснее.

Если максимум множества существует, это множество обязательно ограничено сверху: действительно, сам этот максимум можно подставить в определение 1 в качестве . Аналогично, если существует минимум, множество ограничено снизу.

В обратную сторону, однако, это не работает: например, если множество ограничено сверху, ещё не факт, что у него есть максимум.

Пример 1. Пусть — полуоткрытый интервал, включащий в себя , но не включающий единицу. Это множество ограничено и сверху, и снизу. У него есть минимум — это число , но нет максимума. Действительно, любое число меньше 1 (см. рис. 8.1). Рассмотрим число — середину отрезка . Оно больше , но меньше (проверьте аккуратно с помощью неравенств). Значит, не является максимумом.
Иллюстрация к доказательству утверждения о том, что у
полуинтервала $[0, 1)$ нет максимума, описание см. в тексте.
Рис. 8.1: У множества нет максимума.

Это неудачно: мы бы хотели как-то обобщить понятие максимума и минимума, чтобы они существовали для любого ограниченного с соответствующей стороны множества. Если ещё раз посмотреть на пример с полуоткрытым интервалом , и задать вопрос, какое число подходит на роль его «обобщённого максимума», напрашивается ответ, что это число . Единственная причина, по которой не является максимумом на самом деле — то, что не принадлежит нашему множеству. Если бы мы могли снять это ограничение…

8.1.2Точная верхняя и нижняя грани

Что будет, если мы уберём в определении максимума требование, чтобы принадлежал . Для полуинтервала , число будет удовлетворять новому определению. Однако, не только оно: любое число, большее 1, тоже ему будет удовлетворять. Мы лишились единственности. Однако, сделали важный шаг на пути к построению нужного нам понятия. Штука, которую мы определили, называется верхней гранью множества.

Определение 3. Верхней гранью множества называется такое число , которое не меньше всех элементов :
Аналогично (заменой неравенства на ) определяетcя нижняя грань множества.

Множество всех верхних граней будем обозначать через (от англ. upper bound), а нижних — через (от lower bound).

Сравнивая определения 3 и 1, мы видим, что множество является ограниченным сверху (снизу) тогда и только тогда, когда у него есть верхняя (нижняя) грань, то есть непусто (соответственно, непусто). Собственно, верхняя грань (нижняя грань) — это ровно та самая константа , которая участвует в определении 1. Слово «грань» здесь следует понимать как «то, что ограничивает».

Вернёмся к задаче определения «обобщённого максимума» и примеру с полуинтервалом . Множеством верхих граней этого интервала оказывается весь луч , см. рис. 8.2. Какое число из этого луча в наибольшей степени достойно того, чтобы назваться «обобщённым максимумом» множества ? Очевидно, самое маленькое: число .

Нарисован полуинтервал X=[0, 1). Его множеством нижних граней LB(X)
является луч (-∞, 0], а множеством верхних граней UB(X) является луч
[1, +∞).
Рис. 8.2: Множества верхних и нижних граней для .

Определение 4. Пусть — некоторое числовое множество. Его точной верхней гранью называется самая маленькая верхняя грань, то есть минимум множества . Аналогично, точной нижней гранью называется самая большая из нижних граней, то есть максимум множества .

Точная верхняя грань также называется супремумом, а точная нижняя грань — инфимумом. В обозначениях:

Позвольте! — скажет тут читатель, — вы водите нас кругами! Обещали построить обобщение максимума и минимума, но вернулись в итоге к ним же самим: супремум определяется через минимум, а инфимум — через максимум. Казалось бы, мы должны столкнуться с теми же самыми трудностями, от которых стремились уйти: максимум и минимум могут быть не определены. Стоило ли тогда так мучаться?

Оказывается, да, стоило. Дело в том, что каким бы ни было множество , если множество его верхних граней не пусто, у него обязательно есть минимальный элемент , и аналогично если непусто множество нижних граний, определён его максимум.

Давайте ещё раз вернёмся к полуинтервалу . Его множество верхних граней — замкнутый луч , содержащий единицу. Может показаться, что если мы теперь возмём вместо полуинтервала замкнутый отрезок , множество верхних граней станет открытым лучом и лишится своего минимального элемента. Но нет! Из-за использования нестрого неравенства в определении 3, верхняя грань может принадлежать множеству (это не запрещено). Множеством всех верхних граней отрезка по-прежнему является замкнутый луч , и он по-прежнему содержит минимальный элемент — число . Здорово, правда?

Теорема 1. Если множество ограничено сверху, у него есть точная верхняя грань. Если оно ограничено снизу — точная нижняя.

Эта теорема доказывается не очень сложно, хотя и немножко занудно. (Как-то я даже хотел рассказать доказательство на лекциях, но, прикинув масштабы бедствия, понял, что все быстро уснут, и отказался от этой идеи.) Например, доказательство можно найти в Википедии. Выглядит жутковато, но если сесть и аккуратно в нём разобраться, вы увидите, что оно не очень сложное. Тем не менее, мы не будем его подробнее обсуждать. Однако, стоит обсудить, почему эта теорема не так очевидна, как может показаться из рассмотрения примера с полуинтервалом.

Представьте себе, что мы переместились во времена Пифагора, когда про вещественные числа ещё ничего не знали. Рассмотрим множество

Древние греки вполне могли такое множество рассмотреть: оно состоит из рациональных чисел, и в его определении никакие иррациональные числа не участвуют. Однако, если бы древний грек попытался найти точную верхнюю грань множества , его бы постигла неудача. Действительно, он бы рассматривал только рациональные верхние грани (других чисел он не знает). Поскольку , как мы сейчас знаем, иррационален (см. теорему 2 из лекции 1), множество рациональных верхних граней для не содержит минимального элемента: какое бы рациональное число, большее мы бы ни взяли, можно найти рациональное число поменьше, по-прежнему являющееся верхней гранью для . (Это следует из плотности множества рациональных чисел, которую мы доказывали на семинарах.) Неудача!

Тот факт, что у любого ограниченного сверху подмножества множества вещественных чисел есть (вещественная) точная верхняя грань — пожалуй, главное, что отличает вещественные числа от рациональных.

8.2Теорема Вейершстрасса

Вернёмся к последовательностям.

Теорема 2. (Вейершстрасс) Пусть последовательность ограничена сверху и неубывает. Тогда она имеет предел.
Нарисован график неубывающей последовательности, ограниченной
сверху числом C. Между C и максимальным изображенным элементом
последовательности есть заметный зазор.
Рис. 8.3: Иллюстрация к теореме 2. Неубывающая ограниченная последовательность. Здесь число является какой-то из верхних граней (не обязательно точной) для множества всех членов последовательности.

Доказательство. Рассмотрим множество элементов последовательности . Поскольку последовательность ограничена сверху, это множество тоже ограничено сверху. Возьмём его точную верхнюю грань (она существует по теореме 1) и обозначим её за . Докажем, что является пределом нашей последовательности.

Близкие элементы существуют. Сперва докажем более слабое утверждение: докажем, что элементы последовательности подходят к сколь угодно близко, см. рис. 8.4. Формально:

Это ещё не определение предела (мы ничего не говорим про бесконечный хвост последовательности, а говорим только про один элемент), но давайте начнём с этого.
Нарисован график неубывающей последовательности, ограниченной
сверху числом C и числом A < C. Между A и максимальным изображенным элементом
последовательности нет заметного зазора. Нарисована также прямая
y=A-ε и n=N. Все точки, начиная с n=N, лежат в коридоре между
y=A и y=A-ε.
Рис. 8.4: Иллюстрация к доказательству теоремы Вейершстрасса, .
От противного, пусть это неверно. Запишем отрицание:
Заметим, что раз — верхняя грань множества всех элементов последовательности, каждый из элементов не больше и значит модуль раскрывается как . Тогда нашлось такое , что все элементы последовательности удовлетворяют неравенству
или, иными словами, . Таким образом, все элементы не превосходят , то есть — верхняя грань. (На рис. 8.4 в этом случае не было бы никаких точек последовательности выше .) Но , а мы предположили, что точная верхняя грань, то есть минимум из всех верхних граней. Противоречие!

Иными словами, если элементы последовательности не подходят к сколь угодно близко, то между и этими элементами есть «зазор», и можно было бы уменьшить, сохранив его свойство быть верхней гранью. Это противоречит тому, что точная (самая маленькая) верхняя грань.

Монотонность. Заметим, что в силу монотонности, если , то для всякого , . Поскольку для всех элементов выполняется, что , отсюда следует, что для .

Таким образом, утверждение доказано по определению предела: мы показали, что для всякого найдётся такое (определяемое из формулы (8.3)), что для всех , .

Замечание 3. Конечно, легко сформулировать и доказать теорему Вейершстрасса для ограниченных снизу невозрастающих последовательностей.

Замечание 4. В ходе доказательства получили, что предел неубывающей последовательности является точной верхней гранью всех её членов. Отсюда в частности следует, что все члены не превосходят предела: если неубывает и имеет предел , то для всех натуральных , . Конечно, мы могли бы получить этот результат и непосредственно: в силу неубывания, для всех , . Зафиксируем и перейдём в этом неравенстве к пределу при . (Поскольку предел зависит только от «хвоста» последовательности, тот факт, что неравенство выполняется не для всех , а только для тех, которые больше , не является препятствием — можно просто выкинуть первые элементов обеих последовательностей.) Получим .

8.3Биномиальные коэффициенты

8.3.1Упорядоченные наборы

Определение 5. Пусть есть множества и . Декартовым произведением этих множеств называется множество упорядоченных пар , где и . Пишут:

Пример 2. Рассмотрим множество — декартов квадрат множества вещественных чисел. Оно состоит из упорядоченных пар , где и — вещественные числа. С этим объектом мы хорошо знакомы из школы: это обыкновенная декартова плоскость.

Вопрос 2. Пусть множества и конечны: в 3 элемента, а в два. Сколько элементов в множестве ?
  6

Верный ответ. Конечно: к каждому из трёх элементов можно приписать два элемента из , значит всего шесть элементов.

  5

Неверный ответ. Интересно, как это получилось?

  3

Неверный ответ. Ой?

  12

Неверный ответ. Откуда это могло взяться?

Можно рассматривать декартово произведение больше, чем двух множеств: оно состоит из упорядоченных наборов элементов, каждый из которых взят из соответствующего сомножителя. Например:

Можно было бы расставить скобки в выражении и, например, получить множество , элементами которого были бы упорядоченные пары , где и , то есть — тоже упорядоченная пара. Но с практической точки зрения обычно нет никакой разницы между выражениями вида и .

Определение 6. Результат -кратного декартова умножения множества на себя называется -й декартовой степенью множества и обозначается . Оно состоит из упорядоченных -элементных наборов элементов множества :

Про упорядоченные наборы важно понимать следующее: элементы в них могут повторяться (никто не мешает вам рассмотреть точку ) и порядок следования элементов важен (точка — это совсем не то же самое, что точка ).

Утверждение 1. Пусть — конечное множество, состоящее из элементов. Тогда состоит из элементов. Иными словами, количество -элементных упорядоченных наборов из -элементного множества равно .

Доказательство. Совсем аккуратное доказательство проводится по индукции, но и без неё всё довольно наглядно. Пусть нам нужно выбрать -элементный упорядоченный набор. Будем выписывать его по очереди. У нас есть различных способов выбрать первый элемент, см. рис. 8.5. После того, как первый элемент выбран, к нему нужно приписать второй элемент, и это можно сделать разными способами. Всего получается способов выписать первые два элемента. Когда первые два элемента зафиксированы, есть способов выписать третий элемент, значит количество вариантов умножается на и становится равно . И так далее до -го элемента.
Иллюстрация к построению всех возможных упорядоченных наборов из
элементов 1 и 2. Из левой точки выходят две стрелочки, на одной
написано 1, на другой 2, они указывают в две новые точки. Из
каждой из этих точек выходят по две стрелочки (опять на одной
написано 1, на другой 2), которые ведут в четыре новые точки. Из
каждой из этих точек выходит по две стрелочки, получается 8
точек. Каждой из этих точек соответствует упорядоченный набор,
который считывается из цифр, написанных на стрелочках.
Рис. 8.5: Построение всевозможных трёхэлементных упорядоченных наборов из чисел и . Выбор каждого следующего элемента удваивает количество наборов.

8.3.2Наборы без повторений

Рассмотрим теперь упорядоченные наборы без повторяющихся элементов.

Утверждение 2. Количество -элементных упорядоченных наборов из -элементного множества равно
где -факториал. (По определению полагают, что .)

Доказательство. Доказательство очень похоже на доказательство утверждения 1, см. рис. 8.6 Будем выписывать набор последовательно. Есть способов выбрать первый элемент. После того, как первый элемент выбран, остаётся способ выбрать второй элемент (потому что повторяться нельзя, и значит множество допустимых элементов сокращается на ). Значит, есть способов выбрать первые два элемента. И так далее. Получится сомножителей, начиная с . Значит, последний сомножитель будет . (Чтобы не запутаться, всегда полезно подставить какое-нибудь конкретное значение — например, — и посмотреть, что получится.)

Иллюстрация к построению всех возможных упорядоченных наборов из
элементов 1, 2, 3, 4 без повторений длины 3. Из левой точки
выходят четыре стрелочки, на них написано 1, 2, 3, 4, они
указывают в четыре новые точки. Из каждой из этих точек выходят по
три стрелочки, на каждой из которых написана цифра, которая не
написана на входящей стрелочке. Получается 12 новых точек. Из
каждой из них выходит по две стрелочки с двумя оставшимися
цифрами, получается 24 точки.  Каждой из этих точек
соответствует упорядоченный набор, который считывается из цифр,
написанных на стрелочках.
Рис. 8.6: Построение всевозможных трёхэлементных упорядоченных наборов без повторений из чисел , , и . На каждом следующем шаге число возможных элементов уменьшается на 1.

8.3.3Неупорядоченные наборы без повторений

Сколько существует -элементных подмножеств данного -элементного множества? Если выписать элементы подмножества в строчку, получится -элементный набор без повторений. Однако, между упорядоченными наборами и подмножествами есть важное различие: множество не упорядочено. Наборы и — разные наборы, множества и — одно и то же множество. Поэтому количество упорядоченных наборов больше количества подмножеств. Во сколько раз?

Вопрос 3. Пусть есть -элементное множество. Сколькими способами его элементы можно упорядочить (выстроить в ряд)? Иными словами, сколько есть различных -элементных наборов без повторяющихся элементов из элементов данного -элементного множества?

Ответ на этот вопрос содержится в утверждении 2: нужно просто подставить . Видно, что в этом случае , а по определению . Значит, искомое число способов равно .

Утверждение 3. Обозначим количество -элементных подмножеств -элементного множества через . Тогда

Доказательство. Пусть мы выписали все упорядоченных -элементных наборов наборов из элементов нашего -элементного множества (см. утверждение 2 ). Рассмотрим какой-нибудь из этих наборов. Его элементы можно переставлять разными способами, получая новые наборы из нашего списка (включая его самого). Все они задают одно и то же подмножество. Значит, если мы хотим посчитать подмножества, нужно все эти наборов посчитать один раз. Таким образом, чтобы получить количество подмножеств из количества наборов, надо количество наборов разделить на . (Поскольку каждому подмножеству соответствует ровно упорядоченных наборов.) Отсюда и следует формула (8.4).
Упорядоченные наборы с предыдущей картинки, которые задают одно
и то же множество, объединены. Например, множеству {1, 2, 3}
соответствует шесть наборов: (1, 2, 3), (1, 3, 2), (2, 1, 3),
(2, 3, 1), (3, 1, 2), (3, 2, 1).
Рис. 8.7: Построение всевозможных трёхэлементных подмножеств множества . Мы сначала построили всевозможные упорядоченные 3-элементные наборы без повторений, а потом объединили те из них, которые отличаются только порядком и следовательно задают одно и то же множество. На рисунке отмечены два таких объединения, в каждом по 6 наборов (здесь — число способов переставить три элемента). Напишите, какие два множества мы не указали, и отметьте все наборы, которые задают эти множества.

Упражнение 2. Самый лучший способ понять все утверждения, сформулированные выше, такой: взять какое-нибудь небольшое и и пройти все шаги. Например, , . Выпишите все двухэлементные упорядоченные наборы без повторений с элементами из множества , руководствуясь алгоритмом из утверждения 2. Посчитайте, сколько их получилось. Затем объедините их в группы, так, чтобы в каждой группе наборы отличались только порядком (и следовательно задавали одно и то же множество). Сколько элементов в каждой группе? Сколько всего групп? Повторите эти действия, например, с , .

Замечание 5. Числа называются биномиальными коэффициентами (почему так — будет ясно в следующем разделе) или числом сочетаний из элементов по . Другое обозначение: — обратите внимание, что в этом случае ставится сверху.

8.3.4Бином Ньютона

Рассмотрим выражение . Что получится, если раскрыть в нём скобки и привести подобные слагаемые?

Пример 3. Посмотрим, что происходит при небольших значениях :

Мы видим, что если не приводить подобные слагаемые, каждый раз получается сумма всевозможных мономов, состоящих из сомножителей, каждый сомножитель — или — они выглядят как «слова» типа . Так будет и дальше: каждый раз нужно умножить на , то есть приписать слева к каждому «слову», получающемуся в , букву (получили новых «слов» длины ), а затем букву (получили ещё новых «слов» длины ), и всё сложить. Если в разложении были все -буквенные «слова» из букв и , то в разложении будут все -буквенные слова из букв и .

Теперь нужно привести подобные слагаемые. Например, для мы замечаем, что и значит коэффициент при равен двум. Для , чтобы посчитать коэффициент при , нужно найти количество «слов», в которых две буквы и одна буква . Таких слов 3: , и . Значит, коэффициент при равен трём.

Теорема 3. Если раскрыть собки и привести подобные слагаемые в выражении , получится сумма мономов вида , коэффициент перед каждым таким мономом равен :

Доказательство. Коэффициент при выражении — это количество различных «слов» длины , в которых входит ровно раз буква и оставшиеся раз буква . Сколько таких слов существует? Поскольку мы знаем длину слова (она равна ), и знаем, что в слове бывают только буквы и , чтобы задать такое слово, нужно просто задать, на каких позициях стоят буквы . Всего возможных позиций , из них позиций нужно заполнить буквами . Чтобы выбрать эти позиции, нужно из -элементного множества (всех позиций) выбрать -элементное подмножество (тех позиций, на которых мы напишем ). Это можно сделать различными способами.

Замечание 6. Разумеется, у этой теоремы есть строгое формальное доказательство через индукцию. Провести его — полезное упражнение. Однако, на мой взгляд, понять смысл из этого доказательство — довольно трудно. Поэтому я его здесь не привожу.

8.4Число

Рассмотрим следующий предел
Чему он равен? Если вы попробуете применить арифметику пределов, то заметите, что основание степени стремится к , а показатель — к бесконечности. Чему «равняется» ? Увы, это неопределенность. Лобовой метод тут не работает. Мы пока даже не знаем, существует этот предел, или нет. Однако, скоро узнаем.

Утверждение 4. При всех ,

Доказательство. Случай разбирается явно. Пусть . Раскроем скобки по биному Ньютона (ага! пригодился!). Имеем:
Первые два слагаемые равны . Рассмотрим -е слагаемое, . Оно имеет вид:
Заметим, что каждый из сомножителей вида не превосходит 1. Значит, всё слагаемое не превосходит . Но с другой стороны для всех натуральных (проверьте, а ещё лучше — докажите по индукции, что это так) и значит . Имеем:
Слагаемые, начиная с третьего, образуют геометрическую прогрессию с положительным знаменателем меньшим . Её сумма меньше суммы соответствующей бесконечной геометрической прогрессии, которая в свою очередь равна 1. (Не нужно знать формулу суммы бесконечной геометрической прогрессии, чтобы это увидеть: если у вас была одна шоколадка, вы её разломали пополам, съели половину (то есть ), остаток разломали снова пополам, съели половину от половину (то есть ) и т.д., в каждый момент времени вы съедите меньше, чем целую шоколадку, а в пределе съедите её всю.) Значит, вся сумма меньше трёх.

Утверждение 5. Последовательность
монотонно возрастает.

Доказательство. Рассмотрим представление (8.5). Что произойдёт при увеличении на единицу? Первые два слагаемые не изменятся. Добавится ещё одно неотрицательное слагаемое. Что произойдёт с остальными?

Посмотрим на правую часть формулы (8.6). Что произойдёт с ней, когда увеличится на , а останется прежним? Она превратится в такую штуку:

Число сомножителей останется прежним (их штук, а мы не меняли), но каждый сомножитель вида заменился на сомножитель вида . Заметим, что они все от этого увеличились, кроме первого (который как был единицей, так и остался): Итак, в результате увеличения на единицу к сумме (8.6) добавится полжительное слагаемое, а остальные слагаемые не уменьшатся. Значит, сумма возрастёт.

Следствие. Таким образом, наша последовательность возрастает и ограничена сверху. Значит, по теореме Вейершстрасса, у неё есть предел.

Оказывается, этот предел не записывается в виде какого-либо простого арифметического выражения, и представляет собой иррациональное число. Оно обозначается буквой и играет важную роль в построении анализа.

8.5Заключение

Мы доказали теорему Вейерштрасса, позволяющую исследовать на сходимость монотонные ограниченные последовательности. С её помощью, а также с помощью бинома Ньютона, мы определили число как предел некоторой последовательности. Оно нам ещё пригодится.