Часть V · Линейная алгебра Глава 37 из 60

Векторные пространства

Стрелки, многочлены, звуковые сигналы и даже магические квадраты складываются и умножаются на числа по одним и тем же правилам. Восемь аксиом — и всё, что мы знаем о стрелках, начинает работать во всех этих мирах сразу.

1–2 курс 60 минут

Опирается на: 36 · Метод Гаусса

Вы научитесь

узнавать векторное пространство в многочленах, функциях, решениях уравнений и магических квадратах
проверять линейную независимость, находить базис и размерность
переходить от одного базиса к другому и находить ядро и образ линейного отображения

Линия V · Линейная алгебра

Вы здесь: 37 · Векторные пространства

Прошлая глава закончилась списком странных совпадений. Строки матрицы мы складывали, как стрелки. Решения однородной системы складываются и снова дают решения. Две параболы из задачи про наблюдения, $3 + 2t + t^2$ и $2 - t + t^2$, в сумме дают $5 + t + 2t^2$, и её высоты в моменты $1$, $2$, $3$ равны $8$, $15$, $26$ — суммам высот слагаемых. Звуковые сигналы складываются, когда играют два инструмента: давление воздуха в каждый момент — сумма давлений от каждого. А ручка громкости умножает сигнал на число.

Всё это разные вещи: у стрелки есть длина и направление, у многочлена — корни и степень, у сигнала — тембр. Но если забыть обо всём, кроме двух действий — сложить и умножить на число, — они окажутся неотличимы. Математики поступили расчётливо: записали правила этих двух действий один раз, назвали всё, что им подчиняется, векторным пространством, и доказали теоремы сразу для всех. Эта глава — путешествие по таким мирам. В каждом из них пригодится что-то новое, и каждое новое понятие будет работать во всех остальных.

Столбики вместо стрелок

Начнём с моста между мирами. Вектор $(3;\,1)$ из главы о векторах — стрелка на плоскости. Но его можно нарисовать и иначе: два столбика высотой $3$ и $1$. Вектор из пространства — три столбика. Нарисовать стрелку в десятимерном пространстве нельзя, а десять столбиков — пожалуйста. Складываются столбики так же, как координаты: высота к высоте.

Теперь увеличим число столбиков. Сто столбиков, тысяча — и частокол превращается в график функции. Функция и есть вектор с бесконечным числом координат: по одной на каждую точку $t$. Сложить две функции — значит сложить их значения в каждой точке, «столбик к столбику». Звуковой сигнал в компьютере — ровно такой вектор: в формате компакт-диска это сорок четыре тысячи сто значений давления на каждую секунду звука.

Меняйте число координат и коэффициенты комбинации $a\mathbf f + b\mathbf g$. При двух координатах векторы видны ещё и стрелками; при сотне — уже графиками. Сложение от этого не меняется.

Паспорт: восемь аксиом

Какие правила нужны, чтобы с новыми объектами можно было обращаться, как со стрелками? Выпишем то, чем мы пользовались, не задумываясь.

Векторное пространство — множество $V$, в котором определены сложение (любым $\mathbf u, \mathbf v \in V$ сопоставлен элемент $\mathbf u + \mathbf v \in V$) и умножение на число (любым $\alpha \in \mathbb R$ и $\mathbf v \in V$ сопоставлен элемент $\alpha\mathbf v \in V$), причём выполняются восемь аксиом ниже. Элементы $V$ называют векторами, какой бы природы они ни были.

Для любых $\mathbf u, \mathbf v, \mathbf w \in V$ и любых чисел $\alpha, \beta$:

$\mathbf u + \mathbf v = \mathbf v + \mathbf u$;
$(\mathbf u + \mathbf v) + \mathbf w = \mathbf u + (\mathbf v + \mathbf w)$;
есть нулевой вектор $\mathbf 0$: $\mathbf v + \mathbf 0 = \mathbf v$ для всех $\mathbf v$;
у каждого $\mathbf v$ есть противоположный $-\mathbf v$: $\mathbf v + (-\mathbf v) = \mathbf 0$;
$1 \cdot \mathbf v = \mathbf v$;
$\alpha(\beta\mathbf v) = (\alpha\beta)\mathbf v$;
$(\alpha + \beta)\mathbf v = \alpha\mathbf v + \beta\mathbf v$;
$\alpha(\mathbf u + \mathbf v) = \alpha\mathbf u + \alpha\mathbf v$.

Первые четыре аксиомы говорят о сложении, последние четыре — о том, как оно ладит с умножением на числа. Числа здесь действительные; иногда берут комплексные или рациональные, и тогда говорят о пространстве над $\mathbb C$ или над $\mathbb Q$. Годится любое поле — что это такое, объяснит глава 42.

Аксиомы — не всё, что мы знаем про стрелки. Например, что $0 \cdot \mathbf v = \mathbf 0$, в списке нет. Это не упущение: такие факты следуют из аксиом, и их можно доказать один раз для всех миров.

В любом векторном пространстве нулевой вектор единствен, противоположный к каждому вектору единствен, и для всех $\mathbf v$ и $\alpha$ верно $0 \cdot \mathbf v = \mathbf 0$, $\alpha \cdot \mathbf 0 = \mathbf 0$, $(-1) \cdot \mathbf v = -\mathbf v$.

Пользоваться можно только аксиомами — никакой геометрии. Каждое равенство ниже подписано номером аксиомы.

Пусть $\mathbf 0$ и $\mathbf 0'$ — два нулевых вектора. Тогда $\mathbf 0 = \mathbf 0 + \mathbf 0'$ (аксиома 3 для нуля $\mathbf 0'$) $= \mathbf 0' + \mathbf 0$ (аксиома 1) $= \mathbf 0'$ (аксиома 3 для нуля $\mathbf 0$). Нуль один.

Пусть $\mathbf w$ и $\mathbf w'$ противоположны $\mathbf v$. Тогда $\mathbf w = \mathbf w + \mathbf 0 = \mathbf w + (\mathbf v + \mathbf w') = (\mathbf w + \mathbf v) + \mathbf w' = \mathbf 0 + \mathbf w' = \mathbf w'$ (аксиомы 3, 4, 2, затем 1 и 4, затем 1 и 3). Противоположный тоже один.

По аксиоме 7 $0 \cdot \mathbf v = (0 + 0)\mathbf v = 0 \cdot \mathbf v + 0 \cdot \mathbf v$. Прибавим к обеим частям вектор $-(0 \cdot \mathbf v)$: слева получится $\mathbf 0$ (аксиома 4), справа по аксиомам 2, 4 и 3 останется $0 \cdot \mathbf v$. Так же из $\alpha\mathbf 0 = \alpha(\mathbf 0 + \mathbf 0) = \alpha\mathbf 0 + \alpha\mathbf 0$ (аксиомы 3 и 8) следует $\alpha\mathbf 0 = \mathbf 0$.

По аксиомам 5 и 7 $\mathbf v + (-1)\mathbf v = 1 \cdot \mathbf v + (-1)\mathbf v = (1 - 1)\mathbf v = 0 \cdot \mathbf v = \mathbf 0$. Значит, $(-1)\mathbf v$ — противоположный к $\mathbf v$, а он единствен.

Все пять утверждений выведены из аксиом и потому верны в любом векторном пространстве — даже в самом непохожем на стрелки.

Вот мир, где эта лемма совсем не очевидна. Возьмём положительные числа и назовём «сложением» умножение: $x \oplus y = xy$, а «умножением на число» — возведение в степень: $\alpha \odot x = x^\alpha$. Проверьте аксиомы: например, седьмая превращается в $x^{\alpha + \beta} = x^\alpha x^\beta$, восьмая — в $(xy)^\alpha = x^\alpha y^\alpha$. Все восемь выполнены. Нулевой вектор здесь — число $1$, ведь $x \oplus 1 = x$, а противоположный к $x$ — число $\frac1x$. И лемма работает: $0 \odot x = x^0 = 1$ — нулевой вектор, $(-1) \odot x = x^{-1}$ — противоположный. Логарифм из главы 12 переводит этот мир в обычную прямую: $\ln(xy) = \ln x + \ln y$, $\ln x^\alpha = \alpha\ln x$. Логарифмическая линейка, на которой умножение делают сложением отрезков, опирается ровно на это.

Образуют ли векторное пространство векторы плоскости, у которых обе координаты неотрицательны?

Нулевой вектор $(0;\,0)$ в множестве есть, и сумма двух векторов из первой четверти в ней остаётся. Но $(-1) \cdot (1;\,2) = (-1;\,-2)$ из первой четверти уходит, а умножение на любое число обязано оставлять вектор в пространстве. Нет и противоположных векторов.

Галерея миров

Проверять восемь аксиом в каждом мире было бы скучно. К счастью, почти все интересные миры живут внутри уже известных, и тогда хватает двух проверок.

Непустое подмножество $U$ векторного пространства $V$ называют подпространством, если вместе с любыми двумя векторами оно содержит их сумму и вместе с любым вектором — все его кратные.

Подпространство $U$ с теми же сложением и умножением на число — векторное пространство. В частности, в нём лежит нулевой вектор.

Сложение и умножение не выводят из $U$ — это и есть определение подпространства. Аксиомы 1, 2 и 5–8 — равенства, верные для любых векторов из $V$, значит, и для векторов из $U$. Остаётся найти в $U$ нуль и противоположные. Возьмём любой $\mathbf u \in U$ (множество непусто). Его кратное $0 \cdot \mathbf u$ лежит в $U$, а по лемме оно равно $\mathbf 0$. Кратное $(-1)\mathbf u$ тоже в $U$, и по лемме это $-\mathbf u$.

Теперь галерея. Во всех примерах сложение и умножение на число — «по точкам» или «по координатам».

$\mathbb R^n$ — столбцы из $n$ чисел. Прямая и плоскость, проходящие через начало координат, — его подпространства. Прямая, которая через начало не проходит, — нет: в ней нет нуля.
Функции $\mathbb R \to \mathbb R$. Внутри — подпространства непрерывных функций, дифференцируемых функций, многочленов.
Многочлены степени не выше $n$; обозначим их $P_n$. Многочлены степени ровно $2$ пространства не образуют: $(t^2 + t) + (-t^2) = t$.
Решения однородной системы $A\mathbf x = \mathbf 0$ — подпространство $\mathbb R^n$: если $A\mathbf x = \mathbf 0$ и $A\mathbf y = \mathbf 0$, то $A(\mathbf x + \mathbf y) = \mathbf 0$ и $A(\alpha\mathbf x) = \mathbf 0$. А решения системы $A\mathbf x = \mathbf b$ с $\mathbf b \ne \mathbf 0$ — нет: нулевой вектор ей не удовлетворяет.
Решения уравнения колебаний $y'' + y = 0$: если $y_1$ и $y_2$ — решения, то $(y_1 + y_2)'' + (y_1 + y_2) = 0$. Этот мир разберём подробнее.

Решения уравнения $y'' + y = 0$ — это в точности функции $y = a\cos t + b\sin t$, где $a$ и $b$ — любые числа.

Хитрость — в сохраняющейся «энергии». Что такие функции — решения, проверяется дифференцированием: $(\cos t)'' = -\cos t$ и $(\sin t)'' = -\sin t$. Обратно, пусть $y$ — решение. Положим $a = y(0)$, $b = y'(0)$ и рассмотрим разность $z = y - a\cos t - b\sin t$. Она тоже решение, потому что решения образуют пространство, и при этом $z(0) = 0$, $z'(0) = 0$. Возьмём $E(t) = z^2 + (z')^2$. Её производная $E' = 2zz' + 2z'z'' = 2z'(z + z'') = 0$, так что $E$ постоянна и равна $E(0) = 0$. Сумма квадратов равна нулю, значит, $z(t) = 0$ при всех $t$, то есть $y = a\cos t + b\sin t$.

Бесконечный на вид мир решений устроен как плоскость: каждое решение задаётся двумя числами $a$ и $b$, и складываются решения, как пары чисел. Физик скажет: движение маятника определяют начальное положение и начальная скорость. Дифференциальным уравнениям посвящена глава 31.

Что можно собрать

Из нескольких векторов, складывая их с коэффициентами, можно собрать много других. Такую сумму $\alpha_1\mathbf v_1 + \dots + \alpha_k\mathbf v_k$ мы уже называли линейной комбинацией.

Множество всех линейных комбинаций векторов $\mathbf v_1, \dots, \mathbf v_k$ называют их линейной оболочкой и обозначают $\langle \mathbf v_1, \dots, \mathbf v_k\rangle$.

Оболочка $\langle \mathbf v_1, \dots, \mathbf v_k\rangle$ — подпространство, и любое подпространство, содержащее $\mathbf v_1, \dots, \mathbf v_k$, содержит её целиком.

Сумма двух комбинаций — снова комбинация: коэффициенты при каждом $\mathbf v_i$ складываются (аксиомы 1, 2 и 7 позволяют переставить и сгруппировать слагаемые). Кратное комбинации — комбинация с умноженными коэффициентами (аксиомы 6 и 8). Значит, оболочка — подпространство. А подпространство, которое содержит все $\mathbf v_i$, содержит их кратные и суммы кратных, то есть все комбинации.

Оболочка одного ненулевого вектора в пространстве — прямая, двух — обычно плоскость, трёх — обычно всё пространство. Всё решает слово «обычно»: если второй вектор лежит на прямой первого, он ничего не добавляет.

Точки — случайные комбинации $\alpha\mathbf v_1 + \beta\mathbf v_2 + \gamma\mathbf v_3$. Наклоняйте $\mathbf v_2$ к прямой $\mathbf v_1$ и выводите $\mathbf v_3$ из плоскости: в какой момент облако схлопывается?

Векторы $\mathbf v_1, \dots, \mathbf v_k$ называют линейно независимыми, если $\alpha_1\mathbf v_1 + \dots + \alpha_k\mathbf v_k = \mathbf 0$ только при $\alpha_1 = \dots = \alpha_k = 0$. Иначе они линейно зависимы.

Векторы $\mathbf v_1, \dots, \mathbf v_k$, $k \ge 2$, линейно зависимы тогда и только тогда, когда один из них — линейная комбинация остальных.

Пусть $\alpha_1\mathbf v_1 + \dots + \alpha_k\mathbf v_k = \mathbf 0$ и коэффициент $\alpha_j \ne 0$. Перенесём остальные слагаемые вправо и разделим на $\alpha_j$: $\mathbf v_j = -\sum_{i \ne j} \frac{\alpha_i}{\alpha_j}\mathbf v_i$. Обратно, если $\mathbf v_j = \sum_{i \ne j} \beta_i\mathbf v_i$, то $\sum_{i \ne j} \beta_i\mathbf v_i - \mathbf v_j = \mathbf 0$ — комбинация, равная нулю, с коэффициентом $-1 \ne 0$ при $\mathbf v_j$.

Проверка на зависимость — это однородная система. Зависимы ли $(1;\,2;\,3)$, $(4;\,5;\,6)$, $(7;\,8;\,9)$? Поставим их столбцами в матрицу и решим $A\boldsymbol\alpha = \mathbf 0$ методом Гаусса: ранг равен $2$, одна переменная свободна, и решение $\boldsymbol\alpha = (1;\,-2;\,1)$ даёт соотношение $\mathbf v_1 - 2\mathbf v_2 + \mathbf v_3 = \mathbf 0$. Это та самая матрица, ранг которой мы искали в главе 36. Ранг меньше числа векторов — векторы зависимы.

Базис и размерность

В главе о векторах мы раскладывали вектор по двум неколлинеарным стрелкам и обещали дать определение для любого числа измерений.

Базис векторного пространства $V$ — набор линейно независимых векторов, оболочка которых — всё $V$.

Столбцы $\mathbf e_1, \dots, \mathbf e_n$ единичной матрицы — базис $\mathbb R^n$, его называют стандартным. Многочлены $1, t, t^2$ — базис $P_2$: каждый многочлен степени не выше двух — их комбинация, а комбинация $\alpha + \beta t + \gamma t^2$ равна нулевому многочлену только при нулевых коэффициентах. У решений уравнения $y'' + y = 0$ базис $\cos t$, $\sin t$. Базисов у пространства много, но во всех, как мы сейчас докажем, одинаковое число векторов.

Если векторы $\mathbf w_1, \dots, \mathbf w_m$ линейно независимы и каждый из них — линейная комбинация векторов $\mathbf v_1, \dots, \mathbf v_n$, то $m \le n$.

Хитрость в том, чтобы менять векторы $\mathbf v$ на векторы $\mathbf w$ по одному, не уменьшая оболочку. Если бы векторов $\mathbf w$ было больше, на каком-то шаге $\mathbf v$ кончились бы раньше, чем $\mathbf w$.

Запишем $\mathbf w_1 = a_1\mathbf v_1 + \dots + a_n\mathbf v_n$. Не все $a_i$ нули: иначе $\mathbf w_1 = \mathbf 0$, а нулевой вектор с любыми другими зависим. Перенумеруем так, чтобы $a_1 \ne 0$. Тогда $\mathbf v_1 = \frac{1}{a_1}(\mathbf w_1 - a_2\mathbf v_2 - \dots - a_n\mathbf v_n)$, и оболочка набора $\mathbf w_1, \mathbf v_2, \dots, \mathbf v_n$ содержит все $\mathbf v_i$, а с ними и все $\mathbf w_j$. На чертеже сетка из $\mathbf v_1, \mathbf v_2$ сменилась сеткой из $\mathbf w_1, \mathbf v_2$ и по-прежнему покрывает плоскость.

Пусть уже заменены $k$ векторов, и все $\mathbf w_j$ лежат в оболочке $\mathbf w_1, \dots, \mathbf w_k, \mathbf v_{k+1}, \dots, \mathbf v_n$. Запишем $\mathbf w_{k+1} = b_1\mathbf w_1 + \dots + b_k\mathbf w_k + c_{k+1}\mathbf v_{k+1} + \dots + c_n\mathbf v_n$. Если бы все $c_i$ были нулями, $\mathbf w_{k+1}$ оказался бы комбинацией $\mathbf w_1, \dots, \mathbf w_k$, а это противоречит независимости (признак зависимости). Значит, какой-то $c_i \ne 0$, и тот же приём заменяет $\mathbf v_i$ на $\mathbf w_{k+1}$. На чертеже $\mathbf v_2$ уступает место $\mathbf w_2$.

Допустим, $m > n$. Через $n$ шагов все $\mathbf v$ заменены, и оболочка $\mathbf w_1, \dots, \mathbf w_n$ содержит $\mathbf w_{n+1}$: он — комбинация $\mathbf w_1, \dots, \mathbf w_n$. На плоскости это видно: какой бы ни была стрелка $\mathbf w_3$, она раскладывается по сетке $\mathbf w_1$, $\mathbf w_2$. Это снова противоречит независимости.

Предположение $m > n$ невозможно, значит, $m \le n$: независимых векторов не больше, чем векторов, через которые они выражаются.

Если у пространства есть базис из $n$ векторов, то в любом другом его базисе тоже $n$ векторов.

Пусть $\mathbf v_1, \dots, \mathbf v_n$ и $\mathbf w_1, \dots, \mathbf w_m$ — два базиса. Векторы $\mathbf w_j$ независимы и выражаются через $\mathbf v_i$, ведь оболочка $\mathbf v_i$ — всё пространство. По лемме о замене $m \le n$. Поменяв базисы ролями, получим $n \le m$. Значит, $m = n$.

Число векторов в базисе называют размерностью пространства и обозначают $\dim V$. Если конечного базиса нет, пространство называют бесконечномерным.

$\dim \mathbb R^n = n$, $\dim P_n = n + 1$ (базис $1, t, \dots, t^n$), размерность пространства решений уравнения $y'' + y = 0$ равна $2$. Все многочлены сразу образуют бесконечномерное пространство: конечный набор многочленов не даёт степеней выше наибольшей из своих. Бесконечномерны и функции.

Пусть $\dim V = n$. Любой набор независимых векторов из $V$ можно дополнить до базиса. В частности, любые $n$ независимых векторов — базис, а $n + 1$ векторов всегда зависимы.

Последнее утверждение — лемма о замене: независимые векторы выражаются через базис из $n$ векторов, поэтому их не больше $n$. Пусть теперь векторы $\mathbf u_1, \dots, \mathbf u_k$ независимы, но их оболочка не всё $V$. Возьмём вектор $\mathbf u \in V$ вне оболочки. Набор $\mathbf u_1, \dots, \mathbf u_k, \mathbf u$ тоже независим: в равенстве $\alpha_1\mathbf u_1 + \dots + \alpha_k\mathbf u_k + \beta\mathbf u = \mathbf 0$ коэффициент $\beta$ не может быть ненулевым, иначе $\mathbf u$ лежал бы в оболочке, а при $\beta = 0$ нулями оказываются и все $\alpha_i$. Будем добавлять векторы, пока оболочка не станет всем $V$. Больше $n$ независимых векторов не бывает, поэтому процесс остановится, и получится базис. Если с самого начала было $n$ векторов, добавить нечего: они уже базис.

В главе о площади и объёме мы обещали объяснить, как «складывать углы, считая рациональные доли $180^\circ$ нулём». Действительные числа образуют векторное пространство над $\mathbb Q$: складывать можно как обычно, а умножать — только на рациональные числа. Это пространство бесконечномерно. Оболочка конечного набора чисел над $\mathbb Q$ счётна, а действительных чисел несчётно много (глава 52). Углы в величине Дена берут именно так: как векторы пространства действительных чисел над $\mathbb Q$, в котором все рациональные кратные $\pi$ объявлены нулём, — это снова векторное пространство над $\mathbb Q$.

Магические квадраты

По китайской легенде, из реки Ло вышла черепаха, и на её панцире был узор — квадрат из чисел от $1$ до $9$, суммы которых по каждой строке, каждому столбцу и обеим диагоналям равны $15$:

$$\begin{pmatrix} 4 & 9 & 2 \\ 3 & 5 & 7 \\ 8 & 1 & 6 \end{pmatrix}.$$

Этот квадрат называют Ло Шу. Разрешим в клетках любые действительные числа: назовём таблицу $3 \times 3$ магической, если суммы по трём строкам, трём столбцам и двум диагоналям одинаковы. Сумма двух магических квадратов — магический квадрат, кратное тоже: все восемь сумм складываются и умножаются вместе. Магические квадраты — подпространство девятимерного пространства всех таблиц $3 \times 3$. Какой он размерности?

Магические квадраты $3 \times 3$ образуют пространство размерности $3$. Его базис —

$$J = \begin{pmatrix} 1 & 1 & 1 \\ 1 & 1 & 1 \\ 1 & 1 & 1 \end{pmatrix}, \quad M_1 = \begin{pmatrix} 1 & -1 & 0 \\ -1 & 0 & 1 \\ 0 & 1 & -1 \end{pmatrix}, \quad M_2 = \begin{pmatrix} 0 & 1 & -1 \\ -1 & 0 & 1 \\ 1 & -1 & 0 \end{pmatrix}.$$

Хитрость — в линиях, проходящих через центр: их четыре, и каждая клетка, кроме центральной, лежит ровно на одной из них.

Пусть все суммы равны $s$, а в центре стоит $c$. Сложим средние строку и столбец и обе диагонали: получится $4s$. Центральная клетка вошла в эту сумму четыре раза, остальные — по разу. Значит, $4s = (\text{сумма всех клеток}) + 3c = 3s + 3c$, и $c = \frac s3$: в центре всегда треть магической суммы.

Каждая из четырёх линий через центр даёт $x + c + x' = s$, где $x$ и $x'$ — клетки, симметричные относительно центра. Значит, $x + x' = s - c = 2c$: симметричные клетки дополняют друг друга до $2c$.

Вычтем из квадрата $cJ$. Получится магический квадрат с центром $0$ и суммой $0$, в котором симметричные клетки противоположны. Весь он определяется четырьмя клетками — верхней строкой $p, q, r$ и левой клеткой среднего ряда $m$, — и на них остаются два условия: $p + q + r = 0$ (верхняя строка) и $p + m - r = 0$ (левый столбец). Остальные шесть сумм выполняются автоматически: средние строка и столбец и обе диагонали — потому что противоположные клетки гасят друг друга, нижняя строка и правый столбец — потому что они равны суммам верхней строки и левого столбца со знаком минус.

Два условия на четыре числа оставляют два свободных: положим $p = a$, $r = -b$, тогда $q = -a + b$ и $m = -a - b$. Это ровно $aM_1 + bM_2$, а значит, любой магический квадрат равен $cJ + aM_1 + bM_2$.

Квадраты $J$, $M_1$, $M_2$ магические, порождают всё пространство и независимы: у комбинации $cJ + aM_1 + bM_2$ в центре $c$, в левом верхнем углу $c + a$, в правом верхнем $c - b$, и если она нулевая, то $c = a = b = 0$. Это базис из трёх квадратов, размерность равна $3$.

Для Ло Шу $c = 5$ и выходит $4\,9\,2 / 3\,5\,7 / 8\,1\,6 = 5J - M_1 + 3M_2$. Три числа — и весь квадрат. Размерность подсказывает и другое: трёх клеток обычно хватает, чтобы восстановить магический квадрат целиком. Но не любых трёх.

Собирайте квадрат из базиса или закрепите три клетки и задайте в них числа — остальные найдёт метод Гаусса. Какие тройки клеток квадрат не определяют? Найдите все восемь положений, при которых получается Ло Шу.

Координаты: один вектор, разные адреса

Базис превращает любое пространство в привычные столбцы чисел.

Если $\mathbf e_1, \dots, \mathbf e_n$ — базис $V$, то каждый вектор $\mathbf v \in V$ записывается в виде $\mathbf v = x_1\mathbf e_1 + \dots + x_n\mathbf e_n$ ровно одним способом.

Хотя бы один способ есть, потому что оболочка базиса — всё $V$. Если способов два, $\mathbf v = \sum x_i\mathbf e_i = \sum y_i\mathbf e_i$, то вычитание даёт $\sum (x_i - y_i)\mathbf e_i = \mathbf 0$. Базис независим, поэтому все $x_i - y_i = 0$.

Числа $x_1, \dots, x_n$ называют координатами вектора $\mathbf v$ в базисе $\mathbf e_1, \dots, \mathbf e_n$. Многочлен $3 + 2t + t^2$ в базисе $1, t, t^2$ имеет координаты $(3;\,2;\,1)$, решение $5\cos t - \sin t$ в базисе $\cos t, \sin t$ — координаты $(5;\,-1)$, Ло Шу в базисе $J, M_1, M_2$ — координаты $(5;\,-1;\,3)$. Сложению векторов отвечает сложение координат, умножению на число — умножение координат.

Взаимно однозначное отображение одного векторного пространства на другое, сохраняющее сложение и умножение на число, называют изоморфизмом векторных пространств, а сами пространства — изоморфными.

Переход к координатам — изоморфизм $V$ и $\mathbb R^n$. С точки зрения линейной алгебры все $n$-мерные пространства устроены одинаково; отличаются они только тем, что мы о них знаем помимо сложения и умножения. Логарифм из раздела про аксиомы — изоморфизм положительных чисел с их странными операциями и обычной прямой $\mathbb R^1$.

Но координаты зависят от базиса. Один и тот же многочлен $3 + 2t + t^2$ в базисе $1, (t - 1), (t - 1)^2$ записывается как $6 + 4(t - 1) + (t - 1)^2$: координаты $(6;\,4;\,1)$. Проверьте, раскрыв скобки. Как пересчитать координаты из одного базиса в другой?

Пусть в пространстве есть старый базис и новый, $\mathbf b_1, \dots, \mathbf b_n$. Матрица перехода $P$ — матрица, $j$-й столбец которой состоит из координат вектора $\mathbf b_j$ в старом базисе.

Координаты вектора в старом базисе.

Матрица перехода: её столбцы — новые базисные векторы, записанные в старых координатах.

Координаты того же вектора в новом базисе. Обратный пересчёт: $\mathbf x' = P^{-1}\mathbf x$.

Пример: на плоскости новый базис $\mathbf b_1 = (2;\,1)$, $\mathbf b_2 = (1;\,3)$, то есть $P = \left(\begin{smallmatrix} 2 & 1 \\ 1 & 3 \end{smallmatrix}\right)$. Вектор с новыми координатами $(1;\,2)$ — это $\mathbf b_1 + 2\mathbf b_2 = (4;\,7)$, и действительно $P\left(\begin{smallmatrix} 1 \\ 2 \end{smallmatrix}\right) = \left(\begin{smallmatrix} 4 \\ 7 \end{smallmatrix}\right)$. Для многочленов: столбцы $P$ — коэффициенты $1$, $t - 1$, $t^2 - 2t + 1$, и $P \cdot (6;\,4;\,1) = (3;\,2;\,1)$.

Идея: пройти к вектору по новым базисным векторам, а каждый из них разложить по старым.

Вектор с новыми координатами $\mathbf x' = (x'_1;\,x'_2)$ — это $x'_1\mathbf b_1 + x'_2\mathbf b_2$: путь из начала координат вдоль $\mathbf b_1$, затем вдоль $\mathbf b_2$.

Отрезок $x'_1\mathbf b_1$ в старых координатах — $x'_1$ раз столбец $(p_{11};\,p_{21})$: вправо на $x'_1p_{11}$ и вверх на $x'_1p_{21}$.

Отрезок $x'_2\mathbf b_2$ — вправо на $x'_2p_{12}$ и вверх на $x'_2p_{22}$.

Складываем сдвиги: старые координаты вектора $x_1 = p_{11}x'_1 + p_{12}x'_2$ и $x_2 = p_{21}x'_1 + p_{22}x'_2$. Это и есть $P\mathbf x'$. В $n$ измерениях так же: $\mathbf v = \sum_j x'_j\mathbf b_j = \sum_j x'_j \sum_i p_{ij}\mathbf e_i = \sum_i \bigl(\sum_j p_{ij}x'_j\bigr)\mathbf e_i$, а координаты единственны.

$\mathbf x = P\mathbf x'$. Столбцы $P$ — координаты базиса, они независимы, поэтому $P$ обратима (её ранг равен $n$), и $\mathbf x' = P^{-1}\mathbf x$.

Тяните концы $\mathbf b_1$, $\mathbf b_2$ и точку $\mathbf v$. Одна и та же точка имеет два адреса: в клетчатой сетке и в косой. Что происходит с косыми координатами, когда $\mathbf b_1$ и $\mathbf b_2$ ложатся на одну прямую? В режиме «Клад» найдите точку по её косому адресу.

Меняются и матрицы отображений. Пусть отображение в старых координатах записано матрицей $A$: $\mathbf y = A\mathbf x$. Подставим $\mathbf x = P\mathbf x'$ и $\mathbf y = P\mathbf y'$: получится $P\mathbf y' = AP\mathbf x'$.

В новом базисе с матрицей перехода $P$ отображение с матрицей $A$ записывается матрицей $A' = P^{-1}AP$.

Для любого вектора с новыми координатами $\mathbf x'$ его образ имеет старые координаты $A\mathbf x = AP\mathbf x'$ (формула замены координат для $\mathbf x$), а новые — $P^{-1}(AP\mathbf x')$ (обратный пересчёт для образа). Значит, отображение в новых координатах — умножение на $P^{-1}AP$.

Квадратные матрицы $A$ и $A' = P^{-1}AP$, где $P$ обратима, называют подобными. Это одно и то же отображение, записанное в разных базисах.

Некоторые базисы делают матрицу заметно проще. К этому мы вернёмся в самом конце главы.

Что пропадает и что остаётся

Матрица $A$ размера $m \times n$ переводит векторы из $\mathbb R^n$ в $\mathbb R^m$. Какие-то векторы она уничтожает, отправляя в нуль, а до каких-то векторов результата она дотягивается.

Ядро матрицы — множество $\ker A = \{\mathbf x : A\mathbf x = \mathbf 0\}$, то есть решения однородной системы. Образ — множество $\operatorname{im} A = \{A\mathbf x\}$ всех векторов, в которые $A$ что-то переводит. Размерность ядра называют дефектом.

Оба множества — подпространства. Про ядро мы это уже видели в галерее, а для образа $A\mathbf x + A\mathbf y = A(\mathbf x + \mathbf y)$ и $\alpha A\mathbf x = A(\alpha\mathbf x)$. Образ совпадает с оболочкой столбцов: $A\mathbf x = x_1\mathbf a_1 + \dots + x_n\mathbf a_n$, где $\mathbf a_j$ — столбцы $A$. Поэтому система $A\mathbf x = \mathbf b$ совместна ровно тогда, когда $\mathbf b$ лежит в оболочке столбцов, — ещё один взгляд на теорему Кронекера — Капелли.

Столбцы матрицы $A$, в которых после приведения к ступенчатому виду оказались ведущие элементы, образуют базис образа $\operatorname{im} A$. Поэтому $\dim \operatorname{im} A = \operatorname{rank} A$. Кроме того, ненулевые строки ступенчатого вида образуют базис оболочки строк $A$, так что размерность оболочки строк тоже равна рангу.

Идея из доказательства единственности приведённого вида: элементарные преобразования не меняют связей между столбцами.

Пусть $R$ — приведённый ступенчатый вид $A$. Как мы видели в главе 36, комбинация столбцов $A$ равна нулю тогда и только тогда, когда та же комбинация столбцов $R$ равна нулю: у систем $A\mathbf x = \mathbf 0$ и $R\mathbf x = \mathbf 0$ одни и те же решения.

В $R$ ведущие столбцы — единичные столбцы $\mathbf e_1, \dots, \mathbf e_r$. Они независимы, а каждый остальной столбец $R$ — их комбинация. По первому шагу ведущие столбцы $A$ тоже независимы: равна нулю только их тривиальная комбинация, как и у $\mathbf e_1, \dots, \mathbf e_r$. А каждый остальной столбец $A$ — комбинация ведущих с теми же коэффициентами, что и в $R$.

Значит, оболочка ведущих столбцов $A$ содержит все столбцы, то есть совпадает с $\operatorname{im} A$, и ведущие столбцы — её базис. Их $r = \operatorname{rank} A$.

Строки. Каждый ход заменяет строки их комбинациями и обратим, поэтому оболочка строк не меняется. Ненулевые строки $R$ её порождают и независимы: в столбце $k$-го ведущего у $k$-й строки стоит $1$, а у остальных — $0$, так что в нулевой комбинации коэффициент при $k$-й строке равен нулю.

$\dim \operatorname{im} A = \operatorname{rank} A$, и оболочка строк имеет ту же размерность. Максимальное число независимых строк матрицы равно максимальному числу независимых столбцов — неожиданное равенство, ведь строк и столбцов может быть совсем разное число.

Сколько же пропадает? Свободные неизвестные из главы 36 отвечают на этот вопрос.

Для матрицы $A$ с $n$ столбцами $\dim \ker A + \operatorname{rank} A = n$.

Идея: базис ядра даёт метод Гаусса — по одному вектору на каждое свободное неизвестное.

Решим систему $A\mathbf x = \mathbf 0$. Главных неизвестных $r = \operatorname{rank} A$, свободных — $n - r$. Обратный ход выражает главные неизвестные через свободные, поэтому решение однозначно определяется значениями свободных.

Для каждого свободного неизвестного $f$ возьмём решение $\mathbf s_f$, в котором это неизвестное равно $1$, остальные свободные — $0$, а главные найдены обратным ходом.

Эти решения порождают ядро. Пусть $\mathbf x$ — любое решение, и его свободные неизвестные равны $t_f$. Тогда $\sum_f t_f\mathbf s_f$ — тоже решение с теми же значениями свободных, а решение ими определено. Значит, $\mathbf x = \sum_f t_f\mathbf s_f$.

Они независимы. В комбинации $\sum_f c_f\mathbf s_f$ на месте свободного неизвестного $f$ стоит $c_f$: у всех остальных решений $\mathbf s$ там нуль. Если комбинация нулевая, все $c_f = 0$.

Векторы $\mathbf s_f$ — базис ядра, их $n - r$. Значит, $\dim \ker A = n - \operatorname{rank} A$.

Дефект — сколько измерений отображение схлопывает в нуль. Равен числу свободных неизвестных.

Ранг — размерность образа: сколько измерений доходит до результата. Равен числу ведущих элементов.

Число столбцов — размерность пространства, из которого действует $A$. Размерности не берутся ниоткуда и не пропадают бесследно.

Пример: у матрицы $\left(\begin{smallmatrix} 1 & 2 & 1 \\ 2 & 4 & 3 \\ 3 & 6 & 4 \end{smallmatrix}\right)$ из главы 36 ранг $2$, а ядро — прямая, натянутая на $(-2;\,1;\,0)$: $1 + 2 = 3$. У дифференцирования многочленов степени не выше $3$ ядро — константы (размерность $1$), образ — многочлены степени не выше $2$ (размерность $3$): $1 + 3 = 4 = \dim P_3$.

Двигайте ползунок от «до» к «после»: решётка точек превращается в свой образ. Точки на ядре (яркая прямая или плоскость) стягиваются в начало координат. Сравните размерности ядра и образа у разных матриц — сумма всегда $3$.

Теперь понятно, почему в общем решении частное решение складывалось с направлениями, решающими однородную систему. Если $A\mathbf x_0 = \mathbf b$, то $A\mathbf x = \mathbf b$ ровно тогда, когда $A(\mathbf x - \mathbf x_0) = \mathbf 0$, то есть все решения — это $\mathbf x_0 + \ker A$: ядро, сдвинутое так, чтобы проходить через $\mathbf x_0$. Прямая решений из главы 36 — это прямая ядра, сдвинутая в точку $(3;\,0;\,1)$.

Какова размерность пространства многочленов $p$ степени не выше $3$, у которых $p(1) = 0$ и $p(-1) = 0$?

Отображение $p \mapsto (p(1);\,p(-1))$ переводит $P_3$ в $\mathbb R^2$, и наше пространство — его ядро. Образ — всё $\mathbb R^2$: многочлены $\frac{1 + t}{2}$ и $\frac{1 - t}{2}$ дают $(1;\,0)$ и $(0;\,1)$, так что ранг равен $2$. По теореме о ранге и дефекте размерность ядра $4 - 2 = 2$. Базис: $t^2 - 1$ и $t(t^2 - 1)$.

Размерность оболочки векторов $(1;\,-1;\,0)$, $(0;\,1;\,-1)$, $(1;\,0;\,-1)$ равна $2$. Какова размерность ядра матрицы, столбцы которой — эти векторы?

Ранг матрицы — размерность оболочки её столбцов, то есть $2$. По теореме о ранге и дефекте $\dim\ker = 3 - 2 = 1$. Ядро натянуто на $(1;\,1;\,-1)$: первый вектор плюс второй минус третий дают нуль.

Куда дальше

Ядро — это направления, которые отображение умножает на ноль. Бывают ли направления, которые оно умножает на $2$ или на $-1$ — не поворачивает, а только растягивает? Возьмите матрицу $\left(\begin{smallmatrix} 3 & 1 \\ 0 & 2 \end{smallmatrix}\right)$. Большинство векторов она поворачивает, но $(1;\,0)$ переходит в $(3;\,0)$ — тот же вектор, растянутый втрое, а $(1;\,-1)$ переходит в $(2;\,-2)$ — растянутый вдвое. Возьмём эти два вектора за базис. Формула $P^{-1}AP$ с матрицей перехода $P = \left(\begin{smallmatrix} 1 & 1 \\ 0 & -1 \end{smallmatrix}\right)$ даёт $\left(\begin{smallmatrix} 3 & 0 \\ 0 & 2 \end{smallmatrix}\right)$: в таком базисе отображение просто растягивает одну ось втрое, другую вдвое. Как находить такие направления у любой матрицы и что они дают — от чисел Фибоначчи до поисковика Google, — рассказывает глава 38.