Какая-то магия

Шаг 1

Этот урок называется “какая-то магия”, потому что мы будем рассматривать функцию свойства которой максимально неочевидны

Я сейчас имею ввиду определитель

Я могу написать его формулу:

$$detA = \sum_{\sigma \in S_n} sgn(\sigma)a_{1\sigma(1)}\dots a_{n\sigma(n)}$$

Но очень вряд ли сразу сможете что-то про этот кошмар сказать, кроме того, что это многочлен n-й степени

Я больше скажу, я бы вообще на эту формулу не смотрел

В этом курсе я формально из неё выводить свойства не буду, а просто расскажу, что может эта функция и почему она так важна

Шаг 2

Главное геометрической свойство определителя - расчёт изменения объёма

*Пока что, придётся опираться на интуитивное понятие объёма, формально введём его позже

Возьмём какой-нибудь базис (нам абсолютно неважно, какой)

И применим к нему невырожденное преобразование (то есть, которое оставляет размерность пространства)

Объём параллелипипеда, который “натянут” на эти вектора может как-то измениться (размерность параллелипипеда может быть любой)

Оказывается, что он измениться ровно в $|det(A)|$ раз

Где A - матрица преобразования

Например, если мы применим преобразование $A = \begin{pmatrix} 2 & 1 \\ 0 & 1 \end{pmatrix}$ к стандартному базису, то несложно посчитать, что новый объём будет равен 2 (что в 2 раза больше, чем у стандартного)

И определитель матрицы преобразования тоже равен двум

Шаг 3

Второе свойство - показатель линейной независимости

Часто важно понять, является ли набор векторов вырожденным (линейно зависимым) или нет

Если я напишу какой-нибудь набор векторов, вряд ли вы сможете понять вырожденная система или нет:

$$\begin{aligned} v_1 = (1, 2, 0, 3) \\ v_2 = (3, 1, 4, 1) \\ v_3 = (2, -1, 1, 2) \\ v_4 = (5, 0, -1, 11) \end{aligned}$$

И даже особо интересного способа это проверить тоже как-то не видно

Здесь на помощь и приходит определитель

Если записать вектора в столбцы или строки матрицы и посчитать определитель полученной системы (матрица должна быть квадратной, то есть, векторов должно быть столько же, сколько у них координат)

В целом, это свойство вытекает из предыдущего

Ведь если мы возьмём стандартный базис и применим к нему такое преобразование, то размерность упадёт

И очевидно, что и размерность натянутого на эти вектора параллелипипеда будет меньше изначальной размерности, а значит объём будет равен нулю

Шаг 4

Большая часть объектов линейной алгебры не зависят от базиса

Из первого свойства несложно понять, что определитель матрицы преобразования тоже не зависит от базиса (объём как бы в любом случае изменился в n раз и не важно, как мы на это смотрим)

Например:

Возьмём матрицу преобразования

$A = \begin{pmatrix} 2 & 1 \\ 0 & 1 \end{pmatrix}$

Заменим координаты вот такой матрицей замены:

$C = \begin{pmatrix} 1 & 1 \\ 0 & -1 \end{pmatrix}$

Посчитаем новую матрицу

Нам понадобиться обратная матрица к C:

$C^{-1} = \begin{pmatrix} 1 & 1 \\ 0 & -1 \end{pmatrix}$

Получается:

$A' = C^{-1} A C = \begin{pmatrix} 1 & 1 \\ 0 & -1 \end{pmatrix} \begin{pmatrix} 2 & 1 \\ 0 & 1 \end{pmatrix} \begin{pmatrix} 1 & 1 \\ 0 & -1 \end{pmatrix} = \begin{pmatrix} 2 & 0 \\ 0 & 1 \end{pmatrix}$

Определитель A’ всё ещё равен 2

*Интересно, что в данном случае в новом базисе получилась диагональная матрица, в будущих уроках я покажу, как выбрать такой базис (это очень полезно, хоть и не всегда возможно)

Шаг 5

Ещё одно важное свойство - понимание ориентации преобразованного пространства

Базисы можно разделить на две ориентацию

От одной к другой нельзя плавно перейти, чтобы сохранялся базис на всём протяжении преобразования

Например:

$$\begin{aligned} e_1 = (1, 0) \\ e_2 = (0, 1) \\ e'_1 = (0, 1) \\ e'_2 = (1, 0) \end{aligned}$$

От первого ко второму базису не получится перейти плавно

Если попробовать, то в какой-то момент вектора станут противоположны друг другу и это уже не будет базис, так как размерность получится только 1, а не 2, как изначально

Получается, что эти базисы разной ориентации

Переход от одной ориентации к другой можно представить как отражение в зеркале

Если разрешить нам не только плавное преобразование одного базиса в другой, но и отражение, то все базисы станут эквивалентными

Так вот, знак определителя показывает то, изменилась ориентация пространства или нет

Например, чтобы перейти в прошлом примере от первого базиса ко второму нужна матрица:

$C = \begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix}$

Определитель этой матрицы равен -1, то есть, он отрицательный

Оказывается, это и есть показатель

Если матрица перехода имеет отрицательный определитель, то мы сменили ориентацию, иначе, остались в той же

Шаг 6

Подводя итог, определитель — это не просто абстрактное число, получаемое сложными вычислениями с плюсами и минусами. С геометрической точки зрения определитель — это главный индикатор того, что происходит с пространством при его трансформации.

Определитель показывает:

1. Во сколько раз изменяется “масштаб” пространства (модуль определителя)

2. Изменится ли его ориентация (знак определителя)

3. “Схлопывается” пространство или остаётся той же размерности (равенство нулю определителя)

При чём тут Data science?

Самое важное для данных свойство - третье

Вырожденность преобразования данных может показывать в них лишнюю информацию, от которой полезно избавляться

Так же, если преобразование вырождено, его не получится обратить (так как мы потеряли размерность)

Шаг 7

Представьте, что вы применяете линейное преобразование к облаку точек в пространстве. Вычислив определитель матрицы этого преобразования, вы получили det(A) = 0. Что это означает для ваших данных с геометрической точки зрения?