Собственные значения и собственные векторы

Что такое собственные значения и векторы? 🎯

Представьте, что у вас есть преобразование пространства — например, растяжение или поворот. Собственный вектор — это особый вектор, который при таком преобразовании не меняет своего направления. Он может только растянуться или сжаться, но не повернуться!

А собственное значение показывает, во сколько раз изменилась длина этого вектора после преобразования. Если значение больше 1 — вектор растянулся, если между 0 и 1 — сжался.

💡 Простая аналогия: представьте резиновый коврик. Если вы потянете его за определенные точки, некоторые линии останутся прямыми (собственные векторы), но изменят длину (собственное значение покажет, насколько).

Математическое определение 📐

Для квадратной матрицы A размером n × n ненулевой вектор v называется собственным вектором, если выполняется условие:

A * v = λ * v

где:

• A — квадратная матрица
• v — собственный вектор (столбец)
• λ — собственное значение (скаляр)

---

Как найти собственные значения? 🔍

Чтобы найти собственные значения, мы решаем характеристическое уравнение:

det(A - λI) = 0

где:

• det — определитель матрицы
• I — единичная матрица того же размера, что и A
• λ — собственное значение (скаляр)

Пример вычисления 📝

Рассмотрим матрицу:

A = [[2, 1],
     [1, 2]]

Шаг 1: Составляем матрицу (A - λI):

[[2-λ, 1],
 [1, 2-λ]]

Шаг 2: Находим определитель:

(2-λ)(2-λ) - 1*1 = λ² - 4λ + 3

Шаг 3: Решаем уравнение:

λ² - 4λ + 3 = 0

Корни: λ₁ = 1, λ₂ = 3

Это и есть собственные значения нашей матрицы!

---

Как найти собственные векторы? ➕

Для каждого найденного собственного значения решаем систему уравнений:

(A - λI) * v = 0

Продолжим наш пример с матрицей A и найденными значениями λ₁ = 1 и λ₂ = 3.

Для λ₁ = 1:

(A - 1*I) = [[1, 1],
             [1, 1]]

Система уравнений:
1*v₁ + 1*v₂ = 0
1*v₁ + 1*v₂ = 0

Решение: v₁ = -v₂. Пусть v₂ = 1, тогда v₁ = -1

Первый собственный вектор: v₁ = [-1, 1]

Для λ₂ = 3:

(A - 3*I) = [[-1, 1],
             [1, -1]]

Система уравнений:
-1*v₁ + 1*v₂ = 0
1*v₁ - 1*v₂ = 0

Решение: v₁ = v₂. Пусть v₂ = 1, тогда v₁ = 1

Второй собственный вектор: v₂ = [1, 1]

📘 Запомните: собственные векторы определяются с точностью до постоянного множителя. Если вектор является собственным, то и любой его скалярный кратный тоже будет собственным вектором с тем же собственным значением!

---

Зачем это нужно в Data Science? 🎯

Собственные значения и векторы — фундаментальная концепция с множеством применений:

Область применения	Как используются
📊 Метод главных компонент (PCA)	Собственные векторы ковариационной матрицы определяют направления наибольшей изменчивости данных
🔄 Сингулярное разложение (SVD)	Основа для уменьшения размерности и анализа данных
🔢 Анализ устойчивости систем	Собственные значения показывают, будет ли система стабильной или нет
🎭 Обработка изображений	Используются в алгоритмах распознавания лиц и сжатия изображений

---

Практические задачи 🧮

Задача 1: Нахождение собственных значений

Найдите собственные значения матрицы:

B = [[4, 1],
     [2, 3]]

Решение:

1. Составляем характеристическое уравнение: det(B - λI) = 0
2. Матрица B - λI:

   [[4-λ, 1],
    [2, 3-λ]]

3. Находим определитель:

   (4-λ)(3-λ) - 2*1 = λ² - 7λ + 10

4. Решаем квадратное уравнение:

   λ² - 7λ + 10 = 0

   Корни: λ₁ = 2, λ₂ = 5

Задача 2: Нахождение собственных векторов

Для матрицы из предыдущей задачи найдите собственные векторы.

Решение:

Для λ₁ = 2:

1. Матрица B - 2I:

   [[2, 1],
        [2, 1]]

2. Система уравнений:

   2v₁ + v₂ = 0
   2v₁ + v₂ = 0

3. Решение: v₂ = -2v₁. Пусть v₁ = 1, тогда v₂ = -2
4. Первый собственный вектор: [1, -2]