Марковские цепи: переходные вероятности

Что такое марковская цепь?

Представьте, что вы играете в настольную игру, где следующий ход зависит только от текущей позиции на поле, а не от того, как вы сюда попали. Это и есть основная идея марковской цепи! 🎲

Марковская цепь — это математическая модель, которая описывает последовательность событий, где вероятность каждого следующего события зависит только от текущего состояния, а не от всей предыдущей истории.

💡 Это называется свойством отсутствия памяти или марковским свойством. Система «забывает» прошлое и живет только настоящим!

Примеры из жизни:

  • Погода: вероятность дождя завтра зависит от сегодняшней погоды
  • Финансы: курс акций завтра зависит от сегодняшней цены
  • Бизнес: вероятность того, что клиент вернется, зависит от его последней покупки

Переходные вероятности — сердце марковской цепи

Теперь перейдем к самому важному — переходным вероятностям. Это числа, которые показывают, насколько вероятно перейти из одного состояния в другое за один шаг.

Обозначается это так:

P(i → j) = вероятность перейти из состояния i в состояние j

Давайте рассмотрим простой пример с погодой. Представим, что у нас есть только два состояния:

  • Солнечно ☀️ (состояние S)
  • Дождливо 🌧️ (состояние R)

Мы можем составить таблицу переходных вероятностей:

Из \ В ☀️ Солнечно 🌧️ Дождливо
☀️ Солнечно 0.8 0.2
🌧️ Дождливо 0.3 0.7

Что означают эти числа?

  • Если сегодня солнечно (S), то завтра с вероятностью 0.8 тоже будет солнечно
  • Если сегодня солнечно (S), то завтра с вероятностью 0.2 пойдет дождь
  • Если сегодня дождливо (R), то завтра с вероятностью 0.3 будет солнечно
  • Если сегодня дождливо (R), то завтра с вероятностью 0.7 снова пойдет дождь
📘 Обратите внимание: сумма вероятностей в каждой строке всегда равна 1! Ведь из любого состояния система должна куда-то перейти.

Матрица переходных вероятностей

Математики любят записывать переходные вероятности в виде матрицы — это такая удобная таблица чисел. Для нашего примера с погодой матрица будет выглядеть так:

    ☀️   🌧️
☀️ [0.8  0.2]
🌧️ [0.3  0.7]

Матрица переходных вероятностей обычно обозначается буквой P. Каждая строка соответствует текущему состоянию, а каждый столбец — следующему состоянию.

Давайте обозначим состояния числами для удобства:

  • Состояние 1: Солнечно
  • Состояние 2: Дождливо

Тогда наша матрица P будет:

P = [p₁₁  p₁₂] = [0.8  0.2]
    [p₂₁  p₂₂]   [0.3  0.7]

где pᵢⱼ — вероятность перейти из состояния i в состояние j.


Решаем задачу вместе

Давайте закрепим знания на практической задаче из сферы бизнеса!

Условие задачи

В компании анализируют поведение клиентов. Клиент может находиться в одном из двух состояний:

  • Состояние A: Активный клиент (совершает покупки регулярно)
  • Состояние B: Неактивный клиент (не покупает более месяца)

Вероятности переходов между состояниями:

  • Активный клиент останется активным с вероятностью 0.7
  • Активный клист станет неактивным с вероятностью 0.3
  • Неактивный клиент станет активным с вероятностью 0.4
  • Неактивный клиент останется неактивным с вероятностью 0.6

Вопрос: Если сегодня клиент активен, какова вероятность, что он будет активен через 2 периода?

Пошаговое решение

Шаг 1: Составим матрицу переходных вероятностей P

P = [0.7  0.3]
    [0.4  0.6]

Шаг 2: Найдем вероятности через 2 шага

Для этого нам нужно умножить матрицу P на саму себя: P² = P × P

Шаг 3: Выполним умножение матриц

P² = [0.7×0.7 + 0.3×0.4   0.7×0.3 + 0.3×0.6]
     [0.4×0.7 + 0.6×0.4   0.4×0.3 + 0.6×0.6]

Вычисляем каждую ячейку:

P² = [0.49 + 0.12   0.21 + 0.18]
     [0.28 + 0.24   0.12 + 0.36]
P² = [0.61   0.39]
     [0.52   0.48]

Шаг 4: Найдем ответ

Нас интересует вероятность перехода из состояния A в состояние A за 2 шага. Это элемент в первой строке и первом столбце матрицы P².

Ответ: Вероятность того, что активный клиент будет активным через 2 периода, равна 0.61 или 61%.

🎯 Матричное умножение — это мощный инструмент для вычисления вероятностей через несколько шагов!

Практическое применение в бизнесе

Марковские цепи с переходными вероятностями широко применяются в экономике и бизнесе:

  • Управление клиентской базой: Прогнозирование, сколько клиентов останутся лояльными
  • Кредитный скоринг: Оценка вероятности погашения кредита
  • Управление запасами: Моделирование спроса на товары
  • Анализ рынка труда: Изучение переходов между состояниями занятости

Например, зная вероятности переходов клиентов между состояниями «активный» и «неактивный», компания может:

  • Разработать эффективные стратегии удержания клиентов
  • Оптимизировать маркетинговый бюджет
  • Прогнозировать будущие доходы
Скрыть рекламу навсегда

🎥 YouTube: программирование простым языком

Канал, где я спокойно и по шагам объясняю сложные темы — без заумных терминов и лишней теории.

Подходит, если раньше «не заходило», но хочется наконец понять.

▶️ Смотреть курсы на YouTube