Статья Автор: Деникина Н.В., Деникин А.В.

Базовая модель, R² и выбросы

RSS = 85719594. Это много или мало?

Честный ответ: непонятно. Число огромное, но и данных много, и сборы измеряются сотнями миллионов. Само по себе значение RSS не говорит ничего — нужна точка отсчёта.

Базовая модель

Возьмём самую глупую модель, какую можно придумать: всегда предсказывать среднее. Она вообще не смотрит на бюджет и отвечает 103.24 млн на любой вопрос.

Её сумма квадратов остатков имеет отдельное имя — TSS (total sum of squares). Это и есть наша линейка: разброс данных вокруг среднего. Любая осмысленная модель обязана быть лучше базовой, иначе бюджет как признак бесполезен.

R² — доля объяснённого разброса

R² = 1 − RSS / TSS

Как читать:

R² = 1 — RSS равен нулю, модель попадает точно во все точки;
R² = 0 — RSS сравнялся с TSS, модель не лучше «всегда среднее»;
R² < 0 — да, так бывает: модель хуже базовой.

В отличие от RSS, у R² нет единиц измерения, поэтому его можно сравнивать между разными задачами. Говорят «модель объясняет столько-то процентов разброса».

# --- чтение таблицы: в каждой тетради определяем заново ---
def load(fname):
    f = open(fname, encoding="utf-8")
    header = f.readline().strip().split(",")
    data = []
    for line in f:
        line = line.strip()
        if line == "":
            continue
        parts = line.split(",")
        row = {}
        for i in range(len(header)):
            row[header[i]] = parts[i]
        data.append(row)
    f.close()
    return data

movies = load("movies.csv")
# бюджет и сборы переводим в миллионы долларов - так числа читаемее
X = [int(m["budget"]) / 1000000 for m in movies]
Y = [int(m["gross"]) / 1000000 for m in movies]
print("фильмов:", len(X))

n = len(X)
mx = sum(X) / n
my = sum(Y) / n

Sxy = 0
Sxx = 0
for i in range(n):
    Sxy = Sxy + (X[i] - mx) * (Y[i] - my)
    Sxx = Sxx + (X[i] - mx) ** 2
k = Sxy / Sxx
b = my - k * mx

RSS = 0
TSS = 0
for i in range(n):
    RSS = RSS + (Y[i] - (k * X[i] + b)) ** 2
    TSS = TSS + (Y[i] - my) ** 2

print("RSS = %.0f" % RSS)
print("TSS = %.0f" % TSS)
print("R2  = %.4f" % (1 - RSS / TSS))

# самые крупные промахи
pairs = []
for i in range(n):
    pairs.append((abs(Y[i] - (k * X[i] + b)), movies[i]["title"], X[i], Y[i]))
pairs.sort(reverse=True)
print()
print("пять самых крупных промахов:")
for d, title, x, y in pairs[:5]:
    print("  %-44s бюджет %6.0f  сборы %7.1f  остаток %+8.1f" % (title, x, y, y - (k * x + b)))

Выбросы

Модель объясняет 54.7% разброса — для одного признака это прилично, но половина остаётся необъяснённой. Список крупнейших промахов показывает, откуда она берётся: «Avatar», «Avengers: Endgame», «Titanic». Все промахи в одну сторону — эти фильмы собрали кратно больше, чем предсказывает бюджет.

Такие точки называют выбросами. Из-за квадратов они влияют на прямую непропорционально сильно: «Avatar» с остатком около +2074 вносит в RSS больше, чем несколько сотен обычных фильмов вместе.

Если убрать десять крупнейших выбросов и пересчитать, наклон падает с 3.3331 до 3.0975, сдвиг поднимается с -16.8289 до -10.7362, а R² растёт с 0.5470 до 0.5583. Убрали 10 фильма из 5378 — меньше двух десятых процента — и прямая заметно повернулась.

Убирать ли выбросы? Вопрос не технический, а содержательный. Если это ошибка в данных — убирать обязательно. Если это настоящие фильмы, которые действительно собрали такие деньги, — убирать их значит строить модель для мира без блокбастеров. Решение зависит от того, для чего модель. Универсального ответа нет, и всякий, кто говорит обратное, что-то продаёт.

Чему равен R² нашей прямой на полном датасете? Два знака после запятой.

Проверить ответ

Что означает R² = 0?

Проверить ответ

Отметь верные утверждения.

Проверить ответ

Все крупнейшие выбросы — фильмы, собравшие намного больше предсказанного. Что произойдёт с наклоном k, если их удалить?

Проверить ответ

Расставь модели от худшей к лучшей по R²: базовая (всегда среднее), прямая МНК по всем данным, модель с R² = −0,2.

Проверить ответ

Загрузка...

Чтобы оставить комментарий, необходимо авторизоваться

💬

Пока нет комментариев. Будьте первым!

Печать