Статья Автор: Деникина Н.В., Деникин А.В.

Один нейрон

Самая простая модель

Начнём с одного признака. Известно только расстояние, и мы знаем, что курьер едет примерно три минуты на километр.

distance = 4        # километров до адреса
weight = 3          # минут на километр

prediction = distance * weight

print(prediction)

Вывод

Это самая простая модель. Она предсказывает время в дороге по одному числу.

Вес - это множитель при признаке. Здесь он равен трём и означает «три минуты на километр».

Модель грубая: она не знает ни про светофоры, ни про то, сколько курьеров свободно, ни про сборку заказа на кухне. Всё это надо добавить.

Несколько признаков

Возьмём три признака: расстояние, светофоры и свободные курьеры. Каждый надо умножить на свой множитель и всё сложить. Плюс восемь минут сборки, которые не зависят ни от чего.

inputs = [4, 2, 6]          # км, светофоры, свободные курьеры
weights = [3, 1.5, -0.5]    # минут на каждую единицу признака
bias = 8                    # сборка заказа на кухне

prediction = 0
for i in range(3):
    prediction = prediction + inputs[i] * weights[i]
prediction = prediction + bias

print(prediction)

Вывод

20.0

Цикл идёт по признакам и накапливает сумму произведений. Сумма произведений двух наборов одинаковой длины называется скалярным произведением.

Что такое нейрон

Нейрон - одно число, полученное так: каждый признак умножают на свой вес, всё складывают и прибавляют смещение.

Больше нуля - признак увеличивает прогноз, меньше нуля - уменьшает, ровно ноль - не учитывается вовсе.

Смещение - то, что получится, если все признаки нулевые. Базовый уровень, от которого идёт отсчёт.

С обычной формулой разница одна, зато принципиальная: в формуле коэффициенты придумал человек, здесь их подберёт обучение по истории заказов. Пока мы задаём их руками.

Тот же расчёт целиком

Свободные курьеры входят с отрицательным весом: чем их больше, тем меньше ждать. Это не хитрость, а прямое следствие определения - знак веса и есть направление влияния.

расстояние	4 км × 3	=	12
светофоры	2 × 1.5	=	3
курьеры	6 × (−0.5)	=	−3
сумма		=	12
сборка на кухне	+ 8	=	20 минут

Смещение прибавляется один раз, а не к каждому признаку.

Двадцать минут - просто число. Оно не обязано быть положительным: при большом числе свободных курьеров такая формула легко выдаёт отрицательное время. Чинить это будем позже.

import numpy as np

x = np.array([4.0, 2.0, 6.0])
w = np.array([3.0, 1.5, -0.5])
b = 8.0

loop = 0.0
for i in range(3):                  # тот же цикл, но по массивам
    loop = loop + x[i] * w[i]
loop = loop + b

dot = np.dot(x, w) + b              # вся сумма произведений одной операцией

print(loop)
print(dot)
print(loop == dot)

Вывод

20.0
20.0
True

Признаки 2, −4 и 8. Веса 1.5, 0.25 и −0.5. Смещение 3. Чему равен выход нейрона?

Проверить ответ

Печать