Статья Автор: Деникина Н.В., Деникин А.В.

Нейрон: веса и смещение

Самая простая модель

Начнём с одного признака. Известно только расстояние, и мы знаем, что курьер едет примерно три минуты на километр.

distance = 4        # километров до адреса
weight = 3          # минут на километр

prediction = distance * weight

print(prediction)

Вывод

У нейрона четыре входа. Признаки: 1, 0.5, −2, 4. Веса: 2, −6, 0.5, 0.25. Смещение: −1. Чему равен выход нейрона?

Проверить ответ

Одно умножение — и это уже модель. Она предсказывает время в дороге по одному числу.

Вес — это множитель при признаке. Здесь он равен трём и означает «три минуты на километр».

Модель грубая: она не знает ни про светофоры, ни про то, сколько курьеров свободно, ни про сборку заказа на кухне. Всё это надо добавить.

Несколько признаков

Признаков три, и у каждого свой вес. Значит, каждый надо умножить на свой множитель и всё сложить. Плюс восемь минут сборки, которые не зависят ни от чего.

inputs = [4, 2, 6]          # км, светофоры, свободные курьеры
weights = [3, 1.5, -0.5]    # минут на каждую единицу признака
bias = 8                    # сборка заказа на кухне

prediction = 0
for i in range(3):
    prediction = prediction + inputs[i] * weights[i]
prediction = prediction + bias

print(prediction)

Вывод

20.0

Посчитай выход нейрона в каждом случае и отметь, верно ли утверждение.

Проверить ответ

Цикл идёт по признакам и накапливает сумму произведений. Списки обычные, numpy пока не нужен.

Что такое нейрон

Нейрон — одно число, полученное так: каждый признак умножают на свой вес, всё складывают и прибавляют смещение.

Больше нуля — признак увеличивает прогноз, меньше нуля — уменьшает, ровно ноль — не учитывается вовсе.

Смещение — то, что получится, если все признаки нулевые. Базовый уровень, от которого идёт отсчёт.

С обычной формулой разница одна, зато принципиальная: в формуле коэффициенты придумал человек, здесь их подберёт обучение по истории заказов. Пока мы задаём их руками — обучать начнём на занятии 2.

Тот же расчёт целиком

Свободные курьеры входят с отрицательным весом: чем их больше, тем меньше ждать. Это не хитрость, а прямое следствие определения — знак веса и есть направление влияния.

расстояние	4 км × 3	=	12
светофоры	2 × 1.5	=	3
курьеры	6 × (−0.5)	=	−3
сумма		=	12
сборка на кухне	+ 8	=	20 минут

Смещение прибавляется один раз, а не к каждому признаку.

Двадцать минут — просто число. Оно не обязано быть положительным: при большом числе свободных курьеров такая формула легко выдаёт отрицательное время. Чинить это будем в паре 5.

import numpy as np

x = np.array([4.0, 2.0, 6.0])
w = np.array([3.0, 1.5, -0.5])
b = 8.0

loop = 0.0
for i in range(3):                  # тот же цикл, но по массивам
    loop = loop + x[i] * w[i]
loop = loop + b

dot = np.dot(x, w) + b              # вся сумма произведений одной операцией

print(loop)
print(dot)
print(loop == dot)

Вывод

20.0
20.0
True

Цикл и np.dot дали одно и то же число, третья строка это подтверждает.

Скалярное произведение — та же сумма произведений, записанная одной операцией. Именно так пишут дальше: цикл по признакам больше не понадобится ни разу.

Лестница получилась такая: одно умножение, потом цикл по трём признакам, потом одна операция вместо цикла. Каждая ступень делает то же самое, просто короче.

Признаки 2, −4 и 8. Веса 1.5, 0.25 и −0.5. Смещение 3. Чему равен выход нейрона?

Проверить ответ

Загрузка...

Чтобы оставить комментарий, необходимо авторизоваться

💬

Пока нет комментариев. Будьте первым!

Печать