Что хотят услышать интервьюеры:

Нужно показать понимание базовой архитектуры нейросети: из чего она состоит, как данные проходят через слои и как сеть обучается. Важно упомянуть веса, функции активации, прямое распространение ошибки и обратное распространение градиента. Также полезно отметить, что нейросеть — это модель, которая учится по данным, а не набор жестко заданных правил.

Определение:

Нейронная сеть — это модель машинного обучения, состоящая из взаимосвязанных вычислительных элементов, которые преобразуют входные данные в выходной результат. Основные компоненты: входной слой, один или несколько скрытых слоев, выходной слой, веса, смещения и функции активации. Принцип работы основан на том, что сеть сначала делает предсказание, затем сравнивает его с правильным ответом и корректирует параметры, чтобы уменьшить ошибку.

Пример использования:

Нейросеть можно использовать для классификации изображений, например, чтобы отличать котов от собак. На вход подаются пиксели изображения, скрытые слои выделяют признаки, а выходной слой возвращает вероятность каждого класса.

import numpy as np

def relu(x):
    return np.maximum(0, x)

def sigmoid(x):
    return 1 / (1 + np.exp(-x))

x = np.array([0.2, 0.8])      # входные признаки
w1 = np.array([[0.5, -0.3],
               [0.1,  0.7]])
b1 = np.array([0.1, 0.2])

w2 = np.array([0.4, -0.6])
b2 = 0.05

hidden = relu(np.dot(x, w1) + b1)
output = sigmoid(np.dot(hidden, w2) + b2)

print(output)

Пояснение кода:

Код показывает упрощенный прямой проход через небольшую нейросеть без обучения.
Сначала входной вектор x умножается на веса w1, к результату добавляется смещение b1, затем применяется функция relu. Это моделирует работу скрытого слоя.
После этого результат скрытого слоя умножается на веса w2, добавляется смещение b2, и применяется sigmoid, чтобы получить значение в диапазоне от 0 до 1, например вероятность класса.

Ключевые моменты:

Нейросеть состоит из слоев: входного, скрытых и выходного.
Основные обучаемые параметры — это веса и смещения.
Функции активации добавляют нелинейность, без них сеть была бы слишком ограниченной.
Обучение обычно строится на минимизации функции потерь.
Коррекция параметров происходит через обратное распространение ошибки и оптимизатор.
Чем больше и глубже сеть, тем выше ее выразительная способность, но тем сложнее обучение и настройка.

Какие компоненты и принципы лежат в основе построения нейронных сетей?