Что такое нейросеть с точки зрения математики? Какой раздел математики базовый для ML?

С математической точки зрения нейросеть — это композиция функций, обычно нелинейных, которые преобразуют входные данные в выходные через последовательность слоев. Каждый слой можно представить как матричное умножение входного вектора на матрицу весов с добавлением смещения, после чего применяется нелинейная функция активации. Таким образом, нейросеть — это параметрическая функция, обучаемая оптимизацией параметров (весов) для минимизации ошибки.

Базовым разделом математики для машинного обучения является линейная алгебра (работа с векторами и матрицами), а также математический анализ (градиенты, оптимизация). Кроме того, важны теория вероятностей и статистика для понимания моделей и оценки качества.