Что такое sparse-вектор? Чем он отличается от dense?

Sparse-вектор — это вектор, в котором большинство элементов равны нулю. Для эффективного хранения и обработки таких векторов используют специальные структуры данных, которые хранят только ненулевые элементы и их индексы.

Отличия от dense-вектора:

• Dense-вектор хранит все элементы подряд, включая нули.
• Sparse-вектор хранит только ненулевые элементы, что экономит память и ускоряет вычисления при работе с разреженными данными.

Пример:

В машинном обучении часто встречаются разреженные признаки, например, при работе с текстом (мешок слов), где большинство слов отсутствуют в конкретном документе.

Типичные форматы хранения sparse-векторов:

• Списки пар (индекс, значение)
• Формат CSR (Compressed Sparse Row)

Использование sparse-векторов позволяет эффективно работать с большими и разреженными данными, снижая затраты памяти и вычислительные ресурсы.