Sobes.tech
Senior

Je hebt een kleine dataset met filmrecensies in het Russisch en hun binaire sentimentlabel (labels: 0 — negatief, 1 — positief). Jouw taak is om binnen 15 minuten een volledige pipeline te implementeren voor het trainen van een eenvoudig tekstclassificatiemodel zonder gebruik te maken van vooraf getrainde encoders zoals BERT, en de nauwkeurigheid (accuracy) op deze gegevens te tonen. reviews = [ "Deze film is gewoon geweldig!", "Verschrikkelijk acteerwerk en saai verhaal.", "Ik heb van elk moment genoten!", "De slechtste film die ik heb gezien.", "Uitstekend camerawerk en geweldig verhaal.", "Onverdraaglijk saai en voorspelbaar." ] labels = [1, 0, 1, 0, 1, 0]

sobes.tech AI

Antwoord van AI

Для быстрого решения задачи классификации текстов на русском языке без использования готовых энкодеров можно сделать следующий pipeline:

  1. Токенизация и простая предобработка (приведение к нижнему регистру, удаление знаков препинания).
  2. Векторизация текста с помощью мешка слов (Bag of Words) с помощью sklearn CountVectorizer.
  3. Обучение простой модели, например, логистической регрессии.
  4. Оценка точности на тех же данных (так как датасет очень маленький).

Пример кода на Python:

from sklearn.feature_extraction.text import CountVectorizer
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import accuracy_score

reviews = [
    "Этот фильм просто потрясающий!",
    "Ужасная игра актёров и скучный сюжет.",
    "Мне очень понравилось каждое мгновение!",
    "Самый худший фильм, который я видел.",
    "Отличная операторская работа и замечательная история.",
    "Невыносимо скучно и предсказуемо."
]
labels = [1, 0, 1, 0, 1, 0]

# Векторизация
vectorizer = CountVectorizer(lowercase=True)
X = vectorizer.fit_transform(reviews)

# Обучение модели
model = LogisticRegression()
model.fit(X, labels)

# Предсказание и оценка
preds = model.predict(X)
accuracy = accuracy_score(labels, preds)
print(f"Accuracy: {accuracy:.2f}")

Такой подход позволит за 15 минут получить базовую модель классификации с приемлемой точностью на маленьком датасете.