Sobes.tech
Senior

Шумо як маҷмӯи кӯтоҳе доред бо баррасии филмҳо дар русӣ ва нишонаи дуҳавзаи эҳсосотии онҳо (тамғаҳо: 0 — манфӣ, 1 — мусбӣ). Вазифаи шумо ин аст, ки дар 15 дақиқа як пайплайнии пурра барои омӯзиши модели содда барои тақсимоти матнро иҷро кунед, бе истифодаи энкодерҳои тайёр монанди BERT, ва дақиқиро (accuracy) дар ин маълумотҳо нишон диҳед. reviews = [ "Ин филм комилан аҷиб аст!", "Ҳунари актёрон ва сюжет хастакунанда.", "Ман ҳар лаҳзаро дӯст доштам!", "Беҳтарин филм, ки ман дидаам.", "Камаронӣ кор ва ҳикояи аҷиб.", "Беқарор хастакунанда ва пешгӯӣшаванда." ] labels = [1, 0, 1, 0, 1, 0]

sobes.tech AI

Ҷавоб аз AI

Для быстрого решения задачи классификации текстов на русском языке без использования готовых энкодеров можно сделать следующий pipeline:

  1. Токенизация и простая предобработка (приведение к нижнему регистру, удаление знаков препинания).
  2. Векторизация текста с помощью мешка слов (Bag of Words) с помощью sklearn CountVectorizer.
  3. Обучение простой модели, например, логистической регрессии.
  4. Оценка точности на тех же данных (так как датасет очень маленький).

Пример кода на Python:

from sklearn.feature_extraction.text import CountVectorizer
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import accuracy_score

reviews = [
    "Этот фильм просто потрясающий!",
    "Ужасная игра актёров и скучный сюжет.",
    "Мне очень понравилось каждое мгновение!",
    "Самый худший фильм, который я видел.",
    "Отличная операторская работа и замечательная история.",
    "Невыносимо скучно и предсказуемо."
]
labels = [1, 0, 1, 0, 1, 0]

# Векторизация
vectorizer = CountVectorizer(lowercase=True)
X = vectorizer.fit_transform(reviews)

# Обучение модели
model = LogisticRegression()
model.fit(X, labels)

# Предсказание и оценка
preds = model.predict(X)
accuracy = accuracy_score(labels, preds)
print(f"Accuracy: {accuracy:.2f}")

Такой подход позволит за 15 минут получить базовую модель классификации с приемлемой точностью на маленьком датасете.