Senior
Sizdə rus dilində film rəyləri və onların ikili ton etiketi (etiketlər: 0 — neqativ, 1 — müsbət) olan kiçik bir məlumat dəsti var. Vəzifəniz — hazır kodlayıcılar (məsələn, BERT) istifadə etmədən, 15 dəqiqə ərzində sadə mətn təsnifat modeli üçün tam pipeline həyata keçirmək və bu məlumatlar üzərində dəqiqliyi (accuracy) göstərmək. reviews = [ "Bu film sadəcə möhtəşəmdir!", "Əjdaha aktyor oyunu və darıxdırıcı süjet.", "Hər anı çox bəyəndim!", "Gördüyüm ən pis film.", "Əla rejissorluq və möhtəşəm hekayə.", "Dözülməz darıxdırıcı və əvvəlcədən bilinə bilər." ] labels = [1, 0, 1, 0, 1, 0]
sobes.tech Süni İntellekt
AI-dan cavab
Для быстрого решения задачи классификации текстов на русском языке без использования готовых энкодеров можно сделать следующий pipeline:
- Токенизация и простая предобработка (приведение к нижнему регистру, удаление знаков препинания).
- Векторизация текста с помощью мешка слов (Bag of Words) с помощью sklearn CountVectorizer.
- Обучение простой модели, например, логистической регрессии.
- Оценка точности на тех же данных (так как датасет очень маленький).
Пример кода на Python:
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import accuracy_score
reviews = [
"Этот фильм просто потрясающий!",
"Ужасная игра актёров и скучный сюжет.",
"Мне очень понравилось каждое мгновение!",
"Самый худший фильм, который я видел.",
"Отличная операторская работа и замечательная история.",
"Невыносимо скучно и предсказуемо."
]
labels = [1, 0, 1, 0, 1, 0]
# Векторизация
vectorizer = CountVectorizer(lowercase=True)
X = vectorizer.fit_transform(reviews)
# Обучение модели
model = LogisticRegression()
model.fit(X, labels)
# Предсказание и оценка
preds = model.predict(X)
accuracy = accuracy_score(labels, preds)
print(f"Accuracy: {accuracy:.2f}")
Такой подход позволит за 15 минут получить базовую модель классификации с приемлемой точностью на маленьком датасете.