Դուք աշխատե՞լ եք ռեկուրսիվ նյարդային ցանցերի հետ:

Կրկնվող նեյրոնային ցանցերը (RNN) օգտագործվում են հաջորդական տվյալների մշակման համար, ինչպիսիք են տեքստը, ժամանակային շարքերը կամ աուդիոն: Իմ փորձի մեջ, ես օգտագործել եմ RNN ժամանակային շարքերի կանխատեսման և տեքստի վերլուծության խնդիրների համար, օրինակ՝ տեքստի գեներացման կամ հաջորդականությունների դասակարգման համար:

RNN-ները տարբեր են այն առումով, որ ունեն ցիկլային կապեր, որոնք թույլ են տալիս հաշվի առնել նախորդ տարրերի կոնտեքստը: Սակայն, դասական RNN-ները կարող են տառապել մարող գրադիենտի խնդրից, այդ պատճառով հաճախ օգտագործվում են նրանց բարելավված տարբերակները՝ LSTM (Ազդեցիկ կարճաժամկետ հիշողություն) և GRU (Gated Recurrent Unit):

Python-ում Keras-ով պարզ RNN-ի օրինակ:

from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import SimpleRNN, Dense

model = Sequential([
    SimpleRNN(50, input_shape=(timesteps, features)),
    Dense(1, activation='sigmoid')
])
model.compile(optimizer='adam', loss='binary_crossentropy')

Այստեղ, timesteps-ը հաջորդականության երկարությունն է, իսկ features՝ յուրաքանչյուր քայլի հատկանիշների քանակը։