Jaký úkol řeší GPT?

GPT (Generativní předtrénovaný transformátor) je model hlubokého učení navržený pro zpracování přirozeného jazyka. Hlavním úkolem GPT je generovat souvislý a smysluplný text na základě vstupních dat.

Řeší úkoly související s porozuměním a generováním textu, například:

• Odpovědi na otázky
• Tvorba textů (článků, dopisů, kódu)
• Překlad a shrnutí
• Dialogové systémy

GPT je trénován na velkých objemech textových dat, což mu umožňuje předpovídat následující slova v sekvenci a vytvářet texty podobné lidským.

Příklad použití:

from transformers import GPT2LMHeadModel, GPT2Tokenizer

tokenizer = GPT2Tokenizer.from_pretrained('gpt2')
model = GPT2LMHeadModel.from_pretrained('gpt2')

input_text = "Ahoj, jak se máš?"
input_ids = tokenizer.encode(input_text, return_tensors='pt')

output = model.generate(input_ids, max_length=50)
print(tokenizer.decode(output[0], skip_special_tokens=True))