¿Qué es la penalización por repetición y la penalización por frecuencia/presencia?

Penalización por repetición — es un parámetro utilizado en modelos de lenguaje generativos para reducir la probabilidad de repetir las mismas palabras o frases en el texto. Disminuye la probabilidad de seleccionar tokens que ya han sido generados, lo que ayuda a hacer el texto más diverso y natural.

Penalización por frecuencia y penalización por presencia — son dos formas relacionadas, pero diferentes, de influir en la generación:

• La penalización por frecuencia reduce la probabilidad de elegir un token en proporción a cuántas veces ya ha aparecido en el texto generado. Cuanto más frecuente sea el token, mayor será la penalización.

• La penalización por presencia reduce la probabilidad de seleccionar un token si ya ha aparecido al menos una vez, independientemente de cuántas repeticiones haya.

Ejemplo de uso en generación de texto:

# Pseudocódigo para configurar la generación
def generate_texto():
    model.generate(
        input_text,
        repetition_penalty=1.2,  # reduce repeticiones
        frequency_penalty=0.5,   # penaliza tokens frecuentes
        presence_penalty=0.3    # penaliza tokens ya presentes en el texto
    )

De esta manera, estos parámetros ayudan a controlar la diversidad y evitar monotonía o repeticiones excesivas en el texto generado.