Como detectar se um modelo está a alucinar e não a usar o contexto?

Para detectar se um modelo está a alucinar e não utiliza o contexto, pode:

• Verificar as respostas a perguntas que requerem factos específicos do contexto fornecido. Se o modelo responde com factos que não estão no contexto, isso é um sinal de alucinação.
• Utilizar métodos de verificação de veracidade, como comparar as respostas com uma base de conhecimentos ou fontes.
• Em sistemas RAG (Geração Aumentada por Recuperação), pode verificar se o modelo faz referência a documentos relevantes do contexto.
• Analisar os registos e os mecanismos internos de atenção do modelo para entender quais partes do contexto utiliza.

Exemplo: se o modelo responde a uma pergunta sobre a data de um evento que não está no contexto, e menciona uma data específica, isso pode ser uma alucinação.