Шумо кадом усулҳои фишурдани prompt-ро медонед (LLMLingua)?

Техникаи кыскардани prompts — ин техникаҳо барои кӯтоҳ кардан ё оптимизатсияи дархостҳои воридотӣ (prompt) барои моделҳои бузурги забонӣ (LLM) мебошанд, ки мақсад доранд дарозии онҳоро кам кунанд ва самаранокиро зиёд кунанд, бидуни талафоти сифати ҷавоб. Методҳои асосӣ:

• Беҷо кардани маълумоти такроршаванда ё нолозим: қисмҳои такроршаванда ё нолозимро аз матн хориҷ кардан.
• Истифодаи кӯтоҳсохтҳо ва акронимҳо: иваз кардани ибораҳои дароз ба версияҳои кӯтоҳ ва фаҳмо барои модел.
• Тартиб додани нав: дархостро бо шакли кӯтоҳтар навиштан, ҳангоми нигоҳ доштани маъно.
• Истифодаи пайвандҳои контекстӣ: ба ҷои такрор кардани маълумот, пайвандҳо ба маълумоти қаблӣ додашударо истифода бурдан.
• Кодгузорӣ ё фишурдан: татбиқи форматҳои махсус ё токенсозӣ барои кам кардани андоза.

Ин методҳо кӯмак мекунанд, ки истеъмоли токенҳоро кам кунанд ва коркардро тезтар созанд, ки дар кор бо маҳдудиятҳои моделҳо ва хароҷоти дархостҳо муҳим аст.