Ποια παράμετροι πρέπει να χρησιμοποιηθούν για την αξιολόγηση της μνήμης για την inference του LLM και ποιες αρχιτεκτονικές βελτιστοποιήσεις μειώνουν το KV-cache;