Как беше реализирано кеширането на данни? Каква политика за кеширане беше използвана?

Обработката на данни чрез кеширане обикновено се реализира с помощта на структура от данни, която съхранява наскоро или често използвани обекти за бърз достъп.

Политиката за кеширане зависи от задачата, но често се използват:

• LRU (Least Recently Used) — премахва най-малко наскоро използваните елементи.
• LFU (Least Frequently Used) — премахва най-малко използваните често елементи.
• TTL (Time To Live) — елементите се премахват след определено време.

В Go за кеширане може да се използва карта с допълнителна логика за политика на премахване или готови библиотеки (например, groupcache или ristretto).

Пример за прост LRU кеш с използване на контейнер list:

import (
    "container/list"
    "sync"
)

type CacheItem struct {
    key   string
    value interface{}
}

type LRUCache struct {
    capacity int
    cache    map[string]*list.Element
    list     *list.List
    mu       sync.Mutex
}

func NewLRUCache(cap int) *LRUCache {
    return &LRUCache{
        capacity: cap,
        cache:    make(map[string]*list.Element),
        list:     list.New(),
    }
}

func (c *LRUCache) Get(key string) (interface{}, bool) {
    c.mu.Lock()
    defer c.mu.Unlock()

    if elem, ok := c.cache[key]; ok {
        c.list.MoveToFront(elem)
        return elem.Value.(*CacheItem).value, true
    }
    return nil, false
}

func (c *LRUCache) Put(key string, value interface{}) {
    c.mu.Lock()
    defer c.mu.Unlock()

    if elem, ok := c.cache[key]; ok {
        c.list.MoveToFront(elem)
        elem.Value.(*CacheItem).value = value
        return
    }

    if c.list.Len() == c.capacity {
        back := c.list.Back()
        if back != nil {
            c.list.Remove(back)
            delete(c.cache, back.Value.(*CacheItem).key)
        }
    }

    item := &CacheItem{key, value}
    elem := c.list.PushFront(item)
    c.cache[key] = elem
}