Каква колекция да използвате, за да проверите бързо дали дадена стойност е в списъка с обработени стойности в приложение, което чете голям поток от стойности (милиони)?

Для быстрой проверки наличия конкретного значения среди миллионов обработанных лучше всего использовать множество (set) в Python. Множество реализовано на основе хэш-таблицы, что обеспечивает амортизированное время поиска O(1).

Пример:

processed = set()

# Добавление значений
processed.add(value)

# Проверка наличия
if value_to_check in processed:
    print("Значение уже обработано")
else:
    print("Значение новое")

Использование списка или других коллекций будет значительно медленнее, так как поиск в них — O(n).