Что такое параллелизм?

Параллелизм - это способность системы выполнять несколько задач или процессов одновременно. В отличие от конкурентности, где задачи могут переключаться, создавая иллюзию одновременности (например, на одноядерном процессоре), параллелизм требует наличия нескольких физических ресурсов (например, ядер процессора).

Основные виды параллелизма:

• На уровне битов: Увеличение размера машинного слова (например, переход от 32-битных процессоров к 64-битным).
• На уровне инструкций: Исполнение нескольких инструкций в одном такте (например, конвейеризация, суперскалярная архитектура).
• На уровне данных: Применение одной операции к множеству элементов данных одновременно (например, SIMD-инструкции).
• На уровне задач (или потоков/процессов): Выполнение независимых блоков кода (задач) на нескольких ядрах или процессорах.

В контексте Python реализация параллелизма на уровне задач осуществляется преимущественно двумя способами:

1. Многопроцессность (multiprocessing): Создание независимых процессов, каждый со своим собственным адресным пространством и интерпретатором Python. Обмен данными между процессами требует явных механизмов (очереди, каналы, общая память). Это позволяет обойти ограничение Global Interpreter Lock (GIL) и использовать множество ядер CPU для ресурсоемких задач.

   python

2. Многопоточность (threading): Создание потоков внутри одного процесса. Потоки имеют обще