Что такое параллелизм?

Параллелизм - это способность системы выполнять несколько задач или процессов одновременно. В отличие от конкурентности, где задачи могут переключаться, создавая иллюзию одновременности (например, на одноядерном процессоре), параллелизм требует наличия нескольких физических ресурсов (например, ядер процессора).

Основные виды параллелизма:

• На уровне битов: Увеличение размера машинного слова (например, переход от 32-битных процессоров к 64-битным).
• На уровне инструкций: Исполнение нескольких инструкций в одном такте (например, конвейеризация, суперскалярная архитектура).
• На уровне данных: Применение одной операции к множеству элементов данных одновременно (например, SIMD-инструкции).
• На уровне задач (или потоков/процессов): Выполнение независимых блоков кода (задач) на нескольких ядрах или процессорах.

В контексте Python реализация параллелизма на уровне задач осуществляется преимущественно двумя способами:

1. Многопроцессность (multiprocessing): Создание независимых процессов, каждый со своим собственным адресным пространством и интерпретатором Python. Обмен данными между процессами требует явных механизмов (очереди, каналы, общая память). Это позволяет обойти ограничение Global Interpreter Lock (GIL) и использовать множество ядер CPU для ресурсоемких задач.

   python

2. Многопоточность (threading): Создание потоков внутри одного процесса. Потоки имеют общее адресное пространство, что облегчает обмен данными, но ограничены GIL в cPython, который не позволяет одновременно выполнять Python-код множества потоков на разных ядрах. Многопоточность полезна для задач ввода-вывода (сеть, дисковые операции), где потоки могут переключаться, пока один из них ожидает.

   python

Выбор между многопроцессностью и многопоточностью зависит от типа задачи: многопроцессность предпочтительна для CPU-связанных задач, многопоточность - для I/O-связанных.

Различия: