Это связано с тем, как работают эти методы и мониторы (ассоциированные с объектами).
wait(): Освобождает монитор объекта и переводит вызывающий поток в состояние ожидания, пока не получит уведомление (notify() или notifyAll()) и не сможет повторно захватить монитор. Если wait() вызовется без захваченного монитора, невозможно было бы его освободить, что привело бы к некорректному поведению и исключению IllegalMonitorStateException.
notify() / notifyAll(): Выбирает один или все ожидающие потоки (которые вызвали wait() на этом же объекте) и переводит их в состояние готовности к запуску. Эти методы также должны вызываться внутри синхронизированного блока, чтобы гарантировать, что вызывающий поток владеет монитором объекта. В противном случае, неясно, какие потоки нужно уведомить, так как они связаны с ожиданием на мониторе этого объекта. Отсутствие синхронизации могло бы привести к гонкам: поток может вызвать notify() до того, как другой поток успеет вызвать wait(), и уведомление будет потеряно.
В общем, синхронизация до вызова wait/notify гарантирует, что поток владеет монитором, необходимым для корректного выполнения этих операций, и предотвращает IllegalMonitorStateException. Синхронизация после вызова wait (при повторном входе в синхронизированный блок) гарантирует, что поток повторно захватил монитор, прежде чем продолжить выполнение.