Какое поведение проявляется в программе, если функция вызывает сама себя без условий выхода?

Если функция в Java вызывает сама себя без условий выхода, это приводит к бесконечной рекурсии. В итоге стек вызовов будет расти до тех пор, пока не исчерпается доступная память стека, что вызовет ошибку StackOverflowError.

Пример:

public void recursive() {
    recursive(); // нет условия выхода
}

Такой код приведёт к переполнению стека и аварийному завершению программы.