Como determinar se uma classe é herdeira de outra classe?

Usando o operador instanceof ou o método isInstance() da classe Class.

// Classe A
class A {
    //...
}

// Classe B, que herda de A
class B extends A {
    //...
}

// Criando instâncias
A instanceA = new A();
B instanceB = new B();

// Verificação com instanceof
boolean isBInstanceOfA = instanceB instanceof A; // true
boolean isAInstanceOfB = instanceA instanceof B; // false

// Verificação com isInstance()
boolean isBInstanceOfAByClass = A.class.isInstance(instanceB); // true
boolean isAInstanceOfBByClass = B.class.isInstance(instanceA); // false