En realidad, tienes todas las palabras en tu pregunta. Creo que solo te estás engañando a ti mismo pensando que tiene un nombre más complicado.
Se llama proceso de eliminación.
Esta respuesta parece demasiado breve, por lo que acabaré observando que el proceso de eliminación está estrechamente vinculado al diagnóstico de exclusión. Este término se usa comúnmente en un contexto médico, pero se puede aplicar en otros lugares. En las memorables palabras de Sherlock Holmes:
Cuando hayas eliminado lo imposible, lo que queda, por improbable que sea, debe ser la verdad.
ETA: Stalin Armijos en su respuesta ha dado un término que describe una aplicación específica del proceso de eliminación, la clave dicotómica.
Es posible que este formato específico sea lo que está pensando, aunque la guía de identificación de insectos que vinculó en los detalles no es un ejemplo de esto. La diferencia es que una clave dicotómica se presenta como una serie de opciones entre dos opciones, y la primera pregunta en la guía de insectos presenta cuatro categorías de posibilidades basadas en el número de alas.