¿Hay alguna forma de calcular la cantidad de atmósfera que mantendrá un planeta de un tamaño / gravedad en particular, y cuánto se escapará y con qué rapidez?

Sí hay.
Vamos a empezar con la velocidad de escape. Es la velocidad que cuando se le da a un objeto le permite SOLO superar el campo gravitatorio de un planeta. Se puede descubrir utilizando la conservación de la energía mecánica.
ME1 = ME2
KE1 + PE1 = KE2 + PE2
El RHS de la ecuación anterior = 0 cuando asumimos que el objeto simplemente se detiene después de escapar del campo (KE2 = 0) y como no hay campo gravitacional (PE2 = 0).
Cálculo adicional con LHS producirá: –
Velocidad de escape = (2GM / R) ^ 0.5
Función de masa y radio del planeta.
Ahora, si la velocidad RMS de cualquier gas es igual o mayor que la velocidad de escape de cualquier planeta, entonces ese gas estará ausente.
Velocidad RMS = (3RT / M) ^ 0.5
Función de la temperatura y masa molar del gas.
El descanso es todo tuyo para que lo calcules. Mantén la alimentación en la masa y el radio de los diferentes planetas y la Temperatura y la masa molar de diferentes gases en ambas ecuaciones para verificar su presencia.