La ley de Snell para el ángulo límite (o ángulo crítico) establece que la reflexión total interna ocurre cuando un rayo de luz pasa de un medio con mayor índice de refracción ($n_1$) a uno con menor índice de refracción ($n_2$), y el ángulo de incidencia $\theta_i$ es mayor o igual al ángulo crítico $\theta_c$. En el ángulo crítico, el ángulo de refracción es de $90^\circ$.

En este caso, el rayo va del agua al aire, por lo que $n_1 = n_{agua}$, $n_2 = n_{aire}$ y $\theta_c = 48,6^\circ$.

Despejamos $n_{agua}$:

Sustituyendo los valores dados ($n_{aire} = 1$):

El índice de refracción del agua es $n_{agua} \approx 1,333$.

La velocidad de la luz en un medio se relaciona con su índice de refracción $n$ y la velocidad de la luz en el vacío $c$ mediante la expresión $v = c/n$. Por lo tanto, el índice de refracción es $n = c/v$.Se nos indica que la velocidad de la luz en el segundo medio (llamémoslo medio X) es $v_X = \frac{3}{5} v_{agua}$. Podemos calcular su índice de refracción $n_X$ en relación con $n_{agua}$:

Dado que $n_{agua} = c/v_{agua}$, tenemos:

Como $\frac{5}{3} \approx 1,667$, el índice de refracción del medio X es $n_X \approx 1,667 \times 1,333 \approx 2,222$. Claramente, $n_X > n_{agua}$.Para que exista reflexión total interna, el rayo de luz debe viajar desde el medio con mayor índice de refracción al medio con menor índice de refracción. Puesto que $n_X > n_{agua}$, el rayo debe viajar del medio X al agua para que la reflexión total interna sea posible.

Aplicamos la fórmula del ángulo límite para el paso de un rayo del medio X al agua, donde $n_1 = n_X$ y $n_2 = n_{agua}$.

Sustituimos la relación $n_X = \frac{5}{3} n_{agua}$ obtenida en el apartado anterior:

Calculamos el ángulo $\theta_c'$:

El ángulo límite para la interfase medio X-agua es aproximadamente $36,87^\circ$.