Aplicamos la Ley de Snell para la primera refracción, desde el aire al prisma. El ángulo de incidencia es $i_1 = 50^\circ$, el índice de refracción del aire es $n_a = 1$ y el del prisma es $n_p = 1,66$. El ángulo de refracción dentro del prisma es $\alpha$.

Para la segunda refracción, el rayo de luz incide en la cara opuesta del prisma. Como es un prisma equilátero, el ángulo del prisma es $A = 60^\circ$. La relación entre los ángulos en el interior del prisma es $A = \alpha + i_2$, donde $i_2$ es el ángulo de incidencia en la segunda cara.

Ahora aplicamos de nuevo la Ley de Snell para la segunda refracción, desde el prisma al aire. El ángulo de incidencia es $i_2$, y el ángulo de refracción al salir al aire es $\beta$.

Para que el rayo de luz no emerja del prisma, debe producirse una reflexión total interna en la segunda cara (interfaz prisma-aire). Esto ocurre cuando el ángulo de incidencia en la segunda cara ($i_2$) es mayor o igual que el ángulo límite ($L$). El ángulo límite se calcula con la Ley de Snell para reflexión total interna.

Para que el rayo no emerja, el ángulo de incidencia en la segunda cara, $i_2$, debe ser al menos $L$. Consideramos el caso límite $i_2 = L = 37,04^\circ$. A partir de la relación angular en el prisma $A = \alpha' + i_2$ (donde $\alpha'$ es el ángulo de refracción en la primera cara para este nuevo ángulo de incidencia), calculamos $\alpha'$.

Ahora, aplicamos la Ley de Snell en la primera cara (aire a prisma) para encontrar el ángulo de incidencia $i_1'$ en el aire que produce este $\alpha'$.

El ángulo límite con el que deberá incidir el rayo de luz desde el aire para que no emerja del prisma es aproximadamente $40,35^\circ$. Para ángulos de incidencia mayores que este, o para ángulos de incidencia de aire que den como resultado que $i_2$ supere el ángulo límite, el rayo se reflejaría totalmente.