В силу симметрии системы, при движении бусинок кольцо не будет смещаться по горизонтали. Для отрыва кольца от плоскости необходимо, чтобы $N_{1}=0$ (см. рисунок).
Это возможно, если силы реакции со стороны бусинок на кольцо$N$ направлены от центра. К этому моменту времени каждая тз бусинок сместится от вертикали на угол $\alpha$ (см. рисунок ниже).
Тогда по второму закону Ньютона для каждой из них будет справедливо соотношение:
$$
m\frac{v^{2}}{R}=N+mg\cos \alpha,
$$
где $N$ – сила, действующая на бусинку со стороны кольца.
Согласно закону сохранения энергии, верно равенство:
$$
m\frac{v^{2}}{R}=mgR(1-\cos \alpha).
$$
Решая совместно эти уравнения, получим:
$$
N=mg(2-3\cos \alpha).
$$
Для момента отрыва кольца:
$$
2N\cos \alpha=Mg.
$$
Из полученного выражения можно найти отношение $m/M$:
$$
\frac{m}{M}=\frac{1}{2(2\cos \alpha-3\cos^{2} \alpha)}.
$$
В знаменателе квадратичная зависимость с максимумом при $\cos \alpha = 1/3$, при этом $m/M=3/2$. Следовательно, отрыв происходит при
$$
\frac{m}{M}\geqslant \frac{3}{2}.
$$