Разрыва нити может происходить по двум причинам:
1) при движении шарика по окружности сила натяжения достигает значения $T=9mg$;
2) в некоторый момент нить провисает, и при последующем натяжении рвётся.
С учётом заданного направления начальной скорости, разрыв нити без провисания реализуется только в четвёртом квадранте. Пусть $\beta$ - угол поворота нити от начального положения. Из закона сохранения энергии имеем:
$$\cfrac{mv^2}{2}-mgl\sin\beta=\cfrac{mv^2_0}{2}\Rightarrow{v^2=v^2_0+2gl\sin\beta}
$$
Найдём силу натяжения нити из условия движения шарика по окружности:
$$T-mg\sin\beta=\cfrac{mv^2}{l}\Rightarrow{T=m\left(\cfrac{v^2_0}{l}+3g\sin\beta\right)}
$$
Подставляя $\beta=\cfrac{\pi}{6}$ и $T=9mg$, найдём первое из возможных значений начальной скорости, при которых нить рвётся в четвёртом квадранте:
Рассмотрим ситуацию, когда шарик сходит с круговой траектории. Это происходит во втором квадранте.
Заметим, что в момент перехода с круговой траектории на параболическую радиус кривизны траектории шарика равен $l$, а затем, с повышением его высоты над точкой старта, радиус кривизны его траектории будет уменьшаться. Это означает, что точка повторного пересечения параболической траектории с окружностью будет ниже точки перехода. Из этого следует, что разрыв нити во втором квадранте невозможен.
Введём углы $\varphi$ и $\theta$, отсчитываемые от направления "вверх" против часовой стрелки, соответствующие положениям перехода с круговой траектории на параболическую и повторного пересечения параболической траектории с окружностью соответственно.
Найдём скорость шарика в момент перехода на параболическую орбиту:
$$\cfrac{mv^2}{l}=mg\cos\varphi\Rightarrow{v=\sqrt{gl\cos\varphi}}
$$
Сразу выразим начальную скорость через угол $\varphi$. Из закона сохранения энергии:
$$\cfrac{mv^2}{2}+mgl\cos\varphi=\cfrac{mv^2_0}{2}\Rightarrow{v_0=\sqrt{3gl\cos\varphi}}
$$
Введём координатные оси $x$ и $y$, направленные вправо и вверх соответственно. Из уравнений движения получим:
$$\Delta{x}=vt\cos\varphi=l\left(\sin\varphi-\sin\theta\right)\qquad\Delta{y}=vt\sin\varphi-\cfrac{gt^2}{2}=R\left(\cos\theta-\cos\varphi\right)
$$
Комбинируя выражения для $v$, $\Delta{x}$ и $\Delta{y}$, получим:
$$\tan\varphi\left(\sin\varphi-\sin\theta\right)-\cfrac{\left(\sin\varphi-\sin\theta\right)^2}{2\cos^3\varphi}=\cos\theta-\cos\varphi
$$
Преобразуем:
$$2\sin^2\varphi\cos^2\varphi-2\sin\varphi\cos^2\varphi\sin\theta-\sin^2\varphi+2\sin\varphi\sin\theta-\sin^2\theta=2\cos^3\varphi\cos\theta-2\cos^4\varphi
$$
Упростим выражение с учётом основного тригонометрического тождества:
$$2\cos^2\varphi-\sin^2\varphi+2\sin^3\varphi\sin\theta-\sin^2\theta=2\cos^3\varphi\cos\theta
$$
Получим формулу приведения для третьей степени, используя формулу Муавра для комплексных чисел:
$$e^{3i\varphi}=\cos{3\varphi}+i\sin{3\varphi}=\left(\cos\varphi+i\sin\varphi\right)^3=\left(\cos^3\varphi+3i\cos^2\varphi\sin\varphi-3\sin^2\varphi\cos\varphi-i\sin^3\varphi\right)
$$
Получаем:
$$\cos{3\varphi}=4\cos^3\varphi-3\cos\varphi\qquad\sin{3\varphi}=3\sin\varphi-4\sin^3\varphi
$$
Также с учётом формул приведения для двойных углов
$$\cos^2\varphi=\cfrac{1+\cos{2\varphi}}{2}\qquad\sin^2\varphi=\cfrac{1-\cos{2\varphi}}{2}
$$
получим:
$$3\cos{2\varphi}+3\sin\theta\sin\varphi-\sin{\theta}\sin{3\varphi}+\cos{2\theta}=3\cos\theta\cos\varphi+\cos\theta\cos{3\varphi}
$$
Воспользуемся выражениями для косинуса суммы и разности углов:
$$\cos\left(\alpha\pm{\beta}\right)=\cos\alpha\cos\beta\mp{\sin\alpha\sin\beta}
$$
и преобразуем выражение:
$$3\left(\cos{2\varphi}-\cos\left(\varphi+\theta\right)\right)=\cos\left(\theta-3\varphi\right)-\cos{2\theta}
$$
Представим разность косинусов в виде произведения:
$$\cos\alpha-\cos\beta=2\sin\left(\cfrac{\beta-\alpha}{2}\right)\sin\left(\cfrac{\alpha+\beta}{2}\right)
$$
откуда получим:
$$3\sin\left(\cfrac{\theta-\varphi}{2}\right)\sin\left(\cfrac{\theta+3\varphi}{2}\right)=\sin\left(\cfrac{\theta+3\varphi}{2}\right)\sin\left(\cfrac{3\left(\theta-\varphi\right)}{2}\right)
$$
Если сократить общий множитель и ввести величину $x=\cfrac{\theta-\varphi}{2}$, мы получим уравнение:
$$\sin{3x}=3\sin{x}
$$
Решением которого является $x=\pi{n}$, а значит $\theta=\varphi+2\pi{m}$.
Данное решение соответствует точке перехода с круговой траектории на параболическую.
Другое решение получается из следующего условия:
$$\sin\left(\cfrac{\theta+3\varphi}{2}\right)=0\Rightarrow{\cfrac{\theta+3\varphi}{2}=\pi{n}\Rightarrow{\theta+3\varphi=2\pi{n}}}
$$
Поскольку $3\varphi\leq{\cfrac{3\pi}{2}}$ и $\theta<2\pi$ - для каждого из случаев $n=1$.
Далее индекс соответствует номеру квадранта, в котором происходит разрыв нити:
$$\theta_1=\cfrac{5\pi}{3}\quad\theta_3=\cfrac{2\pi}{3}\quad\theta_4=\cfrac{4\pi}{3}
$$
Сразу получаем:
$$\varphi_1=\cfrac{\pi}{9}\quad\varphi_3=\cfrac{4\pi}{9}\quad\varphi_4=\cfrac{2\pi}{9}
$$
и для возможных значений начальной скорости находим: