Разложим силу натяжения ленты на две составляющие: касательную $F_{t}$ и нормальную $F_{п}$ к поверхности мотка в точке отрыва. Касательную компоненту $F_{t}$ находим из уравнения моментов для мотка, которое запишем для двух случаев:
$$
F_{t} R=m g r, F_{t x} R=2 m g r.
$$
Тогда сила, с которой следует тянуть ленту в этих случаях, равна
$$
F=\sqrt{F_{t}^{2}+F_{п}^{2}}, F_{x}=\sqrt{F_{t x}^{2}+F_{п}^{2}}.
$$
Отсюда получаем
$$
F_{x}=\sqrt{F_{t x}^{2}+F_{п}^{2}}=\sqrt{4 m^{2} g^{2} \frac{r^{2}}{R^{2}}+F^{2}-m^{2} g^{2} \frac{r^{2}}{R^{2}}}=\sqrt{F^{2}+3 m^{2} g^{2} \frac{r^{2}}{R^{2}}}.
$$