Пусть $v_{0}$ – начальная скорость шара. Закон сохранения горизонтальной составляющей импульса при ударе шара о поверхность клина:
$$
m v_{0}=(m+M) v_{x}, \qquad (1)
$$где $v_{x}$ – горизонтальная составляюoая скорости шара после столкновения, равная скорости клина (в противоположном случае шар не упадет в ту же точку).
Закон сохранения энергии:
$$
\frac{m v_{0}^{2}}{2}=\frac{m+M}{2} v_{x}^{2}+\frac{m}{2} v_{y}^{2}, \qquad (2)
$$где $v_{y}$ – вертикальная составляющая скорости шара после столкновения с клином.
Пусть за время удара $\Delta t$ шарика о клин между ними действовала сила, среднее значение которой равно $F$. Тогда в проекциях на координатные оси уравнение второго закона Ньютона для обоих тел будет иметь вид
$$
m v_{y}=F \Delta t \cos \alpha, \qquad (3)
\\
M v_{x}=F \Delta t \sin \alpha. \qquad (4)
$$Из-за отсутствия трения сила $\vec{F}$ направлена перпендикулярно поверхности клина. Исключив $F \Delta t$ из $(3)$ и $(4)$, получим выражение
$$
\frac{m}{M} \frac{v_{y}}{v_{x}}=\frac{\cos \alpha}{\sin \alpha}, v_{y}=\frac{M}{m} v_{x} \frac{\cos \alpha}{\sin \alpha}. \qquad (5)
$$Подставим $v_{y}$ в $(2)$ и преобразуем полученное выражение:
$$
m^{2} v_{0}^{2}=\frac{m^{2} \sin ^{2} \alpha+m M \sin ^{2} \alpha+M^{2} \cos ^{2} \alpha}{\sin ^{2} \alpha} v_{x}^{2}. \qquad (6)
$$Возведя $(1)$ в квадрат и поделив его на $(6)$, найдем искомое соотношение:
$$
\frac{m}{M}=\frac{\cos ^{2} \alpha-\sin ^{2} \alpha}{\sin ^{2} \alpha}=2.
$$