Силы, действующие на брусок и клин, показаны на рисунке, причем $\left|\vec{T}_{1}\right|=\left|\vec{T}_{2}\right|=\left|\vec{T}_{3}\right|=T$.
Обозначим ускорение клина через $a_{1}$. Запишем уравнения движения тел в системе координат $x O у$:
для клина по $O x$ с учетом равенства реакций опоры $\left|\vec{N}^{\prime}\right|=|\vec{N}|$:
$$
T(1-\cos \alpha)+N \sin \alpha=M a_{1}; \quad (1)
$$
для бруска по оси $O x$ :
$$
T \cos \alpha-N \sin \alpha=m a_{x}; \quad (2)
$$
для бруска по оси $Oy$:
$$
m g-T \sin \alpha-N \cos \alpha=m a_{y}. \quad (3)
$$
Здесь $a_{x}$ и $a_{y}$ – проекции вектора ускорения бруска на координатные оси.
Связь между ускорением клина и ускорением бруска можно установить, используя кинематические соображения. Пусть клин сместился на $l$ влево. Тогда брусок, движущийся по клину, сместится на $l$ вдоль наклонной плоскости и одновременно на расстояние $l$ влево вместе с клином. Отсюда получим:
$$
a_{x}=a_{1}(1-\cos \alpha) \text { и } a_{y}=a_{1} \sin \alpha.
$$
Тогда система уравнений $(1)-(3)$ примет вид:
$$
\left.\begin{array}{l}
T(1-\cos \alpha)+N \sin \alpha=M a_{1},
\\
T \cos \alpha-N \sin \alpha=m a_{1}(1-\cos \alpha),
\\
m g-T \sin \alpha-N \cos \alpha=m a_{1} \sin \alpha,
\end{array}\right\} \quad (4)
$$
откуда
$$
a_{1}=\frac{m g \sin \alpha}{M+2 m(1-\cos \alpha)}.
$$
Рассмотренное движение возможно, если $N>0$. Находя $N$ из уравнений $(4)$, получим условие:
$$
\frac{M}{m}>\frac{(1-\cos \alpha)^{2}}{\cos \alpha}.
$$