Про однородность цилиндра и коэффициент трения между клином и цилиндром ничего не сказано. Поэтому будем считать, что трения между клином и цилиндром нет.
Мы считаем, что цилиндр во время скольжения между клином и стенкой не вращается, а движется только поступательно.
Так как цилиндр и клин движутся поступательно и все время касаются, то расстояние между их центрами масс по горизонтали постоянно.
Значит $\vec a_1$ и $\vec a_2$, ускорения центров масс цилиндра и клина соответственно, имеют равные проекции на горизонтальное направление. Поэтому с учетом (Второй закон Ньютона)
$$m_1\vec a_1=m_1 \vec g+\vec N +\vec N_l \\ m_2\vec a_2=m_2\vec g+\vec N\cdot (-1)+\vec N_r $$
получаем
$$\frac{N}{m_1}-\frac{N_l\sin\alpha}{m_1}=\frac{N_r\sin\alpha}{m_2}-\frac{N}{m_2}. \tag{1}$$
Поскольку и клин, и цилиндр движутся поступательно и не отрываясь от стенки, то $\vec a_1$ параллельно левой поверхности, а $\vec a_2$ — правой поверхности.
Значит,
$$N_l=N\sin\alpha+m_1g\cos\alpha, \tag{2}$$
$$N_r=N\sin\alpha+m_2g\cos\alpha. \tag{3}$$
Подставляем $(2)$ и $(3)$ в $(1)$ и получаем $$\frac{N}{m_1}-\frac{\sin\alpha}{m_1}\left(N\sin\alpha+m_1g\cos\alpha\right)=\frac{\sin\alpha}{m_2}\left(N\sin\alpha+m_2 g\cos\alpha\right)-\frac{N}{m_2}, \\
N\left(\frac{1}{m_1}+\frac{1}{m_2}\right)\cos^{2}\alpha=2g\sin\alpha\cos\alpha=g\cdot \sin 2\alpha$$
$$N=\frac{2gm_1m_2}{m_1+m_2}\operatorname{tg}\alpha.$$