Центр цилиндра движется по окружности радиуса $R$ с центром в точке $A$.
Найдем его скорость. Так как трения нет, то цилиндр будет двигаться поступательно. Пусть его скорость в изображенный на рисунке момент равна $u$.
Из ЗСЭ: $\frac{M v^2}{2}+\frac{m u^2}{2}+m g R \cdot \frac{1}{\sqrt{2}}=m g R$.
(В первый момент цилиндр покоился и поставки были очень близки друг к другу $\Rightarrow$ была только потенциальная энергия).
$u^2=2 g R\left(1-\frac{1}{\sqrt{2}}\right)-\frac{M}{m} v^2$.
Центростремительное ускорение точки $O$ равно $a_{ц.с.}=\frac{u^2}{R}$.
По $\mathrm{II}$ закону Ньютона:
$$
\frac{m g}{\sqrt{2}}-N_A=ma_{ц.с.}=2 m g\left(1-\frac{1}{\sqrt{2}}\right)-\frac{M v^2}{R} .\\
N_A=m g\left(\frac{3}{\sqrt{2}}-2\right)+\frac{M v^2}{R}
$$