Рассмотрим сначала ситуацию, когда брусок плавает, не касаясь дна и повернувшись на угол $\alpha$ вокруг своей продольной оси (на рисунке изображено поперечное сечение бруска). Поскольку плотность материала равна $50\%$ плотности воды, брусок погружён на половину своего объёма, и, следовательно, поверхность воды проходит через продольную ось симметрии бруска (через точку $O$ на рис.).
Помимо силы тяжести, приложенной в точке $O$, на брусок действует сила Архимеда. Для удобства подсчётов, разобьём погружённую часть изображённого сечения отрезком $CD$ на две фигуры — треугольник $ECD$ и оставшийся прямоугольник — и найдём центры масс каждой из них. Центр первой фигуры находится в точке пересечения медиан $\vartriangle{\mkern-5mu}ECD$ (в точке $A$), а центр второй — в точке $B$, где пересекаются диагонали прямоугольника.
Учитывая, что $CD=a$, $EC=a\operatorname{tg}\alpha$, $CF=(b-a\operatorname{tg}\alpha)/2$, и обозначив длину бруска как $L$, запишем выражения для составляющих силы Архимеда $F_1$ и $F_2$, приложенных в точках $A$ и $B$ соответственно:
$$F_1=\rho_вgL\cdot \frac{1}{2} a\cdot a\operatorname{tg}\alpha=\frac{1}{2} \rho_вg a^2L\operatorname{tg}\alpha,\qquad F_2=\rho_вgaL\cdot \frac{b-a\operatorname{tg}\alpha}{2}.$$
Длины отрезков $AO$ и $BO$, опираясь на различные геометрические теоремы, можно найти как
$$AO=\frac{1}{3} CO=\frac{1}{6} ED = \frac{a}{6\cos\alpha},\qquad BO=\frac{a\operatorname{tg}\alpha+CF}{2}=\frac{b+a\operatorname{tg}\alpha}{4}.$$
Определим теперь значение угла $\alpha$, не равное нулю, при котором брусок находится в равновесии. Для этого запишем правило моментов относительно точки $O$:
$$F_1\cdot AO\cos 2\alpha=F_2\cdot BO\cos(90^\circ-\alpha) \qquad\Rightarrow$$
$$\Rightarrow\qquad \frac{1}{2} \rho_вg a^2L\operatorname{tg}\alpha\cdot \frac{a\cos 2\alpha}{6\cos\alpha}=\rho_вgaL\cdot \frac{b^2-a^2\operatorname{tg}^2\alpha}{8}\cdot \sin\alpha \qquad\Rightarrow$$
$$\Rightarrow\qquad \frac{2}{3} (1-\operatorname{tg}^2\alpha)=\left(\frac{b}{a}\right)^2-\operatorname{tg}^2\alpha \qquad\Rightarrow$$
$$\Rightarrow\qquad \operatorname{tg}^2\alpha=3\left(\frac{b}{a}\right)^2-2=\frac{1}{3} \qquad\Rightarrow\qquad \alpha=30^\circ.$$
Данное положение равновесия является устойчивым, так как при $\alpha>30^\circ$ момент силы $F_1$ превышает момент силы $F_2$, и брусок будет поворачиваться по часовой стрелке (угол $\alpha$ будет уменьшаться). Если же $\alpha<30^\circ$, то, наоборот, момент силы $F_2$ будет больше, и брусок будет поворачиваться против часовой стрелки ($\alpha$ станет увеличиваться). Причём это справедливо, в том числе, и для малых углов, близких к $0^\circ$.
Таким образом, когда вода дойдёт до высоты $b/2$, исходное положение бруска (при $\alpha=0^\circ$) перестанет быть устойчивым, и один из краёв бруска (левый или правый — дело случая) станет подниматься вверх. При дальнейшем подъёме уровня воды вращение бруска продолжится, пока угол $\alpha$ не достигнет величины $30^\circ$. Если уровень воды продолжит увеличиваться, брусок оторвётся от дна сосуда и будет плавать в таком (устойчивом!) положении.
Найдём высоту уровня воды, при которой произойдёт отрыв бруска:
$$H=EF\cos\alpha=\frac{b+a\operatorname{tg}\alpha}{2}\cdot\cos\alpha = \frac{\sqrt{7/3}+1}{4}\cdot a\approx 0{,}632\,a.$$