1  ^?? Чему равна плотность $\rho_2$, если плотность $\rho_1$ известна?

Плотность $\rho_2$ находим из условия равенства давлений жидкости у дна в левом и правом сосудах:
$$\rho_2 g h + \rho_1 g (\frac32 H - h) = \rho_1 gH$$

2  ^?? Определите, при какой массе $m$ поршня верхние границы жидкостей в левом и правом сосуде в положении равновесия будут расположены на одном уровне.

Уровни жидкости в двух половинках сосуда сравняются и станут равны $\frac{5H}{4}$, т.е. в левом сосуде уровень опустится на $\frac{H}{4}$, а в правом поднимется на $\frac{H}{4}$. Следует, также, иметь в виду, что согласно условию $h$ всегда больше $\frac{H}{2}$ ($h > \frac{H}{2}$).

В зависимости от величины $h$ в задаче возможны 2 случая.

1. $h < H$, нижняя граница второй жидкости не опустится до уровня трубочки. В этом случае масса поршня находится из условия равенства давлений у дна сосуда:

$$\frac{mg}{S} + \rho_2 g h + \rho_1 g (\frac{5H}{4} - h) = \rho_1 g \frac{5H}{4}$$

Откуда $$m = (\rho_1  - \rho_2) h S  = \rho_1 \frac{H}{2} S$$

2. В случае $\frac{5H}{4} > h > H$ нижний уровень жидкости с плотностью $\rho_2$ в процессе опускания поршня дойдет до трубочки, жидкость начнет перетекать в правый сосуд и будет в нем всплывать вверх, так как $\rho_2 < \rho_1$.

Теперь, если считать от дна, жидкость с плотностью $\rho_1$ в левом сосуде доходит до уровня $\frac{H}{4}$, а столб жидкости с плотностью $\rho_2$ имеет высоту $H$. Из условия сохранения объемов следует, что столб жидкости с $\rho_1$ в правом сосуде теперь имеет высоту $(\frac{9H}{4} - h)$, а высота столба жидкости с плотностью $\rho_2$ равна $(h - H)$. 

Отсюда получаем $$\frac{mg}{S} + \rho_2 g H + \rho_1 g \frac{H}{4} = \rho_1 g (\frac{9H}{4} - h) + \rho_2 g (h - H)$$ или $$m = \rho_1 (2H - h) S + \rho_2 (h - 2H) S = \rho_1 \frac{H(2H-h)}{2h}S$$