1  ^?? Определите, при какой высоте $h$ столба воды в сосуде чашка оторвется от его дна и ртуть начнет вытекать из-под ее краев.

Запишем условие равновесия чашки. На нее действуют сила тяжести $\overrightarrow{m \vec{g}}$, сила реакции дна сосуда $\vec{N}$, а также силы давления воды $\vec{F}_в$ и ртути $\vec{F}_р$ (рисунок ниже). Чашка находится в равновесии при условии $$ F_{р}+N=m g+F_в~(1)$$Сила $F_в$ есть сила давления столба воды на верхнее основание чашки, то есть
$F_в= \varrho g(h-R) \pi R^2$ при $h \geqslant R;$ $h < R$. $(2)$

Из условия равновесия следует, что с понижением уровня воды в сосуде модуль силы реакции $N$ убывает. При некоторой высоте $h$ столба воды $N$ обратится в нуль. Условие $N=0$ и определяет момент отрыва чашки. Сразу после отрыва давление ртути в верхней точке чашки также обратится в нуль. Для расчета силы $F_р$ в момент отрыва чашки представим себе полусферическую поверхность в слое ртути толщины $R$. В силу гидростатического равновесия, силы, действующие на эту поверхность снизу и сверху, одинаковы, то есть $F_р$ равна весу «ртутной» чашки:
$$
F_р= \varrho_1 g\left(\pi R^3-\frac{2}{3} \pi R^3\right)=\frac{1}{3} \varrho_1 g \pi R^3 . ~(3)
$$Решая уравнение $(1)$ с учетом $(2)$, $(3)$ и условия отрыва чашки $N=0$, получим ответ на первый вопрос задачи:
$$
h=R\left(1+\frac{\varrho_1}{3 \varrho}\right)-\frac{m}{\varrho \pi R^2} .
$$

2  ^?? Найдите высоту ртути в полости, когда из сосуда откачают всю воду. Давлением паров воды пренебречь.

Начиная с момента отрыва чашки во всем последующем процессе откачки воды квазиравновесие чашки обеспечивается уменьшением силы давления ртути $F_р$. Эта сила уменьшается за счет вытекания ртути из-под краев чашки. Ртуть перестанет вытекать, когда уровень воды достигнет верхнего основания чашки $(h=R)$. Дальнейшая откачка воды не приведет к изменению количества ртути в чашке. Условие равновесия чашки при этом примет вид (давлением насыщенных паров воды и ртути пренебрегаем)
$$
m g=F_{р_1},~(4)
$$где $F_{р_1}$ — сила, с которой давит на чашку оставшийся в ней слой ртути высоты $h_1$ (рисунок ниже). Эта сила численно равна весу ртути в объеме той части чашки, которая заштрихована на рисунке:
$$
F_{р_1}=\varrho_1 g\left(\pi R^2 h_1-V_1\right),~(5)
$$где $V_1$ — объем оставшейся в чашке ртути, равный
$$
V_1=\frac{2}{3} \pi R^3-\pi\left(R-h_1\right)^2\left(R-\frac{R-h_1}{3}\right) .~(6)
$$Подставляя $(5)$ с учетом $(6)$ в условие равновесия $(4)$ и решая получающееся уравнение относительно $h_1$, получим ответ на второй вопрос задачи:
$$
h_1=\sqrt[3]{\frac{3 m}{\pi\varrho_1}}
$$