После смещения верхнего поршня на расстояние $x$ вниз сила упругости станет равна $F_{упр}+kx$. Изменится также сила давления воды, обозначим её новую величину как $P_2S$. Неизменными останутся сила тяжести поршня $mg$ и сила атмосферного давления $P_0S$. Условие равновесия поршня в этом случае:
\[F_{упр}+kx+P_2S=mg+P_0S.\tag{2}\]
Обозначим первоначальное расстояние от верхнего поршня до нижнего за $h$. Тогда давление воды около нижнего поршня равно $P_1+\ \rho gh$.
После смещения верхнего поршня расстояние между поршнями уменьшится до величины $(h-x)$. Давление воды около нижнего поршня станет равным $P_2+\rho g(h-x)$.
Условие равновесия для этой системы: \[P_1S+Mg=F+P_1S_0+\rho ghS_0. \tag{3}\]
Аналогично в случае смещённого верхнего поршня:
\[P_2S+Mg=F+P_2S_0+\rho ghS_0-\rho gxS_0.\tag{4}\]
Из (1) и (2) уравнений получим: $\left(P_1-P_2\right)S=kx. \tag{*}$
Из (3) и (4) уравнений получим: $\left(P_1-P_2\right)\left(S-S_0\right)= \rho gS_0x.\tag{**}$
Из (*) и (**) получим искомый ответ: