На стержень, помимо дополнительной силы $\vec{F}$, действуют ещё три: сила тяжести $m\vec{g}$, направленная вертикально вниз и приложенная к его центру, а также полные реакции стены и пола $\vec{Q}_1$ и $\vec{Q}_2$ соответственно, приложенные к концам стержня и направленные внутри своих конусов трения с углом раствора $2\beta$.
Поскольку стержень находится в состоянии равновесия, равнодействующая $\vec{R}$ сил, действующих на него, равна нулю:
$$\vec{R}=\vec{F}+m\vec{g}+\vec{Q}_1+\vec{Q}_2=0
$$
Также нулю равна и сумма моментов этих четырёх сил, причём относительно любой точки. Действительно, пусть $\vec{M}_a$ - момент сил относительно точки $a$. Проведём из точки $a$ радиус-вектор $\vec{r}$ в некоторую точку $b$. Тогда относительно точки $b$ момент сил равен:
$$\vec{M}_b=\vec{M}_a-\left[\vec{r}\times\vec{R}\right]=\vec{M}_a
$$
Таким образом, момент действующих сил равен нулю относительно любой точки.
При фиксированных направлениях $\vec{Q}_1$ и $\vec{Q}_2$ их величины подстраиваются под условия равновесия в зависимости от точки приложения, величины и направления силы $\vec{F}$.
При фиксированных значениях $x$ максимум величины $S$ при приложении силы к концу стержня $A$ достигается на обеих границах возможных направлений $\vec{Q}_1$, а для конца стержня $B$ - на верхней пунктирной линии, задающей наивысшее направление $\vec{Q}_1$. Далее рассмотрим исключительно положения на данной прямой, поскольку она обеспечивает больший диапазон значений $(x{,}S)$ для обоих концов стержня $A$ и $B$.
Минимальное значение отношения $x/S$ достигается, если стержень находится на грани скольжения. Это можно показать как из физических соображений, так и формально, опираясь на алгебру.
Физические соображения: Если, не изменяя направление силы $\vec{F}$, её величину понизить, то сила реакции $\vec{Q}_2$ изменит своё направление и скомпенсирует понижение силы $\vec{F}$. Это может продолжаться вплоть до тех пор, пока на грани проскальзывания не окажутся оба конца $A$ и $B$, т.е пока $\vec{Q}_1$ и $\vec{Q}_2$ не будут пересекаться в точке $T$.
Формальное доказательство: Введём ось $x'$ с началом в точке $T$ так, как показано на рисунке. Далее отдельно рассмотрим два случая:
Обозначим за точку $C$ пересечение рассматриваемой прямой с вертикалью, проходящей через центр стержня. Расстояние от точки $T$ до искомой вертикали обозначим за $x_0$. Тогда имеем:
$$x_0=\cfrac{L\cos\left(\alpha+2\beta\right)}{2}\quad CT=\cfrac{x_0}{\cos\beta}\quad TA=L\cos\left(\alpha+\beta\right)\quad TB=L\sin\left(\alpha+\beta\right)
$$
Для точки $A$ имеем:
$$\cfrac{x}{S}=\cfrac{x_0+x'\cos\beta}{TA+x'}=\cfrac{x_0}{TA}\cfrac{(1+x'\cos\beta/x_0)}{(1+x'/TA)}
$$
Поскольку $x_0/\cos\beta=CT{<}TA$, при любом положительном значении $x'$ отношение $x/S$ будет выше, чем в начале координат.
Для точки $B$ имеем:
$$\cfrac{x}{S}=\cfrac{x_0+x'\cos\beta}{\sqrt{TB^2+x'^2}}=\cfrac{x_0}{TB}\cfrac{(1+x'\cos\beta/x_0)}{\sqrt{1+(x'/TB)^2}}
$$
Поймём, при каких значениях $x'$ данное отношение меньше, чем $x_0/TB$:
$$\cfrac{(1+x'\cos\beta/x_0)}{\sqrt{1+(x'/TB)^2}}<1\Rightarrow \cfrac{2x'\cos\beta}{x_0}+\left(\cfrac{x'\cos\beta}{x_0}\right)^2<\left(\cfrac{x'}{TB}\right)^2
$$
откуда находим $x'$:
$$x'<-\cfrac{2}{CT\left(\cfrac{1}{CT^2}-\cfrac{1}{TB^2}\right)}
$$
Таким образом, это возможно при отрицательных $x'$, что недопустимо.
Мы показали, что оптимальная сила достигается на границе скольжения стержня. Выбирая большее из значений $TA$ и $TB$, находим:
$$
F=\begin{cases}
mg\cdot\cfrac{x_0}{TA}\quad\text{при}\quad\alpha+\beta\le\cfrac{\pi}{4}\\
mg\cdot\cfrac{x_0}{TB}\quad\text{при}\quad\alpha+\beta > \cfrac{\pi}{4}
\end{cases}
$$
или через заданные величины: