Сила, действующая со стороны $M_1$ на $m$, равна $G m M_1 \frac{\vec{r}_1 - \vec{r}}{|\vec{r}_1 - \vec{r}|^3}$, где $\vec{r}_1 - \vec{r}$ – вектор, направленный от $m$ к $M_1$. Добавляя аналогичное слагаемое для силы со стороны $M_2$, получаем ответ:
\begin{equation*}
\vec{F}_g = G m M_1 \frac{\vec{r}_1 - \vec{r}}{|\vec{r}_1 - \vec{r}|^3} + G m M_2 \frac{\vec{r}_2 - \vec{r}}{|\vec{r}_2 - \vec{r}|^3}
\end{equation*}

Используя третий закон Кеплера, находим ответ:
\begin{equation*}
\Omega = \sqrt{\frac{G \left( M_1 + M_2 \right)}{R^3}}.
\end{equation*}Альтернативно, расстояние от центра масс до первого тела равно $r_1 = \frac{M_2}{M_1 + M_2} R$, поэтому второй закон Ньютона для него имеет вид
\begin{equation*}
\frac{G M_1 M_2}{R^2} = M_1 \cdot \Omega^2 r_1 = \frac{M_1 M_2}{M_1 + M_2} R \cdot \Omega^2,
\end{equation*}откуда находим приведенный выше ответ.

На $m$ действуют центробежная сила и сила Кориолиса:
\begin{equation*}
\vec{F}_{\Omega} = m \Omega^2 \vec{r} + 2 m \vec{v} \times \vec{\Omega}.
\end{equation*}

Найдем радиус-векторы $M_1$ и $M_2$: $\vec{r}_1 = \begin{pmatrix} -\alpha R \\ 0 \end{pmatrix}$, $\vec{r}_2 = \begin{pmatrix} \left(1 - \alpha \right) R \\ 0 \end{pmatrix}$.
Также вычислим векторное произвдение $\vec{v} \times \vec{\Omega}$: $\vec{v} = \begin{pmatrix}
v_x \\ v_y \\ 0
\end{pmatrix}$, $\vec{\Omega} = \begin{pmatrix}
0 \\ 0 \\ \Omega
\end{pmatrix}$, поэтому
\begin{equation*}
\vec{v} \times \vec{\Omega} = \left\lvert
\begin{matrix}
\hat{x} & \hat{y} & \hat{z} \\
v_x & v_y & 0 \\
0 & 0 & \Omega
\end{matrix}
\right\rvert = \begin{pmatrix}
\Omega v_y \\
- \Omega v_x \\
0
\end{pmatrix}.
\end{equation*}Подставляя полученные соотношения в выражения для $\vec{F}_g$ и $\vec{F}_{\Omega}$ и заменяя $G M_1 = \left(1 - \alpha \right) R^3 \Omega^2$ и $G M_2 = \alpha R^3 \Omega^2$, получаем ответ:
\begin{multline*}
F_x = \left( 1 - \alpha \right) \frac{m \Omega^2 R^3}{\sqrt{\left( x + \alpha R \right)^2 + y^2}^3} \cdot \left( - x - \alpha R \right) + \\ + \alpha \frac{m \Omega^2 R^3}{\sqrt{\left( x - \left(1 - \alpha \right) R \right)^2 + y^2}^3} \cdot \left( - x + \left(1 - \alpha \right) R \right) + m \Omega^2 x + 2 m \Omega v_y,
\end{multline*}\begin{equation*}
F_y = \left( 1 - \alpha \right) \frac{m \Omega^2 R^3}{\sqrt{\left( x + \alpha R \right)^2 + y^2}^3} \cdot \left( -y \right) + \alpha \frac{m \Omega^2 R^3}{\sqrt{\left( x - \left(1 - \alpha \right) R \right)^2 + y^2}^3} \cdot \left( - y \right) + m \Omega^2 y - 2 m \Omega v_x.
\end{equation*}

Используя $x = \left( \nu - \alpha \right)R$, $y = 0$, находим расстояния до $M_1$ и $M_2$:\begin{equation*}
r_1 = \sqrt{\left( x + \alpha R \right)^2 + y^2} = |x + \alpha R| = |\nu| R,
\end{equation*}\begin{equation*}
r_2 = \sqrt{\left( x - \left(1 - \alpha \right) R \right)^2 + y^2} = |x - \left(1 - \alpha\right) R| = |\nu - 1| R.
\end{equation*}Подставляя эти выражения в выражение $F_x$ из предыдущего пункта ($F_y = 0$ тождественно при $y=0$ и нулевой скорости), получаем
\begin{equation*}
F_x = - m \Omega^2 R \frac{\left(1 - \alpha \right) \nu}{|\nu|^3} - m \Omega^2 R \frac{\alpha \left( \nu - 1 \right)}{|\nu-1|^3} + m \Omega^2 R \left( \nu - \alpha \right).
\end{equation*}Приравнивая $F_x$ к нулю и сокращая на $m \Omega^2 R$, получаем искомое соотношение:
\begin{equation*}
- \frac{\left(1 - \alpha \right) \nu}{|\nu|^3} - \frac{\alpha \left( \nu - 1 \right)}{|\nu-1|^3} + \nu - \alpha = 0.
\end{equation*}

Различные случаи возникают при раскрытии модуля, т.е. нужно отдельно рассматривать $\nu < 0$, $0 < \nu < 1$ и $1 < \nu$, т.е. $a = 0$, $b = 1$.
Заметим также, что на каждом из этих участков есть ровно одно решение, т.к. стоящая в левой части функция возрастает на каждом из этих участков, причем на левом (возможно бесконечном) конце каждого участка она стремится к $-\infty$, а на правом – к $+\infty$, поэтому она пересекает ноль, причем ровно один раз на каждом участке.

Т.к. $\nu < 0$, $|\nu| = -\nu = 1 - \delta_1$ и $|\nu-1| = 1 - \nu = 2 - \delta_1$. Разложим левую часть уравнения из B1 до первого порядка по $\alpha$ и $\delta$:
\begin{multline*}
\frac{\left(1 - \alpha \right) \left( 1 -\delta_1 \right)}{\left(1 - \delta_1\right)^3} + \alpha \frac{2 - \delta_1}{\left( 2 - \delta_1 \right)^3} - 1 + \delta_1 - \alpha = \frac{1 - \alpha}{\left(1 - \delta_1 \right)^2} + \alpha \frac{1}{\left(2 - \delta_1 \right)^2} - 1 + \delta_1 - \alpha = \\ =
\left(1 - \alpha + 2\delta_1 \right) + \frac{1}{4} \alpha - 1 + \delta_1 - \alpha = - \frac{7}{4} \alpha + 3 \delta_1 = 0,
\end{multline*}откуда
\begin{equation*}
\delta_1 = \frac{7}{12} \alpha.
\end{equation*}Тогда $x = \left( \nu - \alpha \right) R = \left( - 1 + \frac{7}{12} \alpha - \alpha \right) R = - R \left( 1 + \frac{5}{12} \alpha \right)$, т.е.
\begin{equation*}
\xi_1 = \frac{5}{12} \alpha.
\end{equation*}

Т.к. $0 < \nu < 1$, $|\nu| = \nu = 1 - \delta_2$, $|\nu-1| = \delta_2$. Подставим это в уравнение на $\nu$:
\begin{equation*}
- \frac{1 - \alpha}{\left( 1 - \delta_2 \right)^2} + \frac{\alpha}{\delta_2^2} + 1 - \delta_2 - \alpha = 0.
\end{equation*}Группируя слагаемые с $1-\alpha$, получим
\begin{equation*}
\frac{\alpha}{\delta_2^2} = -\left(1 - \alpha \right) \left[ 1 - \frac{1}{\left(1 - \delta_2 \right)^2} \right] + \delta_2.
\end{equation*}Скобка в правой части равна $1 - \frac{1}{\left( 1 -\delta_2 \right)^2} = \frac{1 - 2 \delta_2 + \delta_2^2 - 1}{\left(1 - \delta_2 \right)^2} = -\delta_2 \cdot \frac{2 - \delta}{\left(1 - \delta_2\right)^2}$. Подставляя это и сокращая $\delta_2$, получим
\begin{equation*}
\frac{\alpha}{\delta_2^3} = \left(1 - \alpha \right) \frac{2 - \delta_2}{\left(1 - \delta_2 \right)^2} + 1.
\end{equation*}При малых $\alpha$ (и как следствие малых $\delta$) левая часть стремится к $3$, поэтому
\begin{equation*}
\delta_2 = \sqrt[3]{\alpha/3}.
\end{equation*}Тогда $x = \left( \nu - \alpha \right) R = \left( 1 - \sqrt[3]{\alpha/3} - \alpha \right)$. Т.к. $\sqrt[3]{\alpha} \gg \alpha$ при малых $\alpha$, линейным членом можно пренебречь, оставив лишь $x = \left(1 - \sqrt[3]{\alpha/3} \right)$, т.е.
\begin{equation*}
\xi_2 = \sqrt[3]{\alpha/3}.
\end{equation*}

Т.к. $1 < \nu$, $|\nu| = 1 + \delta_3$, $|\nu-1| = \delta_3$. Подставляя это в уравнение на $\nu$ и производя действия, аналогичные предыдущему пункту, получаем
\begin{equation*}
\delta_3 = \sqrt[3]{\alpha/3}.
\end{equation*}Пренебрегая в выражении для $x$ линейным членом по сравнению с кубическим корнем, получаем $x = \left( 1 + \sqrt[3]{\alpha/3} \right) R$, откуда
\begin{equation*}
\xi_3 = \sqrt[3]{\alpha/3}.
\end{equation*}

Нормируя радиус-вектор, получаем
\begin{equation*}
\vec{e}_{\parallel} = \frac{\vec{r}}{r} = \begin{pmatrix}
\frac{x}{\sqrt{x^2 + y^2}} \\
\frac{y}{\sqrt{x^2 + y^2}}
\end{pmatrix}.
\end{equation*}В качестве $\vec{e}_{\perp}$ можно взять следующий вектор:
\begin{equation*}
\vec{e}_{\perp} = \begin{pmatrix}
-\frac{y}{\sqrt{x^2 + y^2}} \\
\frac{x}{\sqrt{x^2 + y^2}}
\end{pmatrix},
\end{equation*}либо же противоположный ему.

Домножая вектор полной силы, полученный в A4, на $\vec{e}_{\parallel}$ и $\vec{e_{\perp}}$, найдем соответствующие проекции:
\begin{multline*}
F_{\parallel} = \vec{F} \cdot \vec{e}_{\parallel} = \frac{m \Omega^2}{\sqrt{x^2 + y^2}} \left[ \left(1 - \alpha \right) \frac{R^3}{r_{m1}^3} \cdot \left( -x^2 - y^2 - \alpha R x \right) + \right. \\
\left. + \alpha \frac{R^3}{r_{m2}^3} \cdot \left( -x^2 - y^2 + \left(1 - \alpha \right) R x\right) + \left( x^2 + y^2 \right) \right],
\end{multline*}\begin{equation*}
F_{\perp} = \vec{F} \cdot \vec{e}_{\perp} =
\frac{m \Omega^2 R^4 y}{\sqrt{x^2 + y^2}} \left(1 - \alpha \right) \alpha \left( \frac{1}{r_{m1}^3} - \frac{1}{r_{m2}^3} \right)
\end{equation*}

В положении равновесия $F_{\perp} = 0$. Учитывая, что $y \neq 0$ (т.к. рассматриваем четвертую и пятую точку Лагранжа, а не первые три), получаем
\begin{equation*}
r_{m1} = r_{m2}.
\end{equation*}

В положении равновесия $F_{\parallel} = 0$. С учетом полученного соотношения $r_{m2} = r_{m1}$ это условие запишется как
\begin{equation*}
\frac{m \Omega^2}{\sqrt{x^2 + y^2}} \left( x^2 + y^2 \right) \left( - \frac{R^3}{r_{m1}^3} + 1 \right),
\end{equation*}откуда
\begin{equation*}
r_{m1} = R.
\end{equation*}

Из результатов пунктов B8 и B9 заключаем, что четвертая точка Лагранжа образует равносторонний треугольник с $M_1$ и $M_2$ (как и пятая точка). Тогда $x_4$ и $x_5$ равны среднему от координат $M_1$ и $M_2$:
\begin{equation*}
x_4 = x_5 = \left( \frac{1}{2} - \alpha \right) R.
\end{equation*}Углы в равностороннем треугольнике равны $60^{\circ}$, поэтому $y_4$ и $y_5$ находим как
\begin{equation*}
y_4 = -y_5 = R \sin 60^{\circ} = \frac{\sqrt{3}}{2} R.
\end{equation*}

Дифференцируя ответ из A4, находим
\begin{multline*}
\frac{1}{m} \frac{\partial F_x}{\partial x} = \Omega^2 R^3 \left[ - \frac{1-\alpha}{\sqrt{\left( x + \alpha R \right)^2 + y^2}^3} + 3\frac{1-\alpha}{\sqrt{\left( x + \alpha R \right)^2 + y^2}^5} \left( x + \alpha R \right)^2 - \right.\\
\left. - \frac{\alpha}{\sqrt{\left( x - \left(1 - \alpha\right) R \right)^2 + y^2}^3} + 3\frac{\alpha}{\sqrt{\left( x - \left( 1 - \alpha\right) R \right)^2 + y^2}^5} \left( x - \left( 1 - \alpha \right) R \right)^2 + \frac{1}{R^3} \right],
\end{multline*}\begin{equation*}
\frac{1}{m} \frac{\partial F_x}{\partial y} = \Omega^2 R^3 \left[ 3\frac{1-\alpha}{\sqrt{\left( x + \alpha R \right)^2 + y^2}^5} \left( x + \alpha R \right) y + 3\frac{\alpha}{\sqrt{\left( x - \left( 1 - \alpha\right) R \right)^2 + y^2}^5} \left( x - \left( 1 - \alpha \right) R \right) y \right],
\end{equation*}\begin{equation*}
\frac{1}{m} \frac{\partial F_y}{\partial x} = \Omega^2 R^3 \left[ 3\frac{1-\alpha}{\sqrt{\left( x + \alpha R \right)^2 + y^2}^5} \left( x + \alpha R \right) y + 3\frac{\alpha}{\sqrt{\left( x - \left( 1 - \alpha\right) R \right)^2 + y^2}^5} \left( x - \left( 1 - \alpha \right) R \right) y \right],
\end{equation*}\begin{multline*}
\frac{1}{m} \frac{\partial F_y}{\partial y} = \Omega^2 R^3 \left[ - \frac{1-\alpha}{\sqrt{\left( x + \alpha R \right)^2 + y^2}^3} + 3\frac{1-\alpha}{\sqrt{\left( x + \alpha R \right)^2 + y^2}^5} y^2 - \right.\\
\left. - \frac{\alpha}{\sqrt{\left( x - \left(1 - \alpha\right) R \right)^2 + y^2}^3} + 3\frac{\alpha}{\sqrt{\left( x - \left( 1 - \alpha\right) R \right)^2 + y^2}^5} y^2 + \frac{1}{R^3} \right]
\end{multline*}

Дифференцируя ответ из A4, находим
\begin{equation*}
\frac{1}{m} \frac{\partial F_x}{\partial v_x} = 0,
\end{equation*}\begin{equation*}
\frac{1}{m} \frac{\partial F_x}{\partial v_y} = 2 \Omega,
\end{equation*}\begin{equation*}
\frac{1}{m} \frac{\partial F_y}{\partial v_x} = -2 \Omega,
\end{equation*}\begin{equation*}
\frac{1}{m} \frac{\partial F_y}{\partial v_y} = 0.
\end{equation*}

Уже в нулевом порядке по $\alpha$ искомое $\frac{\partial F_x}{\partial x}$ отлично от нуля, поэтому подставляем в выражение для $\frac{1}{m} \frac{\partial F_x}{\partial x}$ из C1 $x=-R$, $y=0$, $\alpha = 0$:
\begin{equation*}
\frac{1}{m} \frac{\partial F_x}{\partial x} = \Omega^2 R^3 \left( - \frac{1}{R^3} + \frac{3}{R^3} + \frac{1}{R^3} \right) = 3 \Omega^2,
\end{equation*}откуда
\begin{equation*}
c_1 = 3.
\end{equation*}

Т.к. $\frac{1}{m} \frac{\partial F_y}{\partial F_x} = \frac{1}{m} \frac{\partial F_x}{\partial F_y}$ пропорционально $y$, а $y = 0$, то и $\frac{1}{m} \frac{\partial F_y}{\partial F_x} = \frac{1}{m} \frac{\partial F_x}{\partial F_y} = 0$.

Сначала подставим $y = 0$ в выражение для $\frac{1}{m} \frac{\partial F_y}{\partial y}$:
\begin{equation*}
\frac{1}{m} \frac{\partial F_y}{\partial y} = \Omega^2 R^3 \left[ - \frac{1-\alpha}{|x + \alpha R|^3} - \frac{\alpha}{|x - \left(1 - \alpha\right) R|^3} + \frac{1}{R^3} \right].
\end{equation*}
Далее вычисляем с точностью до первого порядка по $\alpha$ включительно. Из B3 получаем $x = - R \left(1 + \frac{5}{12} \alpha \right)$, откуда $|x+\alpha R| = \left( 1 - \frac{7}{12}\alpha \right) R$, $|x - \left(1-\alpha\right) R| = \left( 2 - \frac{7}{12} \alpha \right) R$. Найдем $\frac{1}{m} \frac{\partial F_y}{\partial y}$:
\begin{equation*}
\frac{1}{m} \frac{\partial F_y}{\partial y} = \Omega^2 \left[ - \frac{1 - \alpha}{\left( 1 - \frac{7}{12} \alpha \right)^3} - \frac{\alpha}{\left( 2 - \frac{7}{12} \alpha \right)^3} + 1 \right] = -\frac{7}{8} \alpha \Omega^2,
\end{equation*}откуда
\begin{equation*}
c_2 = -\frac{7}{8}.
\end{equation*}

Запишем второй закон Ньютона для $m$ (сразу опуская члены с нулевыми частными производными):
\begin{equation*}
\begin{cases}
\delta \ddot{x} = \frac{1}{m} \frac{\partial F_x}{\partial x} \delta x + \frac{1}{m} \frac{\partial F_x}{\partial v_y} \delta \dot{y} \\
\delta \ddot{y} = \frac{1}{m} \frac{\partial F_y}{\partial y} \delta y + \frac{1}{m} \frac{\partial F_y}{\partial v_x} \delta \dot{x}
\end{cases},
\end{equation*}Подставляя полученные значения, имеем
\begin{equation*}
\begin{cases}
\delta \ddot{x} = 3 \Omega^2 \delta x + 2 \Omega \delta \dot{y} \\
\delta \ddot{y} = -\frac{7}{8} \alpha \Omega^2 \delta y - 2 \Omega \delta \dot{x}
\end{cases}.
\end{equation*}Подставляя $\delta x = A e^{\lambda t}$, $\delta y = B e^{\lambda t}$ и сокращая на экспоненту, получим
\begin{equation*}
\begin{cases}
\lambda^2 A = 3 \Omega^2 A + 2 \Omega \lambda B \\
\lambda^2 B = - \frac{7}{8} \alpha \Omega^2 B - 2 \Omega \lambda A
\end{cases}.
\end{equation*}В итоге получаем систему линейных уравнений на $A$ и $B$:
\begin{equation*}
\begin{cases}
A \cdot \left( \lambda^2 - 3 \Omega^2 \right) - B \cdot 2 \lambda \Omega = 0 \\
A \cdot 2 \Omega \lambda + B \cdot \left( \lambda^2 + \frac{7}{8} \alpha \Omega^2 \right) = 0
\end{cases}.
\end{equation*}
Чтобы эта система имела решения, отличные от $A = B = 0$, она должна быть вырожденной, т.е. ее детерминант должен равняться нулю, что и дает искомое уравнение:
\begin{equation*}
\left( \lambda^2 - 3 \Omega^2 \right) \left( \lambda^2 + \frac{7}{8} \alpha \Omega^2 \right) + 4 \Omega^2 \lambda^2 = 0,
\end{equation*}или\begin{equation*}
\lambda^4 + \Omega^2 \lambda^2 \left( 1 + \frac{7}{8} \alpha \right) - \frac{21}{8} \alpha \Omega^4 = 0.
\end{equation*}

Решая полученное биквадратное уравнение, находим $\lambda^2$:
\begin{equation*}
\lambda^2 = \Omega^2 \frac{-\left( 1 + \frac{7}{8} \alpha \right) \pm \sqrt{\left( 1 + \frac{7}{8} \alpha \right)^2 + \frac{21}{2} \alpha}}{2}.
\end{equation*}
Раскладывая до первого порядка по $\alpha$, получим
\begin{equation*}
\lambda_1 = i \Omega,
\end{equation*}\begin{equation*}
\lambda_2 = -i \Omega,
\end{equation*}\begin{equation*}
\lambda_3 = \sqrt{\frac{21\alpha}{8}} \Omega,
\end{equation*}\begin{equation*}
\lambda_4 = -\sqrt{\frac{21\alpha}{8}} \Omega.
\end{equation*}Чтобы положение равновесия было устойчивым, все корни должны иметь неположительную действительную часть (чтобы $|e^{\lambda t}|$ был невозрастающей функцией). В рассматриваемом случае $\lambda_3 > 0$, поэтому положение равновесия неустойчиво.

\begin{equation*}
\frac{1}{\lambda} = \frac{1}{\lambda_3} = \sqrt{\frac{8}{21\alpha}} \frac{1}{\Omega} = 21\cdot10^{3} \text{сут}.
\end{equation*}

Ищем ответ с точностью до нулевого порядка. При этом $\sqrt{\left(x + \alpha R\right)^2 + y^2} = |x + \alpha R| = R$, $\sqrt{\left( x - \left(1-\alpha\right) R \right)^2 + y^2} = |x - \left(1 - \alpha\right) R| = R \sqrt[3]{\alpha/3}$. Тогда находим
\begin{equation*}
\frac{1}{m} \frac{\partial F_x}{\partial x} = \Omega^2 R^3 \left[-\frac{1}{R^3} + \frac{3}{R^3} - \frac{\alpha}{\left( R \sqrt[3]{\alpha/3} \right)^3} + 3 \frac{\alpha}{\left( R \sqrt[3]{\alpha/3} \right)^3} + \frac{1}{R^3} \right] = 9 \Omega^2,
\end{equation*}т.е.\begin{equation*}
c_3 = 9.
\end{equation*}

Т.к. $\frac{1}{m} \frac{\partial F_y}{\partial F_x} = \frac{1}{m} \frac{\partial F_x}{\partial F_y}$ пропорционально $y$, а $y = 0$, то и $\frac{1}{m} \frac{\partial F_y}{\partial F_x} = \frac{1}{m} \frac{\partial F_x}{\partial F_y} = 0$.

Аналогично C9, раскладываем до нулевого порядка:
\begin{equation*}
\frac{1}{m} \frac{\partial F_y}{\partial y} = \Omega^2 R^3 \left[ - \frac{1-\alpha}{\sqrt{\left( x + \alpha R \right)^2 + y^2}^3} - \frac{\alpha}{\sqrt{\left( x - \left(1 - \alpha\right) R \right)^2 + y^2}^3} + \frac{1}{R^3} \right] = -3 \Omega^2,
\end{equation*}т.е.\begin{equation*}
c_4 = -3.
\end{equation*}

Аналогично C6, записываем второй закон Ньютона:
\begin{equation*}
\begin{cases}
\delta \ddot{x} = 9 \Omega^2 x + 2 \Omega \delta \dot{y} \\
\delta \ddot{y} = -3 \Omega^2 y - 2 \Omega \delta \dot{x}
\end{cases}.
\end{equation*}
Подставляя $x = A e^{\lambda t}$, $y = B e^{\lambda t}$, получим линейную систему:
\begin{equation*}
\begin{cases}
A \cdot \left( \lambda^2 - 9 \Omega^2 \right) - B \cdot 2 \Omega \lambda = 0 \\
A \cdot 2 \Omega \lambda + B \cdot \left( \lambda^2 + 3 \Omega^2 \right) = 0
\end{cases}.
\end{equation*}Условие вырожденности системы дает искомое уравнение:
\begin{equation*}
\lambda^4 - 2 \Omega^2 \lambda^2 - 27 \Omega^4 = 0.
\end{equation*}

Решая биквадратное уравнение, находим
\begin{equation*}
\lambda_1 = i \Omega \sqrt{ 2 \sqrt{7} - 1},
\end{equation*}\begin{equation*}
\lambda_2 = -i \Omega \sqrt{ 2\sqrt{7} - 1},
\end{equation*}\begin{equation*}
\lambda_3 = \Omega \sqrt{1 + 2\sqrt{7}},
\end{equation*}\begin{equation*}
\lambda_4 = - \Omega \sqrt{1 + 2\sqrt{7}}.
\end{equation*}Т.к. $\lambda_3 > 0$, положение равновесия неустойчиво.

\begin{equation*}
\frac{1}{\lambda} = \frac{1}{\lambda_3} = \frac{1}{\Omega} \frac{1}{\sqrt{1 + 2\sqrt{7}}} = 23 \text{дня}.
\end{equation*}

В четвертой точке Лагранжа $\sqrt{ \left( x + \alpha R \right)^2 + y^2 } = \sqrt{\left( x - \left(1 - \alpha \right) R \right)^2 + y^2 } = R$, $x+\alpha R = \frac{R}{2}$, $x - \left(1-\alpha\right) R =-\frac{R}{2}$. Подставляя это в выражение для $\frac{1}{m} \frac{\partial F_x}{\partial x}$, получаем
\begin{equation*}
\frac{1}{m} \frac{\partial F_x}{\partial x} = \Omega^2 R^3 \left[ -\frac{1-\alpha}{R^3} + \frac{3}{4} \frac{1-\alpha}{R^3} - \frac{\alpha}{R^3} + \frac{3}{4} \frac{\alpha}{R^3} + \frac{1}{R^3} \right] = \frac{3}{4} \Omega^2,
\end{equation*}т.е.
\begin{equation*}
c_5 = \frac{3}{4}.
\end{equation*}

Подставляя $x = \left(\frac{1}{2} -\alpha\right)$, $y = \frac{\sqrt{3}}{2} R$ в общую формулу из C1, получаем
\begin{equation*}
\frac{1}{m} \frac{\partial F_x}{\partial y} = \frac{1}{m} \frac{\partial F_y}{\partial x} = \Omega^2 R^3 \cdot \frac{\sqrt{3}}{2} R \cdot \left[ 3 \frac{1-\alpha}{R^5} \frac{R}{2} - 3 \frac{\alpha}{R^5} \frac{R}{2} \right] = \Omega^2 \frac{3\sqrt{3}}{4} \left( 1 - 2 \alpha \right),\end{equation*}
т.е.
\begin{equation*}
c_6 = \frac{3\sqrt{3}}{4},
\end{equation*}
\begin{equation*}
c_7 = -\frac{3\sqrt{3}}{2}.
\end{equation*}

\begin{equation*}
\frac{1}{m} \frac{\partial F_y}{y} = \Omega^2 R^3 \left[ -\frac{1-\alpha}{R^3} + 3 \frac{3R^2}{4} \frac{1-\alpha}{R^5} - \frac{\alpha}{R^3} + 3 \frac{3R^2}{4} \frac{\alpha}{R^5} + \frac{1}{R^3} \right] = \frac{9}{4} \Omega^2,
\end{equation*}
т.е.
\begin{equation*}
c_8 = \frac{9}{4}.
\end{equation*}

Второй закон Ньютона дает
\begin{equation*}
\begin{cases}
\delta \ddot{x} = \frac{3}{4} \Omega^2 \delta x + \frac{3\sqrt{3}}{4} \left(1 - 2\alpha\right) \Omega^2 \delta y + 2 \Omega \delta \dot{y} \\
\delta \ddot{y} = \frac{3\sqrt{3}}{4} \left(1 - 2\alpha\right) \Omega^2 \delta x + \frac{9}{4} \Omega^2 \delta y - 2 \Omega \delta \dot{x}
\end{cases}
\end{equation*}
Подставляя $\delta x = A e^{\lambda t}$, $\delta y = B e^{\lambda t}$, получаем
\begin{equation*}
\begin{cases}
A \cdot \left( \lambda^2 - \frac{3}{4} \Omega^2 \right) - B \cdot \left( \frac{3\sqrt{3}}{4} \left(1 - 2\alpha\right) \Omega^2 + 2 \Omega \lambda \right) = 0 \\
-A \cdot \left( \frac{3\sqrt{3}}{4} \left(1 - 2\alpha\right) \Omega^2 - 2 \Omega \lambda \right) + B \cdot \left( \lambda^2 - \frac{9}{4} \Omega^2 \right) = 0
\end{cases}
\end{equation*}
Условие вырожденности системы дает искомое уравнение:
\begin{equation*}
\lambda^4 + \lambda^2 \Omega^2 + \frac{27}{16} \Omega^4 \left( 1 - \left(1 - 2\alpha \right)^2 \right) = 0.
\end{equation*}

Найдем $\lambda^2$:
\begin{equation*}
\lambda^2 = \frac{-1 \pm \sqrt{1 - 27 \alpha \left(1 - \alpha \right)}}{2}.
\end{equation*}Если $1 - 27\alpha \left(1-\alpha \right) > 0$, то $\lambda^2 < 0$ при любом выборе знака и движение устойчиво. Если же $1 - 27\alpha \left(1-\alpha \right) < 0$, то $\lambda^2$ имеет не равную нулю мнимую часть, поэтому $\pm\lambda$ будет иметь не равную нулю действительную часть, причем один из корней будет иметь положительную действительную часть, и движение будет неустойчивым.
Таким образом, устойчивость эквивалентна условию
\begin{equation*}
1 - 27 \alpha \left( 1 - \alpha \right) > 0.
\end{equation*}Переходя к $\xi$, используя $\alpha = \frac{M_2}{M_1 + M_2} = \frac{1}{1 + M_2/M_1} = \frac{1}{1 + \xi}$, получим
\begin{equation*}
1 - \frac{27 \xi}{\left(1 + \xi \right)^2} > 0.
\end{equation*}Домножая на положительный $\left(1 + \xi \right)^2$ и приводя подобные члены, получим
\begin{equation*}
\xi^2 - 25 \xi + 1 > 0.
\end{equation*}Левая часть равна нулю при
\begin{equation*}
\xi = \frac{25 \pm \sqrt{621}}{2},
\end{equation*}поэтому неравенство выполняется при $\xi < \frac{25 - 3\sqrt{69}}{2}$ и при $\xi > \frac{25 + 3\sqrt{69}}{2}$.