Пусть ускорения астероидов равны $a_{1}$, $a_{2}$, $a_{3}$ и направлены так, как показано на рисунке ниже.
В системе отсчёта, связанной с третьим астероидом их ускорения равны $a_{1}^{\prime}=a_{1}+a_{3}$ и $a_{2}^{\prime}=a_{2}+a_{3}$. Чтобы отношение расстояний от $m_{1}$ и $m_{2}$ до $m_{3}$ оставалось равным $\frac{3}{2}$, оно должно быть равно отношению ускорений $a_{1}^{\prime}$ и $a_{2}^{\prime}$, то есть
$$
\frac{a_{1}^{\prime}}{a_{2}^{\prime}}=\frac{a_{1}+a_{3}}{a_{2}+a_{3}}=\frac{3}{2}.
$$
Отсюда получим связь ускорений:
$$
a_{3}=2 a_{1}-3 a_{2}. \quad (1)
$$
Из закона всемирного тяготения найдём ускорения астероидов:
$$
a_{1}=G \frac{m_{2}}{r^{2}}+G \frac{m_{3}}{9 r^{2}}, \quad a_{2}=G \frac{m_{3}}{4 r^{2}}-G \frac{m_{1}}{r^{2}} \quad a_{3}=G \frac{m_{1}}{9 r^{2}}+G \frac{m_{2}}{4 r^{2}}.
$$
Подставляя эти выражения в $(1)$, получим:
$$
\frac{m_{1}}{9}+\frac{m_{2}}{4}=2 (m_{2}+\frac{m_{3}}{9})-3 (\frac{m_{3}}{4}-m_{1}).
$$
Отсюда находим неизвестную массу
$$
m_{3}=\frac{104}{19} m_{1}+\frac{63}{19} m_{2}.
$$