Наиболее легким подходом к решению этого пункта будет проведение аналогии между силой Кулона и законом гравитации Ньютона:
$$F=\frac{1}{4\pi\varepsilon_0}\frac{q_1q_2}{r_{12}^2} \text{ и } F=G\frac{m_1m_2}{r_{12}^2}. \tag{1}$$
Далее, из теоремы Гаусса широко известен результат, что поле бесконечно большой заряженной плоскости, с поверхностной плотностью $\sigma$ равно
$$E=\frac{\sigma}{2\varepsilon_0}. \tag{2}$$
По аналогии для плоской планеты результат будет схожим:
$$g_1=\frac{\rho_1h}{2\cdot(1/4\pi G)}=2\pi G\rho_1h, \tag{3}$$
$$h=\frac{g_1}{2\pi G\rho_1}=78.0~км. \tag{4}$$
Находясь вблизи бесконечной плоскости наблюдатель как бы видит лишь нижнюю часть сферы, т.е видит лишь половину от максимального телесного угла:
$$\Omega_1=\frac{4\pi}{2}=2\pi, \tag{5}$$
откуда из заданной в условии задачи формулы получаем
$$\alpha=\frac{g_1}{2\pi} \text{ или } \alpha=G\rho_1h=1.56\times 10^{-2}~м/с^2. \tag{6}$$
Разобьем пирамиду на тонкие параллельные основанию слои толщиной $\Delta h$. Все эти слои будут видны из вершины пирамиды под одним и тем же телесным углом $\Omega_2$, таким что он равен одной шестой части от того, если бы наблюдатель находился внутри куба:
$$\Omega_2=\frac{1}{6}4\pi=\frac{2}{3}\pi. \tag{7}$$
Притяжение от одного тонкого слоя
$$dg_2=\frac{dF}{m}=\alpha\Omega_2=\frac{2}{3}\pi G\rho_2\Delta h, \tag{8}$$
или после суммирования по всем слоям пирамиды пирамиды будет
$$g_2=\frac{1}{3}\pi G\rho_2a= 3.14~м/с^2. \tag{9}$$
Пусть энергия взаимодействия корабля с пирамидальной планетой в момент взлета с вершины равна $U_1$, а его скорость в этот момент $v_1$. Из закона сохранения энергии для второй космической скорости получаем равенство:
$$\frac{mv_1^2}{2}-U_1=0. \tag{10}$$
Аналогично записывается закон сохранения энергии для старта с кубической планеты
$$\frac{mv_2^2}{2}-U_2=0, \tag{11}$$
где $U_2$ — потенциальная энергия корабля на вершине куба.
Покажем, что между $U_1$ и $U_2$ существует простое соотношение. Для этого рассмотрим положение корабля в центре кубической планеты. С одной стороны положение в центре кубической планеты эквивалентно нахождению на вершинах сразу шести склеенных пирамид. Тогда потенциальная энергия корабля, находящегося в центре куба, с учетом изменения плотности вещества веществом планеты равна
$$U_c=6U_1\frac{\rho_3}{\rho_2}. \tag{12}$$
C другой стороны нахождение в центре куба эквивалентно нахождению в вершинах сразу восьми кубов смежных кубов со сторонами $\frac{a}{2}$. В общем случае потенциальная энергия корабля в поле кубической планеты пропорциональна квадрату ее размера, так как
$$U=G\sum \frac{m\rho_3\Delta V_i}{r_i}\sim Gm\rho_3a^2. \tag{13}$$
Таким образом для куба вдвое меньшего размера энергия взаимодействия будет в 4 раза меньше, а значит потенциальная энергия корабля, находящегося в центре куба, равна
$$U_c=8\frac{U_2}{4}=2U_2. \tag{14}$$
Приравнивая выражения $(12)$ и $(14)$, находим
$$U_2=3U_1\frac{\rho_3}{\rho_2}. \tag{15}$$
Решая совместно уравнения $(10)$, $(11)$ и $(15)$, окончательно получим
$$v_2=\sqrt{\frac{3\rho_3}{\rho_2}}v_1=6.30~км/с. \tag{16}$$
Для данной задачи используем смесь декартовой и полярных систем координат.
По закону сохранения энергии:
$$\frac{mv_{\infty}^2}{2}=\frac{mu_x^2}{2}+\frac{mu_y^2}{2}-G\frac{Mm}{R}, \tag{17}$$
где $M=\frac{4}{3}\pi R^3\rho_4$ — полная масса облака.
Изменения импульса корабля в проекции на ось $x$ декартовой системы координат имеет вид
$$mu_x-mv_{\infty}=\int G\frac{Mm}{r^2}\cos\varphi dt=\int G\frac{Mm}{r^2\dot{\varphi}}\cos\varphi d\varphi. \tag{18}$$
Из закона сохранения момента импульса для системы с центрально симметричными силами имеем:
$$r^2\dot{\varphi}=v_{\infty}b. \tag{19}$$
Таким образом
$$mu_x-mv_{\infty}=G\frac{Mm}{v_{\infty}b}\int\limits_0^{\theta}\cos\varphi d\varphi=G\frac{Mm}{v_{\infty}b}\sin\theta. \tag{20}$$
Аналогично для проекции на ось $y$:
$$mu_y-m\cdot 0=G\frac{Mm}{v_{\infty}b}\int\limits_0^{\theta}\sin\varphi d\varphi=G\frac{Mm}{v_{\infty}b}(1-\cos\theta). \tag{21}$$
Для упрощения дальнейших преобразований введем безразмерную величину
$$z=\frac{GM}{v_{\infty}^2 b}, \tag{22}$$
тогда
$$u_x=(1+z\sin\theta)v_{\infty}, \tag{23}$$
$$u_y=z(1-\cos\theta)v_{\infty}. \tag{24}$$
Подставим уравнения $(23)$ и $(24)$ в $(17)$, получаем
$$1=(1+z\sin\theta)^2+z^2(1-\cos\theta)^2-2z\frac{b}{R}. \tag{25}$$
Решая уравнения относительно $\theta$, находим
$$\theta=\arcsin\frac{\frac{b}{R}-\frac{GM}{v^2_{\infty}b}}{\sqrt{1+\left(\frac{GM}{v^2_{\infty}b}\right)^2}}+\arcsin\frac{\frac{GM}{v^2_{\infty}b}}{\sqrt{1+\left(\frac{GM}{v^2_{\infty}b}\right)^2}}, \tag{26}$$
или
$$\theta=2\operatorname{arctan}\frac{1-\sqrt{1+2\frac{GM}{v^2_{\infty}b}\frac{b}{R}-\frac{b^2}{R^2}}}{\frac{b}{R}-2\frac{GM}{v^2_{\infty}b}}=0.789рад = 45.2^{\circ}. \tag{27}$$
Стоит отметить что угол $\theta$, также как и суммарный угол отклонения траектории при движении через пылевое облако, может быть получен путем интегрирования уравнения, получающегося из комбинации законов сохранения энергии и момента импульса записанных в полярной системе координат. Выражения здесь не приводятся так как интегралы являются довольно громоздкими.
Для начала найдем как зависит потенциальная энергия взаимодействия корабля с облаком от расстояния $r < R$ до его центра. Известно, что слои сферического облака, лежащие на расстоянии большем $r$, не будут воздействовать на тело, поэтому суммарная действующая сила равна
$$F(r)=-G\frac{\rho_4\frac{4}{3}\pi r^3}{r^2}m=-\frac{4}{3}\pi G\rho_4 mr, \tag{28}$$
а соответствующая ей потенциальная энергия
$$U(r)=-\int F(r)dr=\frac{2}{3}\pi G\rho_4 mr^2+C=G\frac{Mm}{2R^3}r^2+C. \tag{29}$$
Для нахождения константы интегрирования $C$ воспользуемся тем, что потенциальная энергия должна быть непрерывной функцией в точке $r=R$, откуда
$$G\frac{Mm}{2R^3}R^2+C=-G\frac{Mm}{R}, \tag{30}$$
или окончательно для $r < R$
$$U(r)=\frac{GMm}{2R^3}r^2-\frac{3GMm}{2R}. \tag{31}$$
В момент, когда расстояние до центра облака минимально, радиальная составляющая скорости равна нулю. Тогда из законов сохранения энергии и момента импульса
$$\frac{mv_{\infty}^2}{2}=\frac{mv_0^2}{2}+\frac{GMm}{2R^3}r^2_{\min}-\frac{3GMm}{2R}, \tag{32}$$
$$v_0r_{\min}=v_{\infty}b, \tag{33}$$
получаем уравнение
$$1=\frac{b^2}{r^2_{\min}}+z\frac{r^2_{\min}b}{R^3}-3z\frac{b}{R}, \tag{34}$$
которое имеет решения
$$r_{\min}=\sqrt{\frac{(\frac{3zb}{R}+1)\pm \sqrt{(\frac{3zb}{R}+1)^2-\frac{4zb^3}{R^3}}}{2\frac{zb}{R^3}}}. \tag{35}$$
Смысл имеет только наименьший корень, так как при $b=0$ должно быть $r_{\min}=0$, откуда окончательно
$$r_{\min}=R\sqrt{\frac{(\frac{3GM}{v^2_{\infty}R}+1)-\sqrt{(\frac{3GM}{v^2_{\infty}R}+1)^2-\frac{4b^2GM}{R^3v^2_{\infty}}}}{\frac{2GM}{v^2_{\infty}R}}}=4.97 \times 10^9~м. \tag{36}$$
Минимальная скорость $v_{\infty,\min}$, позволяющая избежать столкновения, соответствует ситуации, когда корабль его лишь слегка «касается» облака.
В таком случае радиальная составляющая скорости равна нулю, а законы сохранения энергии и момента импульса записываются в виде:
$$\frac{mv_{\infty,\min}^2}{2}=\frac{m0^2}{2}+\frac{mu_{\tau}^2}{2}-G\frac{Mm}{R}, \tag{37}$$
$$u_{\tau}R=v_{\infty}b, \tag{38}$$
откуда
$$v_{\infty, \min}=\sqrt{\frac{2GM}{R\left(\frac{b^2}{R^2}-1\right)}}=252~км/с. \tag{39}$$
Предположим, что облако растаскивают на бесконечные расстояния так, что оно все время остается симметричным, а убираются тонкие слои толщиной $\Delta r$. Чтобы убрать один такой тонкий слой в момент, когда облако имеет радиус $r$, необходимо совершить работу
$$\Delta A=G\frac{(\rho_4\frac{4}{3}\pi r^3)(\rho_4 4\pi r^2\Delta r)}{r}=\frac{16}{3}\pi^2G\rho_4^2r^4\Delta r, \tag{40}$$
а чтобы растащить все облако необходимо совершить работу
$$A=\frac{16}{3}\pi^2G\rho_4^2\int\limits_0^R r^4\Delta r=\frac{16}{15}\pi^2G\rho^2_4R^5=1.33 \times 10^{45}~Дж. \tag{41}$$