Обозначим за $V$ скорость тела в точке наименьшего расстояния а за $b$ прицельный параметр. Из ЗСЭ $V^2 = v^2 + \frac{2GM}{R}$, из ЗСМИ $VR = vb$. Уравнение кривых второго порядка в полярных координатах:
\[ r(\varphi) = \frac{1+e}{1+e \cos \varphi} R\]то есть угол отклонения $\delta = 2\arccos(1/e)-\pi$. Рассмотрение точки траектории, находящейся большом удалении от звезды ($\varphi = \arccos(1/e) - \Delta \varphi$) позволяет найти эксцентреситет
\[e = \frac{v^2R}{GM}+1 \simeq \frac{v^2R}{GM}.\]В итоге
\[\delta = \frac{2GM}{v^2R}\]

Минимальное расстояние до звезды в рамках приближений предыдущий пунктов совпадает с прицельным параметром с точностью до малых членов. Тогда $R=\theta_0 a$, а угол к прямой под которым луч выходит из звезды равен $R/b=\theta_0 a/b$. Итоговое уравнение на $\theta_0$:
\[\delta = \theta_0 \left(1 + \frac{a}{b} \right) = \frac{4GM}{c^2 \theta_0 a}\]

Луч проходит на удалении $\theta a$ от звезды. При этом, если бы луч не взаимодействовал со звездой, то он бы пришел из точки на расстоянии $\theta(a+b)$ от оси в то время, как источник находится на расстоянии $\alpha (a+b)$ от оси. Значит угол отклонения
\[ \delta = (\theta - \alpha)\frac{a+b}{b} = \frac{4GM}{c^2 \theta a}.\]Получаем квадратное уравнение $\theta^2 - \alpha \theta - \theta_0^2=0$ и из него находим
\[ \theta = \frac{1}{2} \left(\alpha \pm \sqrt{\alpha^2 + 4 \theta_0^2} \right)\]т.е. имеем два изображения в плоскости рисунка.

Первым пропадает изображение сформированное лучем, прошедшим под звездой (ему соответствует $\theta<0$). Запишем условие того, что этот луч не проходит через звезду:
\[ a\left( - \frac{\alpha}{2} + \sqrt{\frac{\alpha^2}{4}+\theta_0^2} \right) > R_L.\]Перенос слагаемых и возведение в квадрат приводит к
\[ \alpha < \frac{a}{R_L} \theta_0^2 - \frac{R_L}{a}\]

Согласно условию задачи, изображение находится на расстоянии $a$ от наблюдателя. Смещение источника на расстояние $x$ в плоскости перпендикулярной рисунку эквивалентно повороту плоскости рисунка на угол $\phi=x/\alpha (a+b)$. При этом изображение сместится на расстояние $x'=\phi \cdot \theta a$. В итоге
\[ \Gamma_\perp=\frac{x'}{x} = \frac{\theta a}{\alpha (a+b)} .\]

Примечание: в рамках условия задачи расстояние до изображения можно вычислить непосредственно. 

Сместим источник по вертикали на $dy$ от оптической оси, тогда $d \alpha = dy/(a+b)$ а $\theta_0$ не изменится и в итоге:
\[d \theta = \frac{d \alpha}{2} \left( 1 \pm \frac{\alpha}{\sqrt{\alpha^2 + 4 \theta_0^2}}\right) .\]Таким образом по вертикали изображение сместиться на $dy'=ad\theta$, где $a$ - расстояние до изображения. Увеличение $\Gamma_\parallel$ тогда
\[ \Gamma_\parallel = \frac{dy'}{dy} = \frac{a}{2(a+b)} \left( 1 \pm \frac{\alpha}{\sqrt{\alpha^2 + 4 \theta_0^2}}\right) \]

Рассмотрим апертуру телескопа размером $2r$, если в его центр попадает луч от звезды под углом $\alpha$, то луч, попадающий в его верхний край, пересекает оптическую ось на расстоянии $\Delta a$ от него под углом $\alpha + \Delta \alpha$. Из подобия треугольников
\[ \frac{\Delta a}{r} = \frac{\Delta a + a +b}{\alpha (a+b)} \quad \Rightarrow \quad \Delta a \simeq \frac{r}{\alpha}.\]Тогда $\Delta \alpha = \alpha (a+b)/(a+b+\Delta a) - \alpha \simeq -r/(a+b)$ и телесный угол, под которым видно телескоп, если смотреть из точки, где находится звезда, равен $\pi \Delta \alpha^2 =\pi r^2/(a+b)^2$. Значит на поверхность телескопа попадает мощность
\[ N_0 = I_0 \frac{r^2}{4(a+b)^2},\] где $I_0$ - полная мощность излучения звезды.


В ситуации, когда свет звезды преломляется, можно воспользоваться следующей логикой: будем смотреть из точки положения звезды на телескоп. Его изображение, увеличенное в $\Gamma'$ раз будет находиться в плоскости линзы, где $\Gamma'$ получена из $\Gamma$ путем замены $a \to a'=b$, $b \to b'=a$, $\alpha \to \alpha'= \alpha a/b$.

Тогда телесный угол, под которым будет видно телескоп равен $\pi \Gamma' r^2/b^2$ и мощность принятого им излучения
\[ N' = I_0 \Gamma' \frac{r^2}{4b^2}.\]Итого увеличение мощности с учетом обоих изображений и равенства $a=b$:
\[ \mu = \frac{\alpha}{\sqrt{\alpha^2 + 4 \theta_0^2}} + \frac{\sqrt{\alpha^2 + 4 \theta_0^2}}{\alpha} \]

Параметризация $y = \alpha/\theta_0$ выглядит так:
\[ \mu(y) = \frac{1}{2} \left( \frac{y}{\sqrt{y^2 + 4}} + \frac{\sqrt{y^2+4}}{y} \right) = \frac{y^2+2}{y\sqrt{y^2+4}}\]

Ответ:

Угол $\alpha$ не может быть меньше углового размера источника, поэтому $\alpha_\text{min}=R/(a+b)$, $y_\text{min}=R/(\theta_0 (a+b))=0.38\cdot 10^{-3}$. Значит $\mu_\text{max} = \mu(y_\text{min})$.