Если линза рассеивающая, то, независимо от положения источника, его изображение будет мнимым, расположенным между источником и оптическим центром линзы. После перемещения источника в точку, где ранее было расположено его изображение, новое изображение окажется снова между источником и оптическим центром линзы. Получится бесконечная цепочка изображений. Таким образом, три точки с указанным свойством в случае рассеивающей линзы существовать не могут.
Мнимое изображение в собирающей линзе всегда расположено дальше от линзы, чем источник, поэтому не может быть, что точки $A$, $B$ и $C$ являются мнимыми изображениями друг друга. Но, в соответствии с принципом обратимости хода световых лучей, при помещении источника в точку действительного изображения, его новое изображение совпадает с предыдущим положением источника. Поэтому описанным в условии свойством три точки могут обладать только в том случае, если две из них являются действительными изображениями друг друга, а при помещении источника в третью он дает мнимое изображение в одной из точек этой пары.
Пусть, например, собирающая линза расположена так, что точка $A$ находится за её фокальной плоскостью. Тогда изображение $A$ будет действительным и будет расположено по другую сторону от плоскости линзы. При перемещении источника в точку этого изображения, новое изображение вернется в точку $A$. Оставшееся, третье положение источника, должно давать мнимое изображение в одной из первых двух точек. Значит, оно должно располагаться между этой точкой (своим изображением) и оптическим центром линзы $O$ ближе фокальной плоскости линзы.
В этом случае линза могла быть расположена двумя способами (см. рисунок):
$а)$ оптический центр линзы находится между точками $B$ и $C$, причём источник в точке $B$ даёт мнимое изображение в точке $A$;
$б)$ оптический центр линзы находится между точками $A$ и $B$, причём источник в точке $B$ даёт мнимое изображение в точке $C$.
Если же источник сначала расположить между фокальной плоскостью и плоскостью линзы, то изображение будет получаться мнимым. При помещении источника в точку изображения новое изображение должно получиться действительным (по другую сторону плоскости линзы). И при перемещении источника в оставшуюся, третью точку, изображение окажется на месте, где источник располагался ранее. Этот вариант идентичен представленному ранее и отдельного рассмотрения не требует.
Рассмотрим только способ $а)$ размещения линзы, так как способ $б)$ аналогичен. Источник, расположенный в точке $B$ на расстоянии меньшем фокусного, даёт мнимое изображение в точке $A$. При помещении источника в точку $A$ возникает действительное изображение в точке $C$, при помещении источника в точку $C$ – действительное изображение в точке $A$.
Обозначим расстояние между оптическим центром линзы и источником, угол между главной оптической осью линзы и прямой и фокусное расстояние линзы за за $d,$ $\alpha$ и $F$ соответственно.
Запишем формулу тонкой линзы для варианта расположения источника в точке $B$:
$$\frac{1}{d \cos{\alpha}}-\frac{1}{(l+d)\cos{\alpha}}=\frac{1}{F}.$$Запишем формулу тонкой линзы для варианта расположения источника в точке $A$:
$$\frac{1}{(l+d)\cos{\alpha}}+\frac{1}{(l-d)\cos{\alpha}}=\frac{1}{F}.$$Решая систему, находим $d$ и $\alpha$.
Решение системы уравнений дает: $\cos{\alpha}=\frac{9F}{4l}$, откуда $\alpha=\arccos{\frac{9F}{4l}}.$ Поскольку в условии сказано, что угол $\alpha$ является малым, то допустимо на любом этапе вычислений использовать приближённое равенство $\cos{\alpha}\approx1-\frac{\alpha^2}{2}$. Тогда приходим к формуле $\alpha\approx\sqrt{\frac{4l-9F}{2l}}$. Отметим, что малость угла означает, что с точностью до поправок порядка $\alpha^2$ параметры системы связаны соотношением $l\approx \frac{9}{4}F$.