Силы упругости $F_{1}$ и $F_{2}$, действующие соответственно на первый и второй шарики со стороны доски с момента удара появляются одновременно в момент соприкосновения первого шарика с доской, одновременно достигают своих максимальных значений и одновременно исчезают, когда один из шариков отрывается от доски (см. рисунок).
При этом в любой момент времени выполняется соотношение\begin{equation}
F_{1} a=F_{2} b, \tag1\end{equation}поскольку доска -- это обыкновенный рычаг Архимеда, с помощью которого тот был готов <<перевернуть Землю>>, если бы нашел точку опоры (в нашем случае -- точка $O$).
Соотношение $(1)$ верно во всех случаях, когда рычаг неподвижен или, как в нашем случае, не имеет массы и для того, чтобы его повернуть, не требуется никакого усилия. Если $F_{1 ср}$ и $F_{2 ср}$ -- усредненные за время удара значения сил $F_{1}$ и $F_{2}$, то\begin{equation}
F_{1 ср} a=F_{2 ср} b. \tag2\end{equation}Запишем второй закон Ньютона в импульсной форме, пренебрегая силой тяжести (в проекции на ось, направленную вертикально вниз):\begin{equation}
m_{1}\left(v_{1}-v_{0}\right)=-F_{1 ср} \Delta t, \tag3\end{equation}\begin{equation}
m_{2} v_{2}=-F_{1 ср} \Delta t, \tag4\end{equation}а также закон сохранения энергии при упругом ударе\begin{equation}
\frac{m_{1} v_{0}^{2}}{2}=\frac{m_{1} v_{1}^{2}}{2}+\frac{m_{2} v_{1}^{2}}{2} \tag5\end{equation}(здесь $v_{1}$ и $v_{2}$ – скорости шаров после завершения удара; $\Delta t$ – продолжительность удара).
Вводя обозначения $\alpha=m_{1} / m_{2}$, $\beta=\frac{b}{a}$ и решая совместно уравнения $(1)-(4)$, получаем ответ:
$$
v_{1}=v_{0} \frac{\alpha-\beta^{2}}{\alpha+\beta^{2}}, v_{2}=-v_{0} \frac{2 \alpha \beta}{\alpha+\beta^{2}}.
$$$\textit{Анализ решения}$: Скорость $v_{2}$ отрицательна при любых значениях $\alpha$ и $\beta$, т. е. второй шарик всегда движется вверх. Движение первого шарика после удара зависит от заданных соотношений $\alpha$ и $\beta$ :
$\alpha>\beta^{2} \implies v_{1}>0$, первый шарик «проваливается» вниз, увлекая за собой доску;
$\alpha=\beta^{2} \implies v_{1}=0$, первый шарик и доска остаются на месте, a второй шарик подпрыгивает;
$\alpha<\beta^{2} \implies v_{1}<0$, оба шарика подскакивают вверх.
Из закона сохранения энергии находим высоту, на которую поднимается второй шарик:
$$
h=\frac{v_{2}^{2}}{2 g}=\frac{v_{0}^{2}}{2 g}\left(\frac{2 \alpha \beta}{\alpha+\beta^{2}}\right)^{2}.
$$