По закону Харди-Вайнберга p^2+2pq+q^2=1
где q – частота рецессивного аллеля (вероятность встретить рецессивный ген), p – частота доминантного аллеля.
Среди мужчин могут быть два варианта: здоровый X^HY (частота p) или болеющий X^hY (частота q).
Среди женщин могут быть три варианта: здоровая гомозиготная X^HX^H (частота p^2), здоровая гетерозиготная A.K.A носительница рецессивного гена X^HX^h (частота 2pq) и болеющая гомозиготная X^hX^h(частота q^2).
Тогда частота болеющих мужчин и женщин = 0.5q + 0.5q^2 = 0.12 = 12 \%
где 0.5 обозначает равную долю мужчин и женщин в популяции.
Решив уравнение q^2+q-0.24=0 получим q = 0.2 (второе значение q – отрицательное, что не является физически возможным).
Подставив q=0.2 в p^2+2pq+q^2=1 получим p = 0.8 (опять же, второе значение p не является физически возможным).
Если взять из популяции здоровых мужчину (p) и женщину (p^2+2pq), то рождение болеющего мальчик зависит только от гетерозиготной женщины (от отца Х-сцепленный рецессивный ген не сможет получить), которую можно встретить с вероятностью в 2pq.
В добавок к этому нужно учесть что вероятность рождения болеющего мальчика у конкретной пары X^HY и X^HX^h равна 1/4.
Тогда вероятность рождения болеющего мальчика у здоровой пары будет равна
\frac{1}{4} \cdot \frac{2pq}{p^2+2pq} = \frac{1}{4} \cdot \frac{2 \cdot 0.8 \cdot 0.2}{0.8^2+2 \cdot 0.8 \cdot 0.2} = \frac{1}{12}= 0.0833 \approx 8.3 \%
P.S. Для решения таких задач советую хорошенько обдумать, то как вероятность фенотипа зависит от вероятности нахождения X-сцепленного рецессивного гена для каждого пола.