Enunciado

La respuesta es $\frac{576}{5}\,\mbox{cm}^2$.

El área del cuadrado es $144\,\mbox{cm}^2$, por lo que sus lados miden $\sqrt{144} = 12$ cm.

La intersección del cuadrado con el rectángulo está formada por dos triángulos congruentes, $ABD$ y $AED$. Por lo tanto, el área de $ABD$ es $\frac {96}2 = 48\, \mbox{cm}^2$, y el área de $BCD$ es igual a $\frac{144}2 - 48=24\,\mbox{cm}^2$, de donde obtenemos

$\frac{BC \times CD}2 = 24,$

$BC = \frac{48}{12} = 4\,\mbox{cm}.$

Además, los triángulos $BCD$ y $BFA$ son semejantes (pues tienen dos ángulos congruentes), por lo que

$ \frac{FA}{12} = \frac{FA}{CD} = \frac{BF}{BC} = \frac{BF}4,$

de donde obtenemos $BF = \frac 13 FA$. Aplicando el teorema de Pitágoras en el triángulo $BFA$ obtenemos

$FA^2 + BF^2 = AB^2$

$\frac{10}9 FA^2 = (12-4)^2$

$FA =\frac{24}{\sqrt{10}}\,\mbox{cm},$

y por tanto, $BF = \frac{8}{\sqrt{10}}$ cm. El área del triángulo $BFA$ es
entonces igual a

$\frac{1}{2}\left(\frac{24}{\sqrt{10}}\times \frac{8}{\sqrt{10}}\right) = \frac{1}{2}\left(\frac{96}{5}\right).$

El área del rectángulo mide $96\,\mbox{cm}^2$ más dos veces el área del triángulo $BFA$, por lo que el área del rectángulo es igual a $96 +\frac{96}{5} = \frac{576}{5}\,\mbox{cm}^2$.