L'iperbole a, con i fuochi sull'asse delle ascisse, ha il semiasse trasverso di lunghezza 5/2 e gli asintoti di equazioni 2 x 3 ± 3 y = 0 , mentre la circonferenza b ha raggio 1 e centro nell'origine degli assi.


L'equazione della circonferenza è immediata:
x 2 + y 2 = 1
L'iperbole ha semiasse trasverso lungo 5/2. Quindi a= 5/2 e a²= 25/4.
Il coefficiente angolare degli asintoti ha modulo 2√3/3 e deve essere uguale, in modulo, a b/a. Si ricava che b= 5/√3.
L'equazione dell'iperbole è:
x 2 25 4 y 2 25 3 = 1
Formiamo il sistema della generica retta, l'iperbole e la circonferenza:

x 2 25 4 y 2 25 3 = 1 x 2 + y 2 = 1 y = m x + q 4 x 2 3 m x + q 2 = 25 x 2 + m x + q 2 = 1 y = m x + q 4 x 2 3 m 2 x 2 6 m q x 3 q 2 25 = 0 x 2 + m 2 x 2 + 2 m q x + q 2 1 = 0 4 3 m 2 x 2 6 m q x 3 q 2 + 25 = 0 1 + m 2 x 2 + 2 m q x + q 2 1 = 0
Per imporre la condizione di tangenza poniamo il discriminante uguale a zero in ambedue le equazioni:

9 m 2 q 2 + 4 3 m 2 3 q 2 + 25 = 0 m 2 q 2 1 + m 2 q 2 1 = 0 9 m 2 q 2 + 12 q 2 + 100 9 m 2 q 2 75 m 2 = 0 m 2 q 2 q 2 m 2 q 2 + 1 + m 2 = 0 12 q 2 75 m 2 + 100 = 0 q 2 = 1 + m 2 12 1 + m 2 75 m 2 + 100 = 0 12 + 12 m 2 75 m 2 + 100 = 0 63 m 2 112 = 0 m 2 = 112 63 = 16 9 ; q 2 = 1 + 16 9 = 25 9
Quindi le equazioni delle rette tangenti sono:

y = 4 3 x + 5 3 y = 4 3 x 5 3 y = 4 3 x + 5 3 y = 4 3 x 5 3
Calcoliamo le ascisse dei punti di tangenza conn l'iperbole:

x = 3 m q 4 3 m 2 = x A = 3 4 3 5 3 4 3 16 9 = 5 x B = 3 4 3 5 3 4 3 16 9 = 5 x C = 3 4 3 5 3 4 3 16 9 = 5 x D = 3 4 3 5 3 4 3 16 9 = 5
E le ordinate:

y A = 4 3 x A + 5 3 = 4 3 5 + 5 3 = 5 y B = 4 3 x B + 5 3 = 4 3 5 + 5 3 = 5 y C = 4 3 x C 5 3 = 4 3 5 5 3 = 5 y D = 4 3 x D 5 3 = 4 3 5 5 3 = 5
Il quadrilatero EFGH è composto da due triangoli la cui base è il doppio del modulo dell'intercetta q e l'altezza è uguale al modulo di una delle radici delle rette.
Quindi in conclusione:
Area EFGH = 2 5 3 5 4 = 25 6