Il volume di un cono è dato dalla formula Vcono= πr²·h/3. Se la sfera è assegnata, R, raggio della sfera, è un parametro che non può variare. Bisogna trovare una variabile da cui far dipendere il volume del cono.
Una possibilità è scegliere l'altezza del cono.
Il raggio di base si può ricavare delle relazioni di similitudine dei triangoli BED e ACD:

AD DB = AC EB → r 2 + h 2 h-R = r R → r( h-R )=R ⋅ r 2 + h 2 → r 2 h 2 + r 2 R 2 -2 r 2 hR= R 2 r 2 + R 2 h 2 → r 2 = R 2 h h-2R

Sostituendo nella formula del volume:       V= π 3 r 2 h= π 3 [ R 2 h h-2R ] ⋅ h= π R 2 3 [ h 2 h-2R ]
Calcolo della derivata prima:       d dh V= d dh [ π R 2 3 ( h 2 h-2R ) ]= π R 2 3 [ 2h( h-2R )- h 2 ( h-2R ) 2 ]= π R 2 3 h⁡[ 2h-4R-h ( h-2R ) 2 ]= π R 2 3 h⁡[ h-4R ( h-2R ) 2 ]

Posta la derivata prima uguale a zero un primo risultato è che  l'altezza che produce un volume minimo è nulla (cono degenere in circonferenza). Un secondo risultato è h= 4R e questa altezza corrisponde al volume massimo.

Calcolo del volume:     V= π R 2 3 [ 16R 2 4R-2R ]= 8 π R 3 3