Trong không gian với hệ tọa độ , cho mặt cầu
. Gọi
là mặt phẳng đi qua hai điểm
và cắt
theo giao tuyến là đường tròn
sao cho khối nón có đỉnh là tâm của
và đáy là đường tròn
có thể tích lớn nhất. Biết rằng
. Tính
Gọi H là tâm đường tròn (C) bán kính r, I là tâm mặt cầu bán kính R. Đặt IH = h.

Ta có và thể tích khối nón đỉnh I là
.
Suy ra .
Mặt phẳng đi qua hai điểm A, B nên ta có:
, do đó
Vậy






