Trong không gian với hệ trục tọa độ , cho hai điểm
. Gọi
là mặt cầu đường kính AB. Mặt phẳng
vuông góc với đoạn AB tại H sao cho khối nón đỉnh A và đáy là hình tròn tâm H (giao của mặt cầu
và mặt phẳng
) có thể tích lớn nhất, biết rẳng
với
. Tính
.
Hình vẽ minh họa

,
là vectơ pháp tuyến của mặt phẳng
suy ra phương trình mặt phẳng
có dạng
.
Gọi là tâm mặt cầu thì
là trung điểm của
suy ra
, bán kính mặt cầu
.
Đặt suy ra
.
Thể tích khối nón
.
Dấu bằng xảy ra khi .
Ta có hệ:
Vậy .
Suy ra: .

