Trong không gian với hệ trục tọa độ Oxyz, cho điểm và mặt phẳng
. Gọi
là điểm thuộc mặt phẳng
sao cho
và góc
có số đo lớn nhất. Khi đó giá trị
bằng
+) Vì nên M thuộc mặt phẳng mặt phẳng trung trực của đoạn thẳng AB. Ta có phương trình trung trực của AB là
+) M thuộc giao tuyến của hai mặt phẳng nên M thuộc đường thẳng
.
Gọi , ta có
.
Khảo sát hàm số , ta được
khi
.
Suy ra có số đo lớn nhất khi
, ta có
.
Khi đó giá trị .