Trong không gian với hệ tọa độ , cho hai điểm
. Giả sử
là tâm đường tròn ngoại tiếp tam giác
. Tính
.
Ta có:
Mặt phẳng (OAB) đi qua O và có vec-tơ pháp tuyến nên có phương trình
.
Ta xác định được
Theo giả thiết
Mặt khác
Giải hệ gồm (1), (2) và (3) ta được .
Vậy .
