§ Нормаль

Чтобы найти нормаль у плоскости (или треугольника), необходимо найти общее уравнение плоскости:
Ax + By + Cz + D = 0
Здесь коэффициенты A,B,C и будут вектором, перпендикулярный плоскости. Чтобы найти нормаль, надо по теореме Пифагора рассчитать длину вектора и разделить на него.

§ Задание плоскости

Чтобы найти уравнение плоскости, надо найти определитель:
\begin{vmatrix}x-x_1 & y-y_1 & z-z_1 \\\ x_2-x_1 & y_2-y_1 & z_2-z_1 \\\ x_3-x_1 & y_3-y_1 & z_3-z_1 \end{vmatrix} = 0
Я поменяю здесь значения на другие, например AB_x = x_2 - x_1 или AP_x = x - x_1
\begin{vmatrix}AP_x & AP_y & AP_z \\\ AB_x & AB_y & AB_z \\\ AC_x & AC_y & AC_z \end{vmatrix} = 0
Теперь же достаточно вычислить коэффициенты перед AP_x , AP_y и AP_z :
AP_x (AB_yAC_z - AB_zAC_y) + AP_y (AB_zAC_x - AB_xAC_z) + AP_z (AB_xAC_y - AB_yAC_x) = 0
Как можно отметить, что AP_x = x - x_1 . Но, поскольку необходимы только коэффициенты перед x,y,z то высчитывать остаточный коэффициент вообще не нужно. Поэтому:
A = AB_yAC_z - AB_zAC_y
B = AB_zAC_x - AB_xAC_z
C = AB_xAC_y - AB_yAC_x
Будет являться вектором, который требуется преобразовать в нормаль.
Данный вектор полностью повторяет те же самые коэффициенты из вот этого материала.
Справедливости ради, свободный член уравнения D будет равен -(Ax_1 + By_1 + Cz_1) .