基準三角形を$\triangle{ABC}$とする.
$BC=a,CA=b,AB=c,S_A=\frac{-a^2+b^2+c^2}{2},S_B=\frac{a^2-b^2+c^2}{2},S_C=\frac{a^2+b^2-c^2}{2},S=2|\triangle{ABC}|$とする.
$\overrightarrow{BC},\overrightarrow{CA},\overrightarrow{AB}$を反時計回りに$\frac{\pi}{2}$回転させたベクトルをそれぞれ$\vec{a},\vec{b},\vec{c}とする.$
直交座標$(x_1,x_2)$における$A,B,C$の座標を$(a_1,a_2),(b_1,b_2),(c_1,c_2)$とする.
$k_a=b_1c_2-b_2c_1$等定め,$\vec{p}=(x_1,x_2)$とするとき,
直交座標$(x_1,x_2)$から重心座標$(x,y,z)$への変換は,
$(\vec{p}\cdot\vec{a}+k_a:\vec{p}\cdot\vec{b}+k_b:\vec{p}\cdot\vec{c}+k_c)$で与えられる.
重心座標の面積を用いた定義に従って,
$\triangle{PBC}$等の符号付き面積を計算すればよい.
重心座標系において$px+qy+rz=0$で表される直線の法線ベクトルは,
$p\vec{a}+q\vec{b}+r\vec{c}$
重心座標系において$l:px+qy+rz=0$と$P=(x,y,z)(x+y+z=1)$の有向距離は
$$\frac{S(px+qy+rz)}{\sqrt{a^2p^2+b^2q^2+c^2r^2-2S_Aqr-2S_Brp-2S_Cpq}}$$
$l$上の点$Q=(x-u,y-v,z-w)$を取る.$(u+v+w=0)$
このとき$\overrightarrow{QP}=u\vec{A}+v\vec{B}+w\vec{C}$である.
$\vec{l}=p\vec{a}+q\vec{b}+r\vec{c}$と定義すれば,
命題1 系1より$\vec{l}$は$l$の法線ベクトルであるため,
$$\frac{\vec{l}\cdot\overrightarrow{QP}}{|\vec{l}|}$$
は$l$と$P$の有向距離を表す.
ここで,$\vec{a}\cdot\overrightarrow{QP}=\vec{a}\cdot(-v\overrightarrow{BA}-
w\overrightarrow{CA})=(-v-w)S=uS$ 等が成立するため,
$|\vec{l}\cdot\overrightarrow{QP}|=|pu+qv+rw|S=S|px+qy+rz|$
また,$\frac{\pi}{2}$回転により内積が不変であることを用いれば
$|\vec{l}|={\sqrt{a^2p^2+b^2q^2+c^2r^2-2S_Aqr-2S_Brp-2S_Cpq}}$
これより示すべき式を得る.
直線のどちら側が有向距離が正になるかには言及していない.
三角形$ABC$と直線$l$について,
$l$と点$A$の有向距離を$d_a$などと表すとき,
$$a^2d_a^2+b^2d_b^2+c^2d_c^2-2S_Ad_bd_c-2S_Bd_cd_a-2S_Cd_ad_b=S^2$$
重心座標系において$l:px+qy+rz=0$と$P=(x:y:z)$の距離は
$$\frac{|px+qy+rz|}{|x+y+z|\sqrt{\frac{sinA}{sinBsinC}p^2+\frac{sinB}{sinCsinA}q^2+\frac{sinC}{sinAsinB}r^2-2cotAqr-2cotBrp-2cotCpq}}$$