Как определить, принадлежит ли точка A(x,y) отрезку с концевыми точками B(x₁,y₁) и C(x₂,y₂)?

Точки отрезка z можно описать уравнением

pOB+(1-p)OC=z, 0<=p<=1, OB и OC - векторы.

Если существует такое p, 0<=p<=1, что

pOB+(1-p)OC=A,

то A лежит на отрезке, иначе - нет.

Равенство расписывается по координатно так:

px₁+(1-p)x₂=x

py₁+(1-p)y₂=y

Из первого уравнения находим p, подставляем во второе: если получаем равенство и

0<=p<=1, то A на отрезке, иначе - нет.

Рабочая реализация более общей функции есть в разделе структуры геометрических данных.