1. Может нужно на данном участке разбить полигоны на более мелкие и применить к близко расположенным вершинам Collapse или Weld.
2. Можно все вершины на данном участке соединить ребрами.
3. Или проверить, имеются ли треугольные полигоны в большом количестве на сложном участке. Обычно такое бывает из-за этого.
Освоил трехмерную графику, чтобы однажды создать новый, совершенно прекрасный мир, ибо жить в этом больше нет сил...