Also ich bin jetzt nicht der Spieleprofi und auch nicht der Polygonexperte, darum nur ein paar Gedanken:
Wenn die Punkte der Dreiecke gerundet werden, dann driften die Dreiecke zwangsläufig irgendwann einfach auseinander. Die gerundeten Werte werden eh nur zur Darstellung benötigt, also rundet man die, wenn es zur Darstellung kommt und nicht bei der Berechnung der Position.
Das habe ich ja auch gemacht. Berechnet wird alles mit den ungerundeten Koordinaten des Dreiecks / der Dreiecke, nur am Schluss wird eben einmal gerundet um er zeichnen zu können.
Bei einem Verbund aus Polygonen (hier eben Dreiecke) sollen die Dreiecke ja "miteinander verbunden" sein.
Das bedeutet doch, dass bei 2 Dreiecken eine Seite komplett gleich ist. Merkt man sich nun nicht die Positionen der 3 Punkte, sondern die Vektoren, dann kann man ausgehend von einem Dreieck die Position des anderen Dreiecks errechnen.
Also wäre der Ansatz falsch, einen gemeinsamen Mittelpunkt/Schwerpunkt zu berechnen und um diesen zu drehen?