Naja, so schwer ist das wieder auch nicht.
Man nimmt sich eine Drehmatrix, nennen wir sie mal M, für die euklidsche Ebene, die findet man in der Wikipedia...
...und dann mache man eine Matrixmultiplikation mit den Ortsvektoren der einzelnen Scheitel. Wenn man also den Scheitel P(a|b) hat, sieht das ganze so aus:
P':=MP=(cos*a-sin*b|sin*a+cos*b)
(sin und cos stehen hierbei für den Sinus-/Kosinus des Drehwinkels
Der Rest ist mit vernünftiger Eigeninitiative definitiv lösbar.