Echt? Hast du das nachgemessen? Denn laut dem hier:
http://de.wikipedia.org/wiki/Viereck#Formeln reichen die 4 Winkel aus, um ein Viereck zu beschreiben.
Örks, keinen roten Kasten gesehen. Na, was Du also tust ist immer wieder eine Gerade in einem bestimmten Winkel an einer anderen Geraden entlang wandern lassen, bis sie eine andere Gerade schneidet. Das sollte sich in einen etwas ausformulierteren Algorithmus fassen lassen.
Sherlock