Wenn ich dir richtig verstanden habe, möchtest du sowas:
http://reference.wolfram.com/mathema.../Simplify.html
Du möchtest also das tun, weshalb ich Mathematica so gerne mag
Um dir eine Idee zu geben: Du brauchst auf jeden Fall eine Funktion, die soviel faktorisiert, wie möglich und eine die soviel ausmultipliziert, wie möglich. Ggf. noch andere, komplexere Funktionen, aber das sind die beiden ersten.
Wie man die jetzt genau realisiert, bin ich aber überfragt ... jetzt bräuchte man einen Informatiker
