Ich weiß nicht genau, wie GMail das macht, was es tut, aber ich nehme an, dass Mails irgendwie eine ID im Mail-Header zugeordnet bekommen? Oder macht GMail da möglicherweise irgendwas magisches, auf das externe Clients gar keinen Zugriff haben? Weiß da jemand Bescheid?
Wie das genau im Detail funktioniert, weiß ich auch nicht, aber jede Mail hat auf jeden Fall eine Message-ID, die im Mail-Header ausgezeichnet ist. Außerdem können Mails im Header eine Angabe "In-Reply-To" haben, in der auf eine entsprechende Message-ID verwiesen werden kann (siehe z.B. auch
hier). Darüber lässt sich dann eine solche Thread-Sortierung realisieren