Wenn ich das richtig verstehe, willst Du also auf Deiner Seite eine Umwandlung von
Unicode in den 8-Bit-Code der Gegenstelle vornehmen. Die Zeichen die nicht kodiert werden konnten, sollen dabei durch eine Ersatzsequenz "<" + Code + ">" ersetzt werden.
Ich würde vorschlagen zweimal zu wandeln. Also
Unicode->Zielencoding->
Unicode. Jetzt kannst Du durch die alte und die neue
Unicode-Zeichenkette durchgehen und bei eventuellen Unterschieden Deine Ersatzsequenz einsetzen.