Mit einem RichEdit würde ich da schon mal gar nichts machen. SynEdit ist trotz aktivem Highlighter wesentlich schneller und ressourcensparender als ein RichEdit.
Du kannst dir ja deinen eigenen Highlighter schreiben.
Willst du dich noch mit BNF beschäftigen, kannst du ja mal
damit (Freeware) rumbasteln.