Ich habe inzwischen eine Möglichkeit gefunden, die zumindest für MP3 Dateien funktioniert. Die Idee dahinter ist, den verwendeten Encoder über das IMFMediaType Objekt zu konfigurieren, welches dann an IMFCaptureSink.AddStream übergeben wird. Für den MP3 Encoder findet sich hier eine Dokumentation der Attribute:
https://learn.microsoft.com/en-us/wi...-audio-encoder
Mit Hilfe der Attribute MF_MT_AUDIO_AVG_BYTES_PER_SECOND und MF_MT_AUDIO_SAMPLES_PER_SECOND konnte ich so 1 Minute Aufnahme von gut 2 MB auf 350 KByte schrumpfen lassen.