Das eine Mal, wo ich für ein CE eine Applikation entwickelt habe, ging das innerhalb von 0.5 Tagen in VS2003 glaube ich oder 2005 und war vollkommen problemlos. Eine Allergie oder Aversion habe ich nicht. Wozu auch, denn mit VS/C# geht fast alles viel besser. q.e.d.
Das zweite Mal war es ein modifizierter Browser: Die Datenerfassung ging über einen Web-Client und ich musste nur den WebBrowser in eine Mini-App einbinden. Aber auch das ging ratz-fatz.
MSSQL CE habe ich allerdings noch nie benötigt.
Ich würde zu C#/VS raten.