1.) Die Picturebox ist Teil des CF und
2.) behebt das nicht das Problem.
Es scheint an nicht 100% korrekt generierten InitializeComponent code zu liegen.
Schau Dir mal diesen Thread an:
http://community.sharpdevelop.net/forums/t/5388.aspx
Mit diesen beschriebenen Änderungen am generierten Code sollte es gehen.