Bei mir kam diese Meldung, als ich der ImageList ein Bild zuweisen wollte und die Auflösung (bzw. die Größe) dieses Bildes größer war als die der ImageList.
Beispiel:
Auflösung vom Bild: 20x20
Eingestellte Auflösung bei der ImageList Einstellung: 16x16
Welches Delphi verwendest du? Der Test war mit Delphi 7. Vielleicht wurde die Fehlermeldung in späteren Delphi-Versionen ausgebessert. Aber wie ich schon schrieb, auch wenn man das SmallIcon nicht, wird es von ImageList nicht akzeptiert.