Dafür kannst du die Werte der einzelnen Pixel in den HLS Farbraum umwandeln. Dort hast du dann direkt die Helligkeit.
Dafür gibt es in der Windows-
API wie auch in Delphi und Lazarus die Funktion ColorRGBToHLS, bei Delphi in der
Unit Vcl.GraphUtil und bei Lazarus in GraphUtil.
Dann kannst du die durchschnittliche Helligkeit verschiedener Pixel ausrechnen.