https://www.der-postillon.com/2023/05/deppgpt.html
die du nicht selber trainiert hast
Auch das hilft nicht, da du ja dennoch nicht weißt, was sie wirklich gelernt hat.
Beispiele:
Gebrauchtwagenwebseite benutzte KI für Bewertung der Autos.
Man dachte sie hat gelernt teure Autos von Schrottkarren zu unterscheiden (die Ergebnisse sahen anfangs gut aus),
aber eigentlich hatte sie nur gelernt
* schönes Wetter + sauberes Auto = teuer
* schmuddelregenwetter und/oder dreckiges Auto = schrott
* aka gutes Foto = truer versus schlechtes Foto = schrott
Oder eine Personalabteilung wollte durch KI die Diskriminierung eindämmen.
Nur wurde die KI mit Daten alter Bewerbungen und daraus resultierender Einstellungen gefüttert,
also verhielt sie sich noch sexistischer, als jene Personaler, welche sich bemühten es nicht zu sein.
* sobald ein Lebenslauf nach "Frau" klang, wurde sie öfters/immer sofort aussortiert
(weil früher wurden Männer bevorzugt und da sich zusätzlich auch mehr Männer bewarben, wurden auch vorwiegend Männer eingestellt)
* wenn ein Mann z.B. irgendwas mit Wohltätigkeit oder Volleyball machte oder einen Vaterschaftsurlaub hatte, dann war er eine Frau.