Brauchen wir eine Kennzeichnung für „biased“ Ergebnisse in AI Tools?

Ich hab mich durch diesen Artikel gewühlt:

https://thezvi.wordpress.com/2024/02/22/gemini-has-a-problem/

Und stelle mir die Frage: Sind viele öffentlich nutzbare AI tools zu „Biased“?

Werden die Modelle mit Vorurteile gefüttert, lernen und replizieren sie diese. Wie weit sollten die Tools dem entgegen steuern? Und wann geht das „gegensteuern“ zu weit?

Es ist ja davon auszugehen das diese Entscheidungen bewusst getroffen werden. Als soziotechnische Systeme spiegeln sie soziale Ungleichheiten wieder und können sie verstärken. Die Voreingenommenheit wird allerdings an vielen stellen immer absurder und für mich als Nutzer sind diese kaum zu dechiffrieren. Wann sehe ich eine auf Daten basiertes Ergebnis und wann ein Ergebnis, das bewusst herbeigeführt wird?

Ich finde es gut, das an vielen Stellen eingegriffen wird, um rassistischen, sexistischen und diskriminierenden Inhalten entgegenzuwirken. Jedoch sollten diese Eingriffe gekennzeichnet werden, wenn sie nicht den Trainingsdaten entsprechen. Und damit bediene ich gerne das Vorurteil des deutschen der alles kennzeichnen will 😉

Bildquelle: https://thezvi.wordpress.com/2024/02/22/gemini-has-a-problem/