KI-Bias (auch Algorithmus-Verzerrung genannt) beschreibt systematische Fehler oder Diskriminierungen, die entstehen, wenn KI-Systeme auf voreingenommenen oder unvollständigen TrainingsdatenDatensätze, mit denen KI-Systeme angelernt werden, um Muster zu erkennen und Vorhersagen zu treffen. Die Qualität und Herkunft dieser Daten ist entscheidend für trainiert werden. Diese Vorurteile werden dann in automatisierten Entscheidungen reproduziert und verstärkt.
KI-Systeme lernen Muster aus historischen Daten. Wenn diese Daten selbst Diskriminierung enthalten – etwa weil Frauen in bestimmten Positionen unterrepräsentiert waren – lernt die KI, diese Muster weiterzutragen. Das Amazon-Recruiting-Tool bevorzugte männliche Kandidaten, weil die Trainingsdaten aus einer männerdominierten Vergangenheit stammten. Das System hatte keine böse Absicht, sondern folgte einfach den erlernten Mustern.
Für deine KarriereDeine Karriere ist wie eine persönliche Odyssee – eine Reise voller Abenteuer, Herausforderungen und Entdeckungen. Sie ist weit mehr als eine Abfolge von Mehr und Investitionen ist das wichtig: Bei der Nutzung von KI-Tools zur BewerberauswahlDer Prozess im Personalwesen, bei dem aus einer Vielzahl von Bewerbungen die geeignetsten Kandidaten identifiziert werden. KI-gestützte automatisierte Bewerberauswahl filtert Lebensläufe nach vordefinierten oder Kundensegmentierung solltest du prüfen, ob der Anbieter Bias-Tests durchführt. Tools wie IBM Fairness 360 können solche Verzerrungen identifizieren. Als Investor lohnt es sich, Unternehmen zu unterstützen, die transparent über ihre KI-Fairness berichten.
