Eine Expertin für Künstliche Intelligenz (KI) bewarb sich auf eine Position in diesem Bereich. Weil in ihren Bewerbungsunterlagen die geforderten Praktika nicht auftauchten und die KI die vorhandene Berufserfahrung im Ausland für die Stelle nicht erwartete, hätte die KI-Expertin beinahe keine Einladung zum Vorstellungsgespräch bekommen. Tatsächlich war sie nicht aussortiert worden, weil sie einen ungewöhnlichen und weiblichen Vornamen hatte. Außerdem fragte sie beim Unternehmen nach, was sowohl ihr Engagement als auch ihr Verständnis für die Funktionsweise künstlicher Intelligenz bewies. Ihre Vermutung, dass ihr Lebenslauf nicht dem Muster "erfolgreicher" Lebensläufe im Unternehmen entsprach, war nicht weit von der Wahrheit entfernt. Es gab zwar mit der Anforderung nach Praktika ein "objektives" Kriterium, aber der Abgleich erfolgte nur daraufhin, ob das Kriterium vorlag oder nicht. Gleiche oder höherwertige Alternativen wurden von der Software einfach nicht anerkannt.

Da künstliche Intelligenz musterbasierte Entscheidungen trifft, sind für einen erfolgreichen Einsatz zwei Punkte essentiell: Es muss ein geeigneter Trainingsdatensatz vorliegen und die Aussagen müssen mit Testdaten überprüft werden, um unerwünschte Effekte bei der späteren Anwendung möglichst frühzeitig zu erkennen und zu beheben.