Der Hype um die künstliche Intelligenz (KI) hat dazu geführt, dass Forschende in Bereichen von der Medizin bis zur Soziologie KI einsetzen, ohne ein umfassendes Verständnis der Technologie und ihrer Grenzen zu haben. Dies hat zu einer Welle an falschen KI-generierten Ergebnisse geführt. In einer Reihe von Veröffentlichungen wurden erstaunliche Ergebnisse beim Einsatz des maschinellen Lernens beschrieben, welches die Grundlage der modernen KI bildet. Beim maschinellen Lernen wird ein Algorithmus mit Daten aus der Vergangenheit gefüttert, um ihn auf zukünftige, noch nicht gesehene Daten einzustellen. In mehreren Arbeiten versäumten es die Forschenden jedoch, die Datenpools, die zum Trainieren und dann anschließend zum Testen der verwendet wurden, sauber voneinander zu trennen, dies ist ein Fehler der dazu führte, dass ein System mit Daten getestet wird, die es bereits gesehen hat.

 

Bevor eine neue Technik oder Software wie das maschinelle Lernen für die Datenauswertung verwendet wird, sollte man sich kritisch mit deren Handhabung und Grenzen auseinander setzen und ggf. die Datenauswertung auch von Expert:innen für die verwendete Methode prüfen lassen.