Timnit Gebru (geboren 1982 oder 1983[1] in Addis Abeba) ist eine Informatikerin, die auf dem Gebiet der künstlichen Intelligenz (KI) forscht. Bis Anfang Dezember 2020 war sie Co-Leiterin der Abteilung für Ethik in der KI (Ethical AI Intelligence Team) bei dem US-amerikanischen Technologieunternehmen Google.[1][2][3] Sie ist Mitgründerin des Distributed AI Research Institute (DAIR).[4]
Einer breiteren Öffentlichkeit bekannt wurde Gebru 2018 durch die gemeinsam mit der Informatikerin Joy Buolamwini vom MIT Media Lab verfasste Publikation Gender Shades,[1] in der die Wissenschaftlerinnen nachwiesen, dass kommerzielle Systeme zur automatischen Gesichtserkennung für Menschen mit nicht-weißer Hautfarbe sowie weibliche Personen signifikant schlechter funktionieren als für weiße, männliche Personen.[7][8][9]
“It is past time for researchers to prioritize energy efficiency and cost to reduce negative environmental impact and inequitable access to resources.”
„Es ist überfällig, dass [KI-]Forschende Energieeffizienz und -kosten priorisieren, um negative Umwelteinflüsse und ungleichen Zugang zu Ressourcen zu reduzieren.“
– Auszug aus »On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?« von Timnit Gebru et al., 2020[9]
Ab 2018 arbeitete Gebru, die zuvor ein Jahr als Postdoc bei Microsoft Research geforscht hatte,[5] bei Google AI, der KI-Abteilung des Internetkonzerns. Anfang Dezember 2020 wurde Gebrus Arbeitsvertrag mit Google fristlos aufgelöst,[10] nachdem das Management verlangt hatte, dass sie eine zum Peer-Review eingereichte Publikation über Probleme moderner KI-Systeme zur Verarbeitung natürlicher Sprache, wie sie für die Google-Suche eingesetzt werden, zurückzieht.[1][2][10][3] Laut der unter anderem von der SprachwissenschaftlerinEmily M. Bender, Professorin an der University of Washington, mitverfassten Studie gebe es vier große Risiken dieser sogenannten Transformer, darunter die erheblichen negativen Umweltauswirkungen der für Erzeugung und Betrieb nötigen Rechenleistung sowie einen starken diskriminierenden Bias, der dadurch entstehe, dass die Modelle aus riesigen, ungefiltert aus dem Internetgescrapten Datenmengen erzeugt werden.[9]
Über die genauen Umstände von Gebrus Ausscheiden gab es widersprüchliche Angaben.[9] Laut Google-AI-Direktor Jeff Dean habe das Papier nicht den internen Qualitätsanforderungen entsprochen.[9] Gebru hatte unter anderem gefordert, ihr Informationen darüber zugänglich zu machen, welche Personen zu dieser Einschätzung beigetragen hatten.[3][9] Ein Google-AI-Mitarbeiter aus Montreal äußerte öffentlich, seine eigenen Publikationsanträge seien bislang vom Arbeitgeber zwar stets darauf begutachtet worden, ob sie sensible Informationen offenlegten, nicht jedoch bezüglich ihrer Qualität.[9] Innerhalb weniger Tage unterzeichneten über 1.400 Google-Mitarbeitende und 1.900 weitere Personen einen offenen Brief,[11][12] in dem sie die Entlassung Gebrus kritisieren.[3][9]
Im Jahr 2021 ehrte die Fachzeitschrift Nature sie mit einem Eintrag in ihrer Nature’s-10-Liste als eine der zehn Personen, welche die Wissenschaft in jenem Jahr geprägt haben.[13]
Die Wissenschaftskommentatorin Anjana Ahuja fügt hinzu: „Menschen, die sehr reich oder sehr klug oder beides sind, glauben manchmal seltsame Dinge. Einige dieser Überzeugungen werden im Akronym Tescreal zusammengefasst.“ Ahuja behauptet weiter, dass Technik-Experten diese „unscharfen Zukunftsprobleme wie z. B. existenzielle Risiken durch künstliche Intelligenz“ nur diskutierten, um von „echten Schäden … gegenwärtig“ wie algorithmischer Voreingenommenheit abzulenken.[20]
Mit Émile P. Torres: The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence. In: First Monday. 14. April 2024, ISSN1396-0466, doi:10.5210/fm.v29i4.13636.
↑Timnit Gebru, Émile P. Torres: The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence. In: First Monday. 14. April 2024, ISSN1396-0466, doi:10.5210/fm.v29i4.13636 (firstmonday.org [abgerufen am 17. April 2024]).
↑Anjana Ahuja: We need to examine the beliefs of today’s tech luminaries. In: Financial Times. 10. Mai 2023 (ft.com [abgerufen am 16. November 2023]).