schreibe eine Zusammenfassung von diesem Artikel

Der Ausstieg des KI-Pioniers Geoffrey Hinton bei Google und seine Warnungen vor den Gefahren durch KI haben für viel Wirbel gesorgt. Altgediente Kritiker und Kritikerinnen großer Sprachmodelle und der Unternehmen, die sie herstellen und kontrollieren, werfen Hinton nun vor, die bereits jetzt existierenden Probleme, die große Sprachmodelle hervorrufen, zu ignorieren und klein zu reden. Beispielhaft verdeutlicht werde dies beispielsweise durch die fehlende Unterstützung Hintons für die KI-Ethikerin Timnit Gebru, als diese von Google gefeuert wurde. In einem Fernseh-Interview begründete Hinton dies damit, dass die Kritik von Gebru und ihren Kolleginnen weniger existentiell gewesen sei, als die Befürchtungen, die ihn nun umtreiben.

Auffällig ist jedoch, dass Hinton in seinen Interviews Begriffe und Denkfiguren verwendet, die dem "effektiven Altruismus" zugeordnet werden können – einer Bewegung, die in den USA viel Einfluss hat, die aber auch sehr umstritten ist. So spricht Hinton beispielsweise von der "existentiellen Bedrohung" der Menschheit durch KI. Das Nachdenken über existentielle Risiken (xrisk) – der Begriff wurde vom britischen Philosophen Nick Bostrom geprägt – gehört ebenso zum Fundus dieser Bewegung, wie das Argument, eine intelligente KI werde versuchen, Menschen zu manipulieren, um ihre Ziele zu erreichen.