Forderung nach Stopp von KI-Superintelligenz
Diese sogenannte Superintelligenz müsse verboten werden, "bis diese Technologie zuverlässig sicher und kontrollierbar ist", fordern die Unterstützer der Initiative in einer am Mittwoch veröffentlichten Erklärung des Future of Life Institutes.
Sogar KI-Pionier und Physik-Nobelpreisträger hat Papier unterschrieben
Die Nichtregierungsorganisation (NGO) kämpft gegen die Gefahren von KI. Zu den Unterzeichnern gehören der KI-Pionier und Physik-Nobelpreisträger Geoffrey Hinton, der bekannte KI-Wissenschafter Yoshua Bengio von der Universität Montreal sowie der britische Unternehmer Richard Branson und der ehemalige Berater von US-Präsident Donald Trump, Steve Bannon. Auch Prominente wie der britische Prinz Harry und seine Frau Meghan sowie der KI-Experte des Vatikan, Paolo Benanti, haben unterschrieben.
Zwar wünschten sich viele Menschen leistungsstarke Programme, die die Wissenschaft oder Medizin voranbrächten oder für mehr wirtschaftliche Produktivität sorgten, erklärte der Mitbegründer des Future of Life Institutes, Anthony Aguirre. Aber das Wettrennen von KI-Unternehmen auf dem Weg zu KI-Technologien, die den Menschen übertreffen und ersetzen sollen, sei "sehr weit von dem entfernt, was die Öffentlichkeit will, Wissenschafter für sicher oder religiöse Anführer für richtig halten", fügte er hinzu.
OpenAI-Chef meint, dass Superintelligenz binnen der nächsten fünf Jahre geschaffen werden könnte
Während der UNO-Generaldebatte im September hatten Forscher und Beschäftigte aus dem KI-Sektor ebenfalls einen offenen Brief veröffentlicht, in dem sie Regierungen dazu aufforderten, bis Ende 2026 ein internationales Rahmenwerk für "rote Linien" in Bezug auf KI zu beschließen.
Tech-Unternehmen wie Meta oder der ChatGPT-Entwickler OpenAI streben die Entwicklung von Superintelligenz in den kommenden Jahren an. OpenAI-Chef Sam Altman, dessen Unternehmen ChatGPT herausbrachte, hatte im September gesagt, dass Superintelligenz binnen der nächsten fünf Jahre geschaffen werden könnte.
(APA/AFP)