Offener BriefMusk und Tech-Experten fordern Entwicklungspause für künstliche Intelligenz
Über 1000 Spezialisten sehen die Weiterentwicklung vom mächtigen KI-Systemen als mögliche Gefahr für die Gesellschaft. Sie fordern einen mindestens sechsmonatigen Entwicklungsstopp.
Hat selbst früh in das Unternehmen OpenAI, das die künstliche Intelligenz ChatGPT entwickelt hat, investiert – nun fordert er eine Entwicklungspause bei KI-Systemen: Tesla-Chef Elon Musk.
Foto: Susan Walsh (Keystone)
Technologie-Milliardär Elon Musk und zahlreiche Experten haben eine Pause bei der Entwicklung von besonders fortgeschrittener künstlicher Intelligenz (KI) gefordert. «KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können grosse Risiken für Gesellschaft und Menschheit bergen», heisst es in dem am Mittwoch veröffentlichten offenen Brief mit mehr als 1000 Unterzeichnern. «Mächtige KI-Systeme sollten erst dann entwickelt werden, wenn wir zuversichtlich sind, dass ihre Auswirkungen positiv und ihre Risiken kontrollierbar sind.»
Der Brief ist eine Reaktion auf die Veröffentlichung der neuen Version des Chatbots ChatGPT, GPT-4, durch das kalifornische Unternehmen OpenAI Mitte März. Die Unterzeichner des Briefes, unter ihnen auch Apple-Mitbegründer Steve Wozniak, fordern, «dass alle KI-Labore sofort für mindestens sechs Monate das Training von KI-Systemen stoppen, die mächtiger sind als GPT-4».
Sollten die Unternehmen sich darauf nicht einigen, müssten Regierungen einschreiten und ein Moratorium auferlegen. Die sechs Monate sollen demnach genutzt werden, um Sicherheitsprotokolle zu entwickeln.
GPT-4 erstellt mit Hilfe von künstlicher Intelligenz Texte. Nutzer können einzelne Befehle oder Sätze vorgeben, die das System dann mithilfe von Unmengen von Daten aus dem Internet eigenständig ergänzt.
OpenAI-Gründer: «Unabhängige Überprüfung irgendwann notwendig»
Die rasante Entwicklung von künstlicher Intelligenz wird in vielen Bereichen – etwa in der Medizin – als grosse Chance gesehen, hat aber auch zahlreiche Kritiker auf den Plan gerufen. Diese warnen unter anderem, künstliche Intelligenz könnte zu Diskriminierung, Verbreitung von Falschinformationen und einem Verlust von Arbeitsplätzen führen und letztlich durch Menschen nicht mehr kontrollierbar werden.
In dem offenen Brief zu einem Stopp der KI-Entwicklung verweisen die Verfasser auf einen Satz von OpenAI-Gründer Sam Altman, demzufolge irgendwann eine «unabhängige» Überprüfung notwendig sei, bevor mit dem Training neuer Systeme begonnen werde. «Wir stimmen zu», schreiben die Verfasser des Briefes. «Der Zeitpunkt ist jetzt.»
Musk selbst war einer der frühen Investoren bei OpenAI. Der von ihm geführte Elektroautobauer Tesla entwickelt KI-Systeme für autonomes Fahren. Unterschrieben wurde der Brief nicht nur von Kritikern von künstlicher Intelligenz, sondern auch von Wettbewerbern von OpenAI wie dem Chef des Unternehmens Stability AI, Emad Mostaque.
AFP/step
Fehler gefunden? Jetzt melden.
