Switzerland
This article was added by the user . TheWorldNews is not responsible for the content of the platform.

1000 KI-Experten und Tech-Grössen fordern sofortigen Stopp für ChatGPT und Co.

Deepfakes: KI-generierte Promi-Bilder verbreiten sich viral

1 / 14

Deepfakes: KI-generierte Promi-Bilder verbreiten sich viral

Beeindruckend: Schweizer KI-Künstler visualisiert die Geschichte des Krieges

Video: watson

Das könnte dich auch noch interessieren:

In einem offenen Brief fordern KI-Fachleute und Tech-Führungskräfte einen sofortigen Entwicklungs-Stopp für leistungsfähige KI-Modelle. Andernfalls riskiere man einen gesellschaftlichen Kontrollverlust.

Ein Artikel von

t-online

Tech-Multimilliardär Elon Musk fordert einen «unverzüglichen» Entwicklungs-Stopp von KI-Systemen, die leistungsfähiger sind als das umstrittene Sprachmodell GPT-4 der Firma OpenAI.

Musk verweist in einem von über 1000 IT-Fachleuten und Tech-Führungskräften unterzeichnete offenen Brief auf mögliche Risiken für die Gesellschaft hin, sollte die Entwicklung nicht sofort unterbrochen werden.

«Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten?»

Was steht in dem offenen Brief?

In dem in der Nacht auf Mittwoch publizierten Schreiben, das von mehr als 1000 KI-Fachleuten und Tech-Führungskräften unterzeichnet wurde, wird eine sechsmonatige Entwicklungspause gefordert. In dieser Zeit sollten Sicherheitsprotokolle für KI-Systeme entwickelt, umgesetzt und von unabhängigen Expertinnen und Experten geprüft werden.

«Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind», zitiert die Nachrichtenagentur Reuters aus dem Schreiben.

Weiter heisst es:

«Die KI-Forschung und -Entwicklung sollte sich neu darauf konzentrieren, die heutigen leistungsstarken, hochmodernen Systeme genauer, sicherer, interpretierbarer, transparenter, robuster, ausgerichteter, vertrauenswürdiger und loyaler zu machen.»

Wer hat den offenen Brief unterzeichnet?

Zu den Unterzeichnern gehören unter anderem Apple-Mitgründer Steve Wozniak, Bestseller-Autor Andrew Yang, Skype-Mitgründer Jaan Tallinn und DeepMind-Entwicklerin Victoria Krakovna.

Als Unterzeichner aufgeführt werden auch:

Wovor warnen die Unterzeichner?

In ihrem Dokument weisen die unterzeichnenden Personen auf die potenziellen Risiken für die Gesellschaft und die Zivilisation durch KI-Systeme hin. «Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten?», heisst es fragend.

Und weiter: «Sollten wir nichtmenschliche Geschöpfen entwickeln, die uns schliesslich zahlenmässig übertreffen, überlisten, obsolet machen und ersetzen könnten?» Es gehe um nicht weniger als um den Kontrollverlust über unsere Zivilisation, heisst es.

Erst vor wenigen Tagen hatte die EU-Polizeibehörde Europol davor gewarnt, dass Kriminelle Künstliche Intelligenz (KI) wie ChatGPT für Betrug und andere Cyberverbrechen nutzen werden.

Dies biete einen «düsteren Ausblick», heisst es in einem Bericht der europäischen Polizeibehörde mit Sitz in Den Haag. Die sich schnell entwickelnden Fähigkeiten von Chatbots würden künftig nicht nur genutzt, um die Menschheit zu verbessern – sondern auch, um sie zu betrügen.

Seit seiner Veröffentlichung im vergangenen Jahr hat das von Microsoft unterstützte ChatGPT des von Musk mitgegründeten US-Unternehmens OpenAI andere Unternehmen dazu veranlasst, die Entwicklung ähnlicher grosser Sprachmodelle (LLM) zu beschleunigen.

ChatGPT erstellt mithilfe von künstlicher Intelligenz Texte. Die User können einzelne Befehle oder Sätze vorgeben, die das System dann mithilfe von Unmengen von Daten aus dem Internet eigenständig ergänzt.

Quellen

(t-online/dsc)