Anthropic warnt vor existenziellen Gefahren künstlicher Intelligenz
Der Claude-Entwickler sieht ohne Schutzmaßnahmen und menschliche Aufsicht katastrophale Risiken für die Menschheit.
Am 26. Oktober 2026 hat das US-amerikanische Unternehmen Anthropic, das den Chatbot Claude entwickelt, in Unterlagen vor seinem geplanten Börsengang vor einer möglichen katastrophalen und existenziellen Gefahr durch künstliche Intelligenz für die Menschheit gewarnt. Darüber berichtet die BBC.
In den eingereichten Unterlagen zum geplanten Börsengang an der Nasdaq betonte die Unternehmensleitung, dass fortgeschrittene KI-Systeme ohne strenge Kontrolle, angemessene Sicherheitsvorkehrungen und Aufsicht eine tödliche Gefahr für Menschen darstellen könnten.
Die größten Gefahren liegen demnach in einem möglichen Missbrauch der Technologien, ihrem Einsatz als autonome Waffen oder einer so weitgehenden Selbstständigkeit der Systeme, dass sie ohne menschliche Kontrolle handeln können.
Entsprechende Bedenken wurden sowohl von Fachleuten innerhalb des Unternehmens als auch von unabhängigen Forschern und Regulierungsbehörden geäußert. Experten und ehemalige Beschäftigte der Branche warnten, dass die Entwicklung leistungsfähiger künstlicher Intelligenz schneller voranschreite als die Entwicklung von Schutzmechanismen, die die Gesellschaft vor schädlichen Handlungen autonomer Agenten bewahren könnten.
Zuvor hatte die UOJ berichtet, dass Elon Musk vor der Gefahr superintelligenter KI für die Menschheit gewarnt hatte.
