„Die Welt ist in Gefahr“: Sicherheitschef von Anthropic tritt zurück
Die meisten Menschen haben noch nie von Mrinank Sharma gehört. Das ist Teil des Problems.
Anfang dieses Monats trat Sharma von Anthropic zurück, einem der einflussreichsten Unternehmen für künstliche Intelligenz weltweit.
Er hatte das Safeguards Research Team geleitet, die Gruppe, die dafür verantwortlich war, sicherzustellen, dass die KI von Anthropic nicht zur Entwicklung biologischer Waffen missbraucht werden konnte.
Sein Abschlussprojekt war eine Studie darüber, wie KI-Systeme die Wahrnehmung der Realität durch den Menschen verzerren. Es war eine ernsthafte, für die Menschheit bedeutsame Arbeit.
Sein Rücktrittsschreiben wurde auf X mehr als 14 Millionen Mal angesehen.
Es begann mit den Worten: „Die Welt ist in Gefahr.“
Und es endete mit einem Gedicht und der Ankündigung, dass er einen der bedeutendsten Jobs im Bereich der künstlichen Intelligenz aufgeben würde, um ein Poesie-Studium zu absolvieren. Ja, Sie haben richtig gelesen: Gefahr und Poesie.
Das Gedicht, das er zitierte, ist „The Way It Is“ des amerikanischen Dichters William Stafford.
Es handelt von einem Faden, der sich durch ein Leben zieht – ein Faden, der sich zwischen den Dingen bewegt, die sich verändern, selbst aber unverändert bleibt. Solange man ihn festhält, kann man sich nicht verirren. Tragödien geschehen. Menschen leiden und werden alt. Die Zeit vergeht, und nichts kann sie aufhalten. Und die letzte Zeile: Man darf den Faden niemals loslassen.
Obwohl er es nicht ausdrücklich gesagt hat, behaupte ich, dass dieser rote Faden die Moral ist. Es ist das beständige Gefühl, dass manche Dinge richtig und andere falsch sind – nicht weil es ein Gesetz so vorschreibt und nicht weil es profitabel ist, sondern weil Menschen, wenn sie ihr Bestes geben, dies einfach schon immer gewusst haben.
Sharma verbrachte zwei Jahre damit, zu beobachten, wie dieser Faden unter Druck gelöst wurde, in Räumen, die der Öffentlichkeit nie gezeigt werden.
In seinem Brief stand:
„Während meiner gesamten Zeit hier habe ich immer wieder gesehen, wie schwer es ist, unser Handeln wirklich von unseren Werten leiten zu lassen.
„Ich habe dies bei mir selbst beobachtet, innerhalb der Organisation, wo wir ständig unter Druck stehen, das Wichtigste beiseite zu schieben, und auch in der Gesellschaft insgesamt.“
Er schrieb, dass die Menschheit sich einer Schwelle nähert, an der „unsere Weisheit in gleichem
Maße wachsen muss wie unsere Fähigkeit, die Welt zu beeinflussen, damit wir nicht mit den Konsequenzen konfrontiert werden.“
Er wollte einen Beitrag leisten, der seiner Integrität voll und ganz entsprach, und sich dem widmen, was er als „die Praxis der mutigen Rede“ bezeichnete.
Ein Mann, der Abwehrmaßnahmen gegen Bioterrorismus entwickelt hatte, kam zu dem Schluss, dass das Wichtigste, was er als Nächstes tun konnte, darin bestand, zu lernen, ehrlich und mutig zu sprechen.
Das ist ein wichtiges Signal dafür, was hinter verschlossenen Türen in der KI-Forschung und -Entwicklung vor sich geht.
Viele Experten haben die Entwicklung der KI mit der Entwicklung der Atombombe verglichen. Das Manhattan-Projekt wurde unter absoluter Geheimhaltung durchgeführt. Die Öffentlichkeit wusste nichts davon, hatte kein Mitspracherecht hinsichtlich seiner Verwendung und auch keinen Einfluss darauf, was danach geschah. Als es vorbei war, verbrachten einige der Wissenschaftler, die daran mitgearbeitet hatten, den Rest ihres Lebens in Qualen. Mehrere von ihnen stiegen noch während des Projekts aus.
Sharma war nicht allein. Zahlreiche Sicherheitsforscher haben KI-Projekte mehrerer Unternehmen verlassen. Diese Abgänge sind möglicherweise die einzigen Signale, die wir als Öffentlichkeit erhalten, da fast alles andere, was die KI-Entwicklung betrifft, außerhalb der öffentlichen Wahrnehmung stattfindet. Die internen Debatten, die Kompromisse in Sachen Sicherheit, die Verhandlungen darüber, was diese Technologie leisten darf und was nicht – nichts davon wird mit den Menschen geteilt, deren Leben sie am stärksten beeinflussen wird. Wir sind nicht Teil dieser Diskussion. Uns werden die Ergebnisse präsentiert und wir sollen uns daran anpassen.
John Adams schrieb, dass die Verfassung nur für ein moralisches und religiöses Volk geschaffen wurde und für alle anderen völlig ungeeignet ist. George Washington warnte, dass Freiheit den Verlust gemeinsamer moralischer Prinzipien nicht überleben kann. Die Gründerväter studierten den Zusammenbruch von Republiken im Laufe der Geschichte und kamen zu dem gleichen Schluss: Die Maschinerie der Freiheit benötigt ein moralisches Volk, um sie aufrechtzuerhalten. Gesetze und Institutionen allein reichen nicht aus. Sie sind abhängig von Bürgern und Führern, die sich an etwas halten, das vor dem Gesetz und über ihm steht.
Das ist der rote Faden der menschlichen Gesellschaft, und kein KI-System hält daran fest. Wenn Menschen zulassen, dass KI die Frage nach Recht und Unrecht durch die Frage nach Legalität und Zulässigkeit ersetzt, wird die Maschine diese Maßstäbe in einem Ausmaß und einer Geschwindigkeit vorantreiben, mit denen keine vorherige Generation jemals zu kämpfen hatte.
Am Ende seines Rücktrittsschreibens schrieb Sharma: „Lassen Sie den Faden niemals los.“
Wir stehen an einem Scheideweg, der dem ähnelt, vor dem die Atomwissenschaftler standen.
Sharmas Rücktritt war ein Signal.
Die Welle der Abgänge davor und danach sind Signale.
Die gemeldeten Spannungen zwischen KI-Unternehmen und der Regierung darüber, wo moralische Grenzen gezogen werden sollten, sind ebenfalls Signale.
Gemeinsam weisen sie auf etwas hin, worüber die Öffentlichkeit noch nicht ausreichend informiert wurde: Die wichtigsten Fragen zu dieser Technologie werden ohne uns geklärt, und die Moral, die immer von den Menschen freiwillig vertreten werden musste, muss Teil dieser Diskussion sein.
"The World Is In Peril": Anthropic's Safety Boss Quits | ZeroHedge
![[smilie_love]](https://goldseiten-forum.com/wcf/images/smilies/smilie_love_004.gif "smilie_love"){kind=small}
