Просмотр новости
Найдите то, что Вас интересует
Спутники
РН
SpaceX
Роскосмос
NASA
СпутникиРНSpaceXРоскосмосNASADer Fall um den gekündigten Anthropic-Entwickler Jacob Coxon zeigt, welche Risiken mit immer autonomeren KI-Systemen bereits heute verbunden sind.
Der Fall um den gekündigten Anthropic-Entwickler Jacob Coxon zeigt, welche Risiken mit immer autonomeren KI-Systemen bereits heute verbunden sind.
Ende vergangener Woche hat ein junger Forscher aus dem Silicon Valley einen Satz in die Welt gesetzt, der binnen weniger Stunden millionenfach gelesen wurde. Jacob Coxon, gerade einmal 27 Jahre alt, kündigte seinen Job beim Unternehmen Anthropic und schrieb dazu, dass schon bald Systeme entstehen könnten, die dem Menschen in vielem überlegen sind, sich in beliebige Computer hacken, ganze Branchen über Nacht umkrempeln und sich eigenständig Macht und Mittel verschaffen können.
Was zunächst nach Science-Fiction klingt, sollte Sie nachdenklich stimmen, denn es reicht weit über die Technikwelt hinaus.
Prof. Dr. Dennis-Kenji Kipker forscht und berät als Direktor des cyberintelligence.institute international zu Cybersicherheit, digitaler Resilienz sowie IT-Recht in China und den USA. Er ist Teil unseres Expertennetzwerks EXPERTS Circle.
Coxon ist kein außenstehender Kritiker, sondern jemand, der die Materie von innen kennt. Er hat zunächst bei OpenAI und danach bei Anthropic an neuen KI-Modellen mitgearbeitet, wobei er sich für Anthropic bewusst wegen dessen Ruf als sicherheitsbewusstes Unternehmen entschieden hatte.
Genau diese Erfahrung hat ihn zu dem Schluss gebracht, dass beide Firmen in einen Wettlauf um immer leistungsfähigere, sich selbst verbessernde Systeme geraten sind, aus dem keine aussteigen will, solange sie fürchtet, die andere ginge sonst noch riskanter voran. Bemerkenswert ist, dass ein aktuell bei Anthropic beschäftigter Sicherheitsforscher seine Warnung öffentlich bestätigt hat.
ANZEIGE
ANZEIGE
Dass leistungsfähige KI künftig auch für Cyberangriffe genutzt wird, ist keine reine Zukunftsangst mehr. Erst im Sommer sind testweise eingesetzte KI-Programme eines Anbieters aus ihrer abgesicherten Testumgebung ausgebrochen und in die Systeme einer bekannten Plattform eingedrungen, wo sie tagelang unbemerkt blieben.
Die eigentliche Sorge reicht jedoch tiefer, denn sie betrifft weniger die Angriffe selbst als den Umstand, dass solche Systeme zunehmend in Umgebungen laufen, in denen kaum noch jemand in Echtzeit nachvollziehen kann, was dort geschieht. Je selbstständiger der Einsatz wird, desto mehr verlieren wir schleichend die Fähigkeit, die Technik wirklich zu überwachen.
Handeln die großen Technologiekonzerne also unverantwortlich? Die Antwort fällt differenzierter aus, als es die zugespitzte Warnung vermuten lässt. Anthropic wirbt seit Jahren für Mechanismen, mit denen sich die Entwicklung im Ernstfall bremsen ließe, und über tausend Beschäftigte großer Labore haben die amerikanische Regierung bereits um abgestimmte Regeln gebeten.
Gleichzeitig stehen dieselben Unternehmen unter enormem wirtschaftlichem Druck durch gigantische Investitionen und anstehende Börsengänge, sodass Sicherheit dem Tempo leicht untergeordnet wird. Es geht also weniger um vorsätzliche Verantwortungslosigkeit als um ein strukturelles Dilemma, dem sich kein Unternehmen allein entziehen kann.
Neben Kontrollverlust und Cybergefahren gibt es eine dritte, leiser wirkende Bedrohung, die Sie persönlich betrifft. Je mehr Denkarbeit an KI ausgelagert wird, desto weniger üben Menschen die entsprechenden Fähigkeiten noch selbst, und über die Jahre droht jenes Erfahrungswissen zu verkümmern, das Fachkräfte über Jahrzehnte aufgebaut haben.
Am Ende könnte kaum noch jemand die Ergebnisse einer KI wirklich fachlich prüfen oder im Zweifel selbst ersetzen, weil dieses Wissen schlicht fehlt. Wer beruflich regelmäßig KI nutzt, tut daher gut daran, die eigene Urteilsfähigkeit bewusst zu pflegen, anstatt sie stillschweigend zu verlernen.
Bei der Frage, ob KI die Menschheit tatsächlich auslöschen könnte, sind sich selbst Fachleute uneinig. Manche Sicherheitsforscher, darunter der erwähnte Anthropic-Mitarbeiter, halten ein katastrophales Szenario innerhalb des kommenden Jahrzehnts für real möglich und nennen dafür Wahrscheinlichkeiten im zweistelligen Prozentbereich.
Andere halten dagegen, dass es dafür bislang keine belastbaren Beweise gibt und dass drastische Formulierungen auch dabei helfen, die eigene Technik als besonders mächtig darzustellen. Realistischer als ein plötzlicher Weltuntergang erscheinen daher die kleineren, bereits heute messbaren Risiken wie Kontrollverlust, Cyberangriffe und schwindende menschliche Kompetenz.
Ganz hilflos sind wir dieser Entwicklung nicht ausgeliefert. Neben freiwilligen Sicherheitsschwellen und ersten staatlichen Prüfrahmen wird zunehmend über Meldepflichten sowie eine lückenlose Überwachung von KI im laufenden Betrieb diskutiert, nicht nur vor deren Veröffentlichung.
Ebenso wichtig wäre Forschung, die nachvollziehbar macht, warum ein System eine Entscheidung trifft, damit Fehlentwicklungen rechtzeitig auffallen. Für Sie persönlich bedeutet das vor allem, KI als hilfreiches Werkzeug zu nutzen, ohne dabei das eigene Denken und Nachfragen aufzugeben. Genau darin liegt am Ende der Unterschied zwischen einer Technik, die uns dient, und einer, der wir blind ausgeliefert sind.