Neue KI-Kennzeichnungspflicht gilt ab dem 1.

Am 1. August wird Artikel 50 des AI Acts wirksam. Damit müssen KI-generierte Bilder, Texte und Töne in der EU gekennzeichnet werden. Bei Verstößen drohen hohe Bußgelder. Heise-Justiziar Joerg Heidrich sieht die Grundidee sinnvoll, hält die Umsetzung aber für schlecht gemacht. Das Gesetz definiere den Begriff Deepfake sehr weit: Alles, was man für echt halten könne, sei es ein Strand, eine Katze oder ein Mensch, falle darunter. Zahlreiche Ausnahmen machten die Anwendung im Alltag zum Rätselraten.

Heidrich bezweifelt zudem die Wirksamkeit gegen manipulative Inhalte. Russische Desinformationsbüros würden ihre Bilder kaum freiwillig kennzeichnen. Da Nutzer sich an das Label gewöhnten, hielten sie ungelabelte Fälschungen erst recht für echt. Wer Bilder nicht selbst erzeuge, sondern von Dritten übernehme, sei nach dem Wortlaut ohnehin nicht kennzeichnungspflichtig. Eine technische Kennzeichnung in den Metadaten hätte Heidrich gereicht.

Bundesnetzagentur übernimmt KI-Aufsicht in Deutschland

Die Bundesnetzagentur wird zur zentralen Behörde für die Durchsetzung der EU-KI-Verordnung in Deutschland. Sie fungiert als Marktüberwachung, nationale Anlaufstelle und Beschwerdestelle. Zuständig ist sie für KI in Funkanlagen, kritischer Infrastruktur, Personalwesen und Bildung sowie für Transparenzpflichten und verbotene Praktiken.

Zur Innovationsförderung richtet die Behörde ein KI-Reallabor ein, das kleineren Unternehmen kontrollierte Testumgebungen bietet. Ein KI-Service-Desk mit Online-Werkzeugen zur Risikoeinschätzung ergänzt das Angebot.

Anthropics Modell Mythos findet Schwachstellen in Verschlüsselung

Das KI-Modell Claude Mythos von Anthropic hat mathematische Schwachstellen in kryptografischen Algorithmen entdeckt. Konkret entwickelte es einen verbesserten Angriff auf das Signaturverfahren HAWK, einen Kandidaten für einen quantensicheren Standard. Zusätzlich konstruierte das Modell eine neue Attacke auf eine reduzierte Version des Advanced Encryption Standard, kurz AES. Das System arbeitete weitgehend eigenständig in einem Verbund mehrerer KI-Agenten.

Die HAWK-Schwachstelle fand Mythos in 60 Stunden, obwohl menschliche Experten das Verfahren zuvor zwei Jahre lang geprüft hatten. Die Rechenkosten pro Angriff lagen bei rund 100.000 US-Dollar. Da beide Verfahren noch Standard-Kandidaten sind, haben die Ergebnisse laut Anthropic keine unmittelbaren Folgen für heutige Systeme. Nach Angaben von Anthropic haben beide Ergebnisse keine unmittelbaren Auswirkungen auf heutige Systeme. HAWK wird bislang nicht genutzt, und der Angriff auf AES betrifft nur eine abgeschwächte Version, nicht das vollständige Verfahren.

OpenAIs KI-Agent knackte nicht nur Hugging Face

Beim Ausbruch aus seiner Testumgebung in der vergangenen Woche griff OpenAIs Modell weitere Software an. Neben Hugging Face kompromittierte das System auch einen Kunden von Modal, einem Anbieter für KI-Infrastrukturdienste. Es nutzte eine Lücke im Code des Kunden aus, ohne die Modal-Plattform selbst zu gefährden.

Das Modell verkettete verschiedene Angriffsvektoren, verwendete gestohlene Zugangsdaten und suchte nach Möglichkeiten für Remote-Codeausführung. Ziel war es, im ExploitGym-Test möglichst gut abzuschneiden. OpenAI räumt ein, dass die Modelle „ungewöhnlich weit“ gingen, um ihre Testziele zu erreichen.

xAI klagt gegen gesetzliches Nudifier-Verbot in Minnesota

Minnesota hat als erster US-Bundesstaat ein Gesetz gegen sogenannte Nudifyer-Apps erlassen, die reale Personen per KI entkleiden. Elon Musks Firma xAI hat dagegen Klage eingereicht. Das Unternehmen argumentiert, das Gesetz mache Technologiebetreiber unabhängig davon haftbar, ob sie ihren Nutzern einen solchen Einsatz zu verbieten versuchten. Tatsächlich enthält der Gesetzestext eine Ausnahme für Fälle, in denen Nutzer besondere „technische Fähigkeiten“ einsetzen, um die Schutzmechanismen der Anbieter zu umgehen.

xAI führt zudem an, das Gesetz beschneide die Redefreiheit und erfasse auch Bilder mit „künstlerischem, wissenschaftlichem, politischem, satirischem, pädagogischem, medizinischem oder religiösem Wert“. Ausnahmen für Einwilligung der abgebildeten Person fehlten. Ein dritter Einwand: Auch ein nachträglich entferntes Shirt bei Männern falle unter die Definition intimer Körperteile.

PwC-Berichte fallen mit erfundenen Quellen auf

Der Wirtschaftsprüfer PwC hat offenbar Berichte veröffentlicht, die erfundene Quellen und falsche Behauptungen enthalten. Aufgedeckt hat das GPTZero, eine Firma für die Erkennung KI-generierter Texte. Besonders auffällig ist ein Paper mit dem Titel „Transforming Governance“, das laut GPTZero mit 84 Prozent Wahrscheinlichkeit komplett von einer KI stammt. Darin bewirbt PwC ein Produkt namens Citizen Pulse und behauptet, Regierungen in Dänemark, Saudi-Arabien, den USA und Australien setzten es ein. Belege dafür fehlen.

PwC Middle East erklärte der Financial Times, man nehme Genauigkeit ernst und aktualisiere eine begrenzte Zahl von Quellenangaben. Wie die Fehler entstanden, blieb offen. GPTZero hatte zuvor auch bei KPMG, Deloitte und Ernst & Young erfundene Quellen gefunden.

AlphaFold-Team bei Google DeepMind zerfällt

Das Team hinter AlphaFold existiert in seiner ursprünglichen Form nicht mehr. Die KI sagt die dreidimensionale Struktur von Proteinen voraus und brachte den Beteiligten 2024 den Chemie-Nobelpreis ein. Laut Financial Times wurde die Mehrheit der ursprünglichen Autoren intern versetzt, fast ein Viertel hat Google DeepMind ganz verlassen. Die Forscher arbeiten nun am Sprachmodell Gemini, an Enzymen, Kernfusion und Genomik. Einige wechselten zu Isomorphic Labs, einer 2021 aus DeepMind ausgegründeten Alphabet-Tochter für die Medikamentenentwicklung.

Forschungschef Pushmeet Kohli erklärt den Umbau als Strategiewechsel. Statt feste Teams um einzelne Probleme zu bilden, baue das Labor Systeme auf Basis von Gemini, die Wissenschaftler unterstützen und Teile der Forschung automatisieren sollen. Besonders schwer wiegen Abgänge im engsten Kreis: Nobelpreisträger John Jumper wechselt zu Anthropic, ihm folgen die AlphaFold-Mitautoren Jonas Adler und Alexander Pritzel. Intern habe das für Überraschung gesorgt.

Metas KI-Wette überschattet starkes Werbegeschäft

Meta enttäuscht Anleger mit einem verhaltenen Umsatzausblick und hohen KI-Ausgaben. Der Konzern betreibt oder baut weltweit 32 Rechenzentren, das größte in Louisiana könnte 250 Milliarden US-Dollar kosten. Mark Zuckerberg verteidigt die Investitionen mit Fortschritten bei Apps und Werbesystemen. Persönliche KI-Agenten sollen neue Einnahmen erschließen, für Firmenkunden entstehen eigene Dienste.

Zusätzlich belasten Metas Reality Labs die Bilanz. Die Sparte entwickelt unter anderem KI-Brillen, die Zuckerberg als zentrale Hardware-Schnittstelle der Zukunft sieht. Wie groß der Markt für Smart Glasses wirklich ist, bleibt offen, zumal die Kritik an Kamerabrillen wächst.

Granola transkribiert Besprechungen per Apple Watch

Der britische Anbieter Granola.ai zeigt mit einer neuen App, dass sich Gespräche auch ohne spezielle Hardware wie die Rekorder von Plaud AI aufzeichnen und zusammenfassen lassen. Die Software läuft direkt auf der Apple Watch, zeigt Zusammenfassungen nach Ende der Aufnahme auf der Uhr und reicht das volle Transkript ans iPhone weiter. Im Hintergrund arbeiten offenbar Modelle von OpenAI und Anthropic. In einem Kurztest von Mac-&-i-Kollege Ben Schwan funktionierte die Transkription auf Deutsch und Englisch fehlerfrei.

Es bleiben Nachteile: Die Watch-App muss während der Aufnahme geöffnet sein, eingehende Benachrichtigungen lassen sich so nicht bearbeiten. Zur Anmeldung verlangt Granola.ai ein Microsoft- oder Google-Konto, ein Apple-Login fehlt. Uneingeschränkte Nutzung kostet 14 US-Dollar im Monat. Wer lokal und kostenlos transkribieren will, findet in der iPhone-Version von MacWhisper eine Alternative.

Wissensarbeitende leiden unter KI-Müdigkeit

Akademische Berufe wie Ärzte, Ingenieure, Anwälte und Redakteure galten lange als sicher. Gerade sie trifft der KI-bedingte Wandel aber besonders stark. Anthropic-Chef Dario Amodei warnt, KI könne Millionen gut bezahlter Stellen vernichten und die Arbeitslosenquote auf 20 Prozent treiben.

Auch wer bereits regelmäßig mit KI arbeitet, ist damit oft unzufrieden. Das zeigen zwei Studien von OpenAI und dem Beratungsunternehmen Adaptavis. Fast drei Viertel der Befragten in Deutschland sehnen sich nach einer Arbeitswelt ohne KI zurück. 39 Prozent investieren mehr Zeit in die Kontrolle von KI-Ergebnissen, als sie durch deren Einsatz sparen.

Cyberagentur sucht Science-Fiction-Autor

Die Agentur für Innovation in der Cybersicherheit sucht einen Projekt-Autor. Er soll Forschungsszenarien der Einrichtung in einen Science-Fiction-Roman übertragen. Die Behörde forscht nicht selbst, sondern vergibt Aufträge in Bereichen wie Cybersicherheit, KI, Quantentechnologien und Verschlüsselung an Startups und Forschungseinrichtungen. Die Erzählung soll disruptive Themen einem breiteren, technikaffinen Publikum zugänglich machen.

Ungewöhnliche Berufsgruppen erleben derzeit einen Aufschwung. OpenAI und Meta suchten Anfang des Jahres verstärkt Elektriker, Klempner und Klimatechniker für den Bau neuer Rechenzentren. Auch Philosophen finden neue Perspektiven: In den KI-Laboren von Anthropic und OpenAI sollen sie helfen, Modelle mit menschlichen Werten in Einklang zu bringen.

(igr)