Tech & Society.

Eine neue arXiv-Studie führt das Konzept des „Narrative Anchoring“ ein: Große Sprachmodelle, die für klinisches Diagnoseschließen eingesetzt werden, verändern ihre Diagnosen allein aufgrund der Art und Weise, wie die Geschichte eines Patienten formuliert ist (soziolinguistisches Register) – selbst wenn jede klinische Tatsache konstant gehalten wird und in keiner Form ein demografisches Merkmal (Ethnie, Einkommen usw.) vorhanden ist. Die Forscher erstellten einen Datensatz aus 1.000 klinischen USMLE-Fallvignetten, von denen jede unter einer geprüften Faktenerhaltungsgarantie in drei verschiedene soziolinguistische Personas umgeschrieben wurde, und testeten sieben Modelle aus drei Architekturfamilien. Jedes einzelne Modell zeigte statistisch signifikantes Narrative Anchoring. Chain-of-Thought-Reasoning und explizite Anweisungen zur Vermeidung von Verzerrungen behoben das Problem nur teilweise, und scheinbare Verbesserungen entpuppten sich oft schlicht als Genauigkeitseinbruch. Der von den Autoren vorgeschlagene Lösungsansatz, NarrativeShield, ist eine dreistufige Agenten-Pipeline, die klinische Fakten strukturiert extrahiert und verifiziert, bevor das diagnostische Reasoning beginnt – das drückte die Verzerrung bei moderaten Genauigkeitseinbußen auf nahezu null. Ein aufschlussreicher Nebenbefund: Ob ein Modell eine Anweisung zur Vermeidung von Verzerrungen überhaupt umsetzen kann, hängt von seiner grundlegenden Fähigkeit ab, Anweisungen zu befolgen, nicht von der Formulierung des Prompts – das heißt, schwächeren Modellen kann man die Verzerrung nicht ausreden, egal wie die Anfrage formuliert ist. Für alle, die KI im Gesundheitswesen beobachten, ist dies eine Erinnerung daran, dass sich Forschung zur Bias-Minderung, die sich nur auf explizite demografische Marker konzentriert, einen subtileren und ebenso folgenreichen Kanal entgehen lassen könnte: schlicht, wie artikuliert oder umgangssprachlich ein Patient klingt.

Jack Clark von Import AI berichtet, dass Epoch AI und METR MirrorCode veröffentlicht haben, einen Benchmark, der testet, ob KI-Systeme ein Softwareprogramm allein anhand von Kommandozeilenzugriff vollständig neu implementieren können – ohne Quellcode, ohne Websuche. Da das Modell nicht ins Original hineinschauen kann, zwingt eine vollständige Neuimplementierung es dazu, die gesamte Programmstruktur zu entwerfen, statt Zeile für Zeile zu übersetzen. Die Ergebnisse sind bemerkenswert: Anthropics Opus 4.7 löste eine Aufgabe in 14 Stunden für 251 US-Dollar an Inferenzkosten – bei einem Programm, für das METR und Epoch schätzen, dass ein Mensch 2 bis 17 Wochen benötigen würde. Über 25 Zielprogramme hinweg – darunter Apples 61.000 Zeilen umfassende Konfigurationssprache pkl und ein 87.000 Zeilen umfassendes CSV-Tool – erzielten 17 mindestens einen Durchlauf mit perfekter Bewertung, und sowohl Opus 4.7 als auch GPT-5.5 implementierten erfolgreich ein 16.000 Zeilen umfassendes Phylogenetik-Tool in mehreren Programmiersprachen neu. Modelle von vor nur einem Jahr erreichten rund 30 % und konnten nur einfache Hilfsprogramme bewältigen. Der Benchmark ist noch nicht vollständig gelöst – ein Python-Linter (ruff), ein Mathematikpaket und eine E-Mail-Authentifizierungsbibliothek stellten jedes Modell wiederholt vor Probleme –, aber Clark argumentiert, dass die tiefere Bedeutung nicht nur in der Programmierfähigkeit liegt: Es zeigt, dass sich KI-Systeme rein durch Input-Output-Interaktion an eine unbekannte Umgebung „selbst orientieren“ können, was seiner Ansicht nach auf Systeme hindeutet, die neue Fähigkeiten allein durch Blackbox-Zugriff auf die Welt um sie herum aufbauen könnten.

Jack Clark von Import AI hebt zwei Datenpunkte hervor, die darauf hindeuten, dass die „bittere Lektion“ – dass generisches Skalieren maßgeschneidertes Engineering schlägt – nun auch die Robotik erreicht. Anthropics eigenes Experiment Project Fetch ergab, dass Claude Opus 4.1 im August 2025 einen vierbeinigen Roboter überhaupt nicht dazu bringen konnte, intelligente Aufgaben auszuführen, und Menschen, die das Modell zur Unterstützung nutzten, nur etwa doppelt so schnell waren wie jene ohne – sie brauchten 181 Minuten, um einen Aufgabensatz abzuschließen. Bis Mai 2026 erledigte das neuere Modell Opus 4.7, das vollständig autonom und ohne jegliches spezielles Robotik-Training agierte, nahezu den gesamten Aufgabensatz in 9 Minuten und 35 Sekunden – rund 20-mal schneller. Anthropic stellt unumwunden fest, dass dieser Sprung nicht das Ergebnis eines robotikspezifischen Aufwands war, sondern schlicht „aus wesentlich allgemeinerem Skalieren hervorging“. Getrennt davon berichtet das Robotik-Startup Sunday über dasselbe Muster mit seinem ACT-2-Modell: Die Kombination eines starken vortrainierten Basismodells mit einer kleinen Menge hochwertiger, hausintern erstellter Tuning-Daten generalisiert weit besser auf unbekannte häusliche Umgebungen, als für jedes einzelne Szenario Daten von Hand zusammenzustellen. Sundays wäschefaltende Roboter erreichten bei 778 Faltvorgängen und neun Kleidungstypen eine Erfolgsquote von 99,1 %, und das Unternehmen plant, sie diesen Herbst bei echten Familien einzusetzen. Die wirtschaftliche Implikation, auf die beide Berichte hindeuten: Wenn sich Fortschritte bei allgemeiner Intelligenz weiterhin in Roboterkompetenz übersetzen lassen

Ein neuer arXiv-Benchmark namens PAUSE testet persönliche KI-Assistenten in realistischen „einheitlichen Serviceumgebungen“ – Szenarien, in denen ein Agent den persistenten Nutzerzustand verfolgen, nutzerspezifische Berechtigungen und Konfigurationen respektieren und lange, einschränkungsbewusste Interaktionen über mehrere verknüpfte Dienste hinweg aufrechterhalten muss, statt nur einzelne, isolierte Tool-Aufrufe auszuführen. Die Forscher stellten fest, dass selbst hochmoderne proprietäre Modelle bei Szenarien, die diese Art von zustandsbehaftetem Reasoning und Konfigurationsbewusstsein erfordern, keine 70 % Aufgabenerfüllung erreichen, mit konsistenten, interpretierbaren Fehlermustern. Ein ergänzender, diese Woche veröffentlichter Benchmark, LayerRAG-Bench, macht einen komplementären Punkt zu agentischen Retrieval-Systemen im Allgemeinen: Das Beheben einer fehlerhaften Schicht (etwa Schema-Diskrepanzen, bei denen die Erfolgsquote durch Normalisierung von 0 % auf über 91 % sprang) bewirkt nichts gegen andere Fehlermodi wie veraltete Belege, fehlende Tool-Ausgaben, verweigerte Berechtigungen oder falschen Sitzungskontext – und die Bewertung allein danach, ob eine Antwort „fundiert aussieht“, erzeugt viele falsch-positive Ergebnisse. Zusammengenommen sind diese Erkenntnisse ein nützliches Korrektiv zum Hype um agentische KI-Assistenten: Die schwierigeren Teile beim Einsatz von Agenten in echten, berechtigungsbasierten Multi-Service-Umgebungen – genau die Art von Infrastruktur, die jede Organisation für KI-gestützte Workflow-Automatisierung bräuchte – bleiben weitgehend ungelöst, und Korrekturen wirken tendenziell eng begrenzt statt universell.

Eine umfangreiche empirische Studie auf arXiv untersucht, ob LLMs die emotionale Rahmung von Nachrichtenüberschriften über politische und geopolitische Konflikte so wahrnehmen, wie Menschen es tun. Die Forscher befragten über YouGov eine demografisch repräsentative Stichprobe der erwachsenen Bevölkerung des Vereinigten Königreichs (n=3.011), ob Überschriften Sympathie für eine bestimmte Seite in einem Konflikt hervorriefen, und verglichen die Antworten mit denen von sieben LLMs, denen dieselben Prompts vorgelegt wurden. Die Korrelation mit dem menschlichen Urteil reichte von sehr hoch bei GPT-5.2 (0,789) bis mittel bei Mistral Large 2512 (0,4). Die führenden Modelle stimmten über Altersgruppen, Geschlecht, Bildungsniveau, geopolitisches Vorwissen und die eigenen Vorprägungen der Menschen zum jeweiligen Konflikt hinweg weitgehend mit menschlichen Urteilen überein – doch die Studie betont, dass diese „breite Übereinstimmung“ statistisch signifikante Unterschiede zwischen demografischen Untergruppen verdeckte. Die Autoren argumentieren, dass dies über eine einfache Verzerrungsdebatte hinausgeht: Da LLMs zunehmend vermitteln, wie Menschen Nachrichten wahrnehmen und sich Meinungen zu umstrittenen Konflikten bilden, kann eine Übereinstimmung, die in der Gesamtbetrachtung stark erscheint, dennoch die emotionale Wahrnehmung bestimmter Gruppen zu denselben Inhalten unter- oder überrepräsentieren – mit realen Auswirkungen darauf, wie fair KI-vermittelter Medienkonsum verschiedene Zielgruppen behandelt.

Eine arXiv-Fallstudie zu „Model Merging“ – der Praxis, separat feinabgestimmte Modelle ohne weiteres Training zu kombinieren, was zunehmend beliebt ist, weil es günstig ist – findet eine besorgniserregende Asymmetrie, wenn sicherheitsrelevante Verhaltensweisen zusammengeführt werden. Die Forscher nahmen ein Gemma-3-1B-Modell, das für nuancierte Schadensgrad-Klassifizierung feinabgestimmt wurde (CARES), und ein weiteres, das für die Verweigerung adversarialer Jailbreaks feinabgestimmt wurde (WildJailbreak), und führten sie mit vier gängigen Methoden zusammen (Linear, SLERP, TIES, DARE-TIES). Bei jeder Methode dominierte das Verweigerungsverhalten: Die zusammengeführten Modelle behielten 81–85 % ihrer Jailbreak-Verweigerungsfähigkeit, während ihre Genauigkeit bei der Schadensklassifizierung auf höchstens 12,9 % einbrach. Die Ursache lag nicht darin, dass die beiden Fähigkeiten sich richtungsmäßig widersprachen – ihre zugrunde liegenden Task-Vektoren waren nahezu orthogonal –, sondern darin, dass das Verweigerungs-Fine-Tune systematisch größere Gewichtsänderungen erzeugte, sodass magnitudensensitive Merge-Methoden die subtilere Klassifizierungsfähigkeit schlicht überschrieben. Die praktische Erkenntnis für alle, die KI-Sicherheitssysteme bauen oder prüfen: Das kostengünstige Zusammenführen von Modellen zur Kombination von Fähigkeiten kann ein System, das eigentlich nuancierte Unterscheidungen über Schaden treffen soll, stillschweigend in eines verwandeln, das nur noch reflexartig verweigert – ohne jeden Hinweis darauf, dass dieser Trade-off stattfindet.

Im Podcast Tech & Tales spricht Nicole Büttner – Partnerin beim europäischen, auf KI fokussierten VC-Fonds Merantix Capital und Gründerin der KI-Implementierungsfirma Merantix Momentum – über den Zustand des KI-Unternehmertums in Deutschland und Europa, kurz nachdem sie einen neuen Fonds abgeschlossen hat, trotz eines für viele Fonds zuletzt schwierigen Fundraising-Umfelds. Büttner sagt, die Mehrheit der Pitch-Decks, die sie sieht, sei inkrementell: agentische KI angewandt auf Beschaffung, Buchhaltung und andere Workflow-Optimierungen, die bestehende Prozesse nur geringfügig schneller oder günstiger machen. Was sie als Investorin persönlich begeistert, sind Gründer, die bereit sind, einen ganzen Sektor neu zu denken, statt einen bestehenden Prozess zu optimieren – sie nennt ein Portfoliounternehmen, das den Strommarkt neu erfindet, indem es einen neuen Energieanbieter aufbaut statt eines Workflow-Tools zum Energieeinkauf, sowie OVOM, ein Startup, das Kinderwunschkliniken von Grund auf neu aufbaut. Zum Thema Fertilität argumentiert sie, dass der Sektor unter dünnen, schlecht standardisierten Gesundheitsdaten leidet (Fertilität wird oft als Nischen-„Frauenthema“ behandelt und auf simple altersbasierte Regeln reduziert), unter der emotionalen Isolation, die Patientinnen während der Behandlung erleben, sowie unter Einschränkungen der Arbeitsproduktivität in einem Sektor mit sehr wenigen Spezialisten – alles Bereiche, in denen sie KI als gleichzeitige Lösung sieht. Auf die Frage, ob europäische Gründer angesichts strengerer Regulierung und Datenschutzvorschriften wirklich mit den USA konkurrieren können, antwortet sie mit Ja und verweist auf Kliniken, die bereits innerhalb einwilligungsbasierter Rahmenwerke arbeiten. Das übergeordnete Argument: Europas KI-Chance hängt weniger vom Vorhandensein starker KI-Forschung ab (die es gibt) als vielmehr davon, dass sich Unternehmer dafür entscheiden, ambitionierte neue Unternehmen aufzubauen, statt alte lediglich inkrementell zu automatisieren.