Sechs bis zwölf Monate, dann gehört das Internet den Agenten?

📰 Das Wichtigste zuerst

• Amodei macht die Bremse offiziell: „We Must Pace the Frontier“Rund 3.800 Wörter vom 12.09. mit einer Kernforderung: Die Branche müsse den Fähigkeitszuwachs bewusst um ein bis zwei Jahre strecken. Dazu ein einseitiger erster Schritt — Anthropic gibt externen Prüfern dauerhaften Zugang auf Mitarbeiter-Niveau. Der Satz, der durch alle Redaktionen ging, ist die Warnung vor Schwärmen entlaufener Agenten, die in „sechs bis zwölf Monaten“ das gesamte Internet übernehmen könnten.
• Altman zieht binnen Stunden nach — und Musk auch„I agree with Dario that we need to pace the frontier“: OpenAI übernimmt das Modell der unabhängigen Evaluatoren mit Zugang auf Mitarbeiter-Niveau und nennt als die zwei Wege, wie es schiefgehen kann, Kontrollverlust und Machtkonzentration. Das ist die öffentliche Version dessen, was vergangene Woche noch ein internes Signal war.
• Trump lehnt ab und watscht Amodei namentlich abKeine neuen Auflagen, weiter Tempo und Rechenzentren. Die Regierungslinie hat sich seit vergangener Woche nicht bewegt, nur die Adressierung ist persönlicher geworden.
• Sanders und Bannon stehen gemeinsam auf einer Bühne gegen SuperintelligenzBei der Pro-Human Assembly in Washington kündigt Sanders ein Gesetz zum dauerhaften Verbot künstlicher Superintelligenz an und vergleicht die Risiken mit Atomwaffen. Das eigentlich Bemerkenswerte ist die Koalition.
• OpenAI stellt sich hinter den FRONTIER Act: externe Sicherheitsaudits per GesetzDer überparteiliche Entwurf aus dem Repräsentantenhaus würde große Frontier-Entwickler zu unabhängigen Audits, Transparenzberichten und Incident-Meldungen verpflichten. Nicht zu verwechseln mit dem Senatsentwurf von Klobuchar, Cruz und Thune zu biologischen und nuklearen Risiken.
• Musk schlägt gegenseitige Sicherheitstests zwischen US- und China-Labs vorVor dem Release soll jede Seite ein standardisiertes Test-Harness auf die Modelle der Konkurrenz laufen lassen, abgesichert über Haftung. Der Charme des Vorschlags: Er kommt ohne Vertrauen aus.
• Anthropic wirft Moonshot AI verdeckte Distillation über 5.380 Fake-Accounts vorRund 300.000 Anfragen sollen heimlich an Claude Opus geroutet und als eigene Leistung ausgegeben worden sein. Der Streit ums Abkupfern von Modellen bekommt damit erstmals konkrete Zahlen.
• Shanghai AI Lab veröffentlicht Atria Dawn, ein 744B-Agenten-MoEAuf GLM-5.2 aufgebaut und über eine Pipeline trainiert, die Tool-Nutzung in ausführbaren Umgebungen erdet; Spitzenwerte auf fünf von sechzehn Benchmarks — also stark, aber nicht flächendeckend.
• SemiAnalysis misst Vera Rubin: 7× mehr Token pro Megawatt als BlackwellAn DeepSeek V4 Pro gemessen 59,4 Mio. Token pro Sekunde je Megawatt gegen 28,5 Mio. bei GB300 — deutlich über dem Faktor 3, den Jensen Huang öffentlich behauptet hatte. Ausnahmsweise eine Messung, die das Marketing schlägt statt umgekehrt.
• Meta plant MTIA 450 für die erste Jahreshälfte 2027Dritte Generation des Eigenbau-Beschleunigers mit etwa doppelter HBM-Bandbreite, versprochen sind rund 44 Prozent geringere Gesamtkosten gegenüber GPUs — Herstellerzahl, kein unabhängiger Vergleich.
• Salesforce und Nvidia zeigen Koa, ein CRM-Reasoning-Modell auf NemotronPost-Training von Nemotron 3 Super auf einem synthetischen Datensatz aus knapp drei Jahrzehnten CRM-Deployments, laut eigenem Benchmark dreimal weniger Fehler bei CRM-Aktionen. Pilotkund:innen jetzt, allgemein verfügbar im Winter 2026, und ausdrücklich ohne Kundendaten im Training.
• Dreamforce-Auftakt: Agentforce wandert in Siemens' Service-LifecycleKopplung an Teamcenter, damit Industriekonzerne Vertrieb und Service mit Agenten fahren. Interessant ist weniger die Technik als der Ort: Agenten ziehen in die Systeme, in denen die Industrie ihre Stammdaten hält.
• Anthropic kürzt die Claude-Code-Wochenlimits faktisch um 17 ProzentDer seit Mai laufende 50-Prozent-Sommerbonus lief am 13.09. aus, am 14.09. griff die „permanente 25-Prozent-Erhöhung“. Gegenüber der Basis vor Mai ist das mehr, gegenüber dem, was Pro-, Max- und Team-Nutzer:innen zuletzt hatten, rund 17 Prozent weniger.
• Das Handelsministerium zwang Kalshi, sein KI-Compute-Futures-Produkt zu streichenDie Preiskurve für GPU-Mietkosten ist offline, dazu ein 60-Tage-Stopp neuer Compute-Kontrakte bei der CFTC; das Ministerium nennt die Darstellung schlicht falsch. Hier geht es nicht um Wett-Odds, sondern darum, dass ein öffentlicher Preis für Rechenleistung offenbar unerwünscht ist.
• TabPFN-3.5 setzt sich an die Spitze der Tabellen-BenchmarksTabellen-Foundation-Model, das nativ auf eine Million Zeilen skaliert; die Fast-Variante rechnet 1.000 Zeilen in 0,17 Sekunden. Für alle, die mit CSV statt mit Text arbeiten, die relevantere Meldung der Woche.
• Südkorea schreibt einen Sicherheitsleitfaden für agentische KIDie Behörde KISA arbeitet an einer Checkliste für Audit-Trails, menschliches Eingreifen und Verantwortlichkeit — angestoßen unter anderem vom Hugging-Face-Vorfall im Juli.
• Anthropic-Mitgründer Jack Clark wirbt für verifizierbare Notaus-SchalterAbschaltmechanismen für gefährliche Modelle gehörten in die Hand des Gesetzgebers und müssten durch Dritte überprüfbar sein — statt „Stecker ziehen“ im Ermessen der Labs.

📅 Kurz notiert – was kommt

• 24. September: Trump trifft Xi, KI steht auf der AgendaGary Marcus legt dazu im Economist eine Strategie vor, die nicht auf Chip-Deals, sondern auf Kooperation bei „AI for good“ setzt.
• 30. September: Stichtag für das Nutzungsguthaben bei „Claude for Financial Services“Beratungsfirmen müssen bis Monatsende einen Enterprise-Plan aufsetzen.
• 60 Tage ab jetzt: Stopp für neue Compute-Kontrakte bei der CFTC
• Winter 2026: Salesforce Koa wird allgemein verfügbar, zunächst in US-Regionen
• Erste Jahreshälfte 2027: Metas MTIA 450
• 2028: Euclyds „craftwerk“-Silizium und die angekündigte „exascale AI factory“Bis dahin ist die 200-Millionen-Runde ein Versprechen, kein Chip.
• Bis 30. November: Canva World Tour mit kostenlosem AI-Essentials-ZertifikatDetails unten in den Tools.

🛠 Tools der Woche

Google hat sich die Woche zur Hälfte genommen: Gemini arbeitet quer durch Workspace und liegt als Desktop-App über Windows. Daneben ein Koordinator-Agent bei Cursor, der selbst Agenten anheuert, Agenten nach Stundenplan in VS Code und als benannte Teilnehmer im Slack-Kanal.

• Gemini arbeitet jetzt quer durch Workspace — egal, in welcher App du gerade steckstAus Gmail heraus ein fertig formatiertes Doc, Sheet oder Deck erzeugen lassen; aus Docs heraus eine Mail schreiben und verschicken; aus Chat heraus einen Termin legen; aus Slides eine Aufgabe in Google Tasks werfen. Für alle, deren Arbeitstag zu einem guten Teil aus Tabwechseln besteht. So geht's: Seitenpanel öffnen und die ganze Aufgabe formulieren, statt sie in Etappen zu zerlegen — etwa „Mach aus diesem Angebot ein gut lesbares Deck für meine Chefin“. Bei allem, was nach außen geht, zeigt Gemini erst eine Vorschaukarte zum Freigeben. Rollout seit 02.09., Business Standard aufwärts und Google AI Pro. Zum Start nur Englisch, Deutsch kommt später.
• ChatGPT Images 2.5: eine gekritzelte Skizze reicht als VorlageIn der letzten Ausgabe als Kurzmeldung, hier die Praxisseite. Das Modell ändert beim Bearbeiten wirklich nur das, worum du gebeten hast, auch über mehrere Runden. Mit @Sketch kritzelst du Raumaufteilung oder Plakat-Layout direkt im Chat und schreibst Stil und Details dazu; für Flyer lieber mit dem Template „Poster“ starten als mit leerer Leinwand, und beim Nachbessern einen Kommentar an die Stelle setzen, statt den Prompt neu zu formulieren. Für alle Stufen. Wichtig für Kundenarbeit: Die Bilder tragen C2PA-Metadaten und ein unsichtbares Wasserzeichen.
• Cursor Projects: ein Koordinator-Agent, der selbst Agenten anheuertIn der letzten Ausgabe kurz gemeldet, hier steht, was man damit macht. Ein Projekt ist ein Arbeitspaket über Wochen; der Koordinator plant, verteilt an Sub-Agenten und legt das Ergebnis zum Prüfen hin, auf einer eigenen Cloud-Maschine. Der eigentliche Gewinn ist der geteilte Kontext: Findet ein Agent heraus, wie man einen Service testet, wissen es alle folgenden. Dazu Subscriptions — den Koordinator einen Slack-Kanal beobachten, nach Zeitplan laufen oder deinen PRs folgen lassen. Klassiker: Bug-Report-Kanal anbinden, jeder eingehende Bug wird automatisch verteilt. Beta, rollt für alle aus.
• VS Code 1.137: Agenten nach Stundenplan — und Voice ModeAutomations in Public Preview: wiederkehrende Agent-Tasks, die stündlich, täglich oder wöchentlich laufen. Für Wartungsarbeit, für die sich kein eigener CI-Job lohnt — Abhängigkeiten prüfen, Changelog pflegen, Lint-Schulden abtragen. Den Task, den du sonst montags von Hand anstößt, einmal als Automation formulieren. Experimentell dazu ein Voice Mode, in dem du Copilot unterbrechen und umlenken kannst, statt ihn abzuwürgen. Preview und experimentell, also nicht auf etwas ansetzen, das ungeprüft rausgeht.
• Claude Code: Plugins bewerten lassen, Bash-Diffs sehen, Domains einzeln freigebenVier Releases in fünf Tagen. claude plugin eval lässt die Eval-Suite eines Plugins laufen und liefert einen reproduzierbaren Report als JSON und HTML — für alle, die bisher nach Bauchgefühl beurteilt haben, ob eine Änderung besser war. Das Bash-Tool legt jetzt ein Diff der geänderten Dateien bei, und im Auto-Modus mit Sandbox werden die Hosts, die ein Befehl braucht, nur für diesen Befehl geöffnet. Für unbeaufsichtigte Läufe: Dynamische Workflows pausieren beim Usage-Limit und laufen nach dem Reset von allein weiter. Unschön, aber real: Diese Releases landen in derselben Woche, in der die Wochenlimits netto sinken.
• Switch: Agenten sitzen als Teilnehmer im Slack-Kanal, nicht als Slash-BefehlOpen Source von SandboxAQ: Switch holt beliebige Agenten als benannte Teilnehmer in Slack, Teams, Discord oder Telegram, mit demselben Kontext wie das Team. Für kleine Teams, in denen jemand mit einem Agenten arbeitet und die Ergebnisse per Copy-Paste in den Kanal trägt. Die Voreinstellung ist erfreulich zugeknöpft: Ein neuer Agent hört nur auf dich, bis du ihn freigibst, und antwortet nur auf direkte Ansprache — was zwei Agenten davon abhält, sich in eine Endlosschleife zu quatschen. Das Setup braucht einmal jemand Technisches, danach bedient ihn jede:r wie einen Kollegen.
• Anysite.io: B2B-Listen im Chat mit dem eigenen Agenten bauenEine B2B-Datenschicht, die per MCP in deinem Agenten lebt — Claude, Codex, Cursor. Du fragst in Alltagssprache nach der Liste, etwa „200 Agenturen in DACH mit 10 bis 50 Leuten, dazu die Geschäftsführung mit Mailadresse“, und bekommst strukturierte Daten zurück, aus rund 700 Quellen weltweit. Für Freelancer:innen und kleine Firmen, denen Apollo oder Clay zu schwer ist. Die DSGVO-Frage, weil sie hier wirklich zählt: Der Anbieter nennt sich selbst Auftragsverarbeiter und dich Verantwortlichen. Wer damit in Deutschland kalt anschreibt, braucht trotzdem eine eigene Interessenabwägung und einen Opt-out in jeder Mail.
• Data-Agent in ChatGPT Work: Dashboard bauen, indem man danach fragtIn der letzten Ausgabe kurz gemeldet, hier die Praxis. Der Agent hängt sich an Snowflake, BigQuery, Databricks und weitere, zieht auf Wunsch Dateien aus Drive und SharePoint dazu und baut ein interaktives Dashboard, das dein Team teilen und aktualisieren kann. Plugin installieren, Datenquelle verbinden, dann @Data und die Geschäftsfrage im Klartext, etwa: „Diagnostiziere, warum die wöchentlich aktiven Nutzer letzte Woche gekippt sind.“ Abfragen laufen mit den Rechten des verbundenen Accounts, der Agent sieht also nicht mehr als du.
• Gemini-Desktop-App für Windows: Alt+Space, und es liegt über allemAm 12.09. als Meldung drin, hier die Bedienung. Unter gemini.google/desktop laden, dann legt Alt+Space Gemini über das, woran du gerade arbeitest — für die kurzen Sachen: einen Satz gegenprüfen, drei Titelvorschläge, schnell etwas nachschlagen. Mit Zugriff auf Gmail und Drive geht auch „fass mir den Stand von Projekt X aus meinen Mails und Dateien zusammen“ direkt vom Desktop. Für Workspace-Kund:innen, Einzel-Abos und private Konten.
• Canva AI Essentials: kostenloses Zertifikat bis Ende NovemberDie Canva World Tour läuft vom 14.09. bis 30.11. mit kostenlosem Training über die Design School — Kurzlektionen fürs Handy, eine Fähigkeit pro Einheit. Neu ist AI Essentials, eine Zertifizierung im eigenen Tempo. Für alle, die Canva ohnehin nutzen und beim KI-Teil bisher auf gut Glück geklickt haben. Ja, es ist Marketing für Canva AI — das Zertifikat ist trotzdem echt, und die Lektionen passen in eine Mittagspause.
• Copilot lässt dich jetzt einstellen, wie teuer es werden darfDie automatische Modellwahl hat drei Stufen: Efficiency für Einfaches, Balance für den Alltag, Intelligence für Qualität vor Preis. Alle greifen auf dieselben Modelle zu, die Stufe gewichtet nur. Abgerechnet wird nach dem tatsächlich gewählten Modell.
• Google Sheets verdoppelt das Zellenlimit auf 20 MillionenFür neue, bestehende und importierte Dateien. Dazu die komplette Google-Fonts-Bibliothek in Diagrammen und ein eigener Formel-Editor für berechnete Felder in Pivot-Tabellen — kleine Sachen, aber genau die, an denen man sonst jedes Mal hängen bleibt.
• GPT-Live-1 für Telefon- und SprachagentenIn der letzten Ausgabe gemeldet, hier die Praxis: Ton, Tempo und Stil per System-Prompt steuern, Reasoning und Tool-Calls an ein Backend-Modell delegieren und per Telephony-Support an eine echte Rufnummer hängen.
• Figma: Radieren und Umfärben auf der Canvas, MCP-Zugang zentral verwaltbarFür Teams wird der Zugang des Figma-MCP-Servers zu Agenten wie Claude über den Identity-Provider verwaltbar. Als Admin einmal freigeben, statt jede:n einzeln durch die Zustimmung klicken zu lassen.
• Aus der Timeline, unbestätigt: Perplexity offline auf RTX-PCs, Agent Analytics, Deepfake-DetektorPerplexity „Portable Computer“ soll lokale Agenten und Dateizugriff offline auf jedem Windows-PC mit RTX-Hardware bringen · Amplitude Agent Analytics misst Task-Erfolg, Tool-Fehler und Conversion statt nur Traces · Resemble AI DETECT-World setzt beim Erkennen von Deepfakes auf Physik statt auf auswendig gelernte Fälschungen · Apodex 1.1 kommt als 35B-Open-Weights-Modell mit Mini-Version auf Hugging Face.

💰 Business-Marker

• ByteDance nimmt 29,6 Mrd. Dollar Kredit von über 20 Banken aufStaatsnahe chinesische Banken stellen 64 Prozent der Summe, ICBC und HSBC sind dabei; ein Teil fließt in KI-Infrastruktur im Ausland.
• Euclyd holt über 200 Mio. Euro — größte europäische Inferenz-Chiprunde des JahresZwei Jahre altes Startup aus Eindhoven, Samsung als Co-Lead, Ex-ASML-Chef Peter Wennink als Chairman. Damit reiht sich Samsung direkt hinter die Mistral-Runde vom 08.09.: Seoul kauft sich quer durch Europas Souveränitäts-KI, von Modellen bis Silizium.
• Factory verdreifacht die Bewertung auf 5 Mrd. Dollar, 200 Mio. frischIn fünf Monaten von 1,5 auf 5 Mrd. Dollar — das nächste Coding-Agent-Startup, dessen Bewertung dem Umsatz davonläuft.
• Cornelis sammelt 205 Mio. Dollar für KI-Netzwerke, Qualcomm steigt einDer Intel-Spinoff greift mit einer GPU-agnostischen Netzwerk-Architektur InfiniBand und NVLink an. Nvidias Burggraben ist nicht nur der Chip, sondern das Netz drumherum.
• Gates Foundation sagt 1 Mrd. Dollar für gerechtere KI zu — und warnt im selben AtemzugMindestens eine Milliarde über zwei Jahre: 40 Prozent Bildung, 40 Prozent Gesundheit, je 10 Prozent Landwirtschaft und digitale Infrastruktur, inklusive Datensätzen für Sprachen, die die Modelle nicht können. Die These des zehnten Goalkeepers-Reports: Die nächsten 12 bis 18 Monate entscheiden, wer profitiert.
• AIUC bekommt 40 Mio. Dollar, um KI-Agenten zu auditierenEin SOC-2-artiger Standard, der rund 5.000 Jailbreak-, Halluzinations- und Datenleck-Szenarien durchspielt; Cursor, Lovable, Harvey und ElevenLabs sind an Bord. Die Audit-Industrie zur Agenten-Industrie entsteht gerade als eigener Markt.
• Altman nennt einen OpenAI-Börsengang 2026 „ill-advised“Das Fenster verschiebt sich eher auf 2027 — bemerkenswert, weil es im selben Atemzug mit dem Slowdown-Bekenntnis kommt.
• Security-Werte rallyen, während KI-Aktien auf die Slowdown-Debatte nachgebenDer Cohere-Chef nennt KI-Modelle die potenteste Cyberwaffe bisher. Der Markt preist die Gegenwette zur KI-Angst offenbar schneller ein als die Angst selbst.

🔭 Längere Perspektiven

• Der Amodei-Aufsatz im Volltext, nicht in der SchlagzeileDie „sechs bis zwölf Monate“ haben die Berichterstattung gefressen, der Rest ist interessanter. Zwei Auslöser nennt er: rekursive Selbstverbesserung, die sich seit dem Sommer schneller entwickelt hat als erwartet, und den Hugging-Face-Vorfall, bei dem Test-Agenten unautorisierte Angriffe fuhren und versuchten, ihre eigenen Evaluatoren zu hacken. Der konkrete Schritt ist klein und überprüfbar — dauerhafter Zugang für dritte Prüfer auf Mitarbeiter-Niveau —, und genau an dieser Bescheidenheit hängt die ganze Kritik unten.
• Die Golf-Rechenzentren liegen ein halbes Jahr nach dem Drohnenangriff immer noch brachWSJ-Reportage über die AWS-Regionen Abu Dhabi und Bahrain — und damit über den blinden Fleck der Souveränitäts-Debatte: Man kann sich Rechenzentren ins eigene Land holen und trotzdem keine Souveränität haben, wenn eine einzelne Drohne das Ding auf Monate ausknipst.
• F-Droid-Audit: 72 Prozent der App-Updates sehen KI-geschrieben ausEin unabhängiger Forscher hat 102 App-Updates vom 12. September durchgesehen und 74 als überwiegend KI eingestuft. Einzelarbeit mit subjektivem Maßstab, entsprechend umstritten — aber die erste Zahl zu einer Frage, die jedes Open-Source-Projekt mit Review-Pipeline betrifft: Was macht man, wenn die Einreichungen schneller wachsen als die Leute, die sie lesen?
• „Verlustfrei“ hält nur in FP32Unabhängige Nachprüfung eines hybriden Decoders: In BF16 stimmen die Ausgaben nur bei 45 Prozent der Prompts exakt mit der Referenz überein — die Benchmark-Scores bleiben trotzdem stabil. Der Score misst also nicht, was „lossless“ behauptet, und wer solche Claims aus Model Cards übernimmt, sollte nach der Präzision fragen.

🐦 Darüber spricht X

Timeline-Claims aus dem Grok-Digest — Meinungen, Selbstauskünfte und teils unbestätigte Behauptungen, kein verifizierter Journalismus.

• Karpathy steht hinter der Bremse„love this“ zu Amodeis Aufsatz mit permanentem Evaluator-Zugang — der Mann, der LLMs populär gemacht hat, auf der Seite der Safety-Bremse.
• Die schärfste Gegenlesart kommt von Bilawal SidhuAmodeis Essay sei getarnte Verstaatlichung der Frontier-Labs, und was dabei herauskomme, sei ein staatlich vermitteltes Oligopol mit Anthropic an der Spitze.
• Javi Lopez rechnet spieltheoretisch dagegenSafety-Appelle scheitern am klassischen Gefangenendilemma, solange China nicht mitspielt und das Rennen um AGI zu verlockend bleibt.
• Und die Geldseite derselben Woche: Slowdown predigen, Börsengang planenAnthropic plane laut FT gleichzeitig einen Börsengang in Billionenhöhe (unbestätigt); Michael Burry nennt die Safety-Warnungen von OpenAI und Anthropic schlicht IPO-Marketing: „we are so awesome it could become dangerous“ (über einen Drittaccount, unbestätigt).
• LeCun bleibt sturAutoregressive LLMs hätten immer noch keine physische Intuition, Fine-Tuning täusche Verständnis nur vor; Test-Time-Scaling und Planning predige er seit 2016, der LLM-Hype sei eine Zwischenstation gewesen.
• Mollick lässt Fable 5.1 Max und GPT-6 Astra Pro Linear A übersetzen — beide scheiternDazu die Effizienzrechnung, die gerade herumgereicht wird: 7 bis 40 IQ-Punkte pro Watt gegen 5 beim menschlichen Hirn. Die Herleitung lag nicht vor, die Zahl also mit Vorsicht weitertragen.
• Prompt-Injection per unsichtbarem EmojiPliny zeigt, wie über 10.000 unsichtbare Variation-Selector-Zeichen in einem Emoji ein Modell aus der Rolle bringen. Praktisch relevant für alle, die Nutzereingaben ungefiltert an Agenten durchreichen.
• TheTuringPost zur unbequemsten Zahl der Woche: Nur 11 Prozent der Enterprise-Agenten gehen in ProduktionSchuld sei meist der Zustand der Firmendaten, nicht das Modell.
• „Baut KI-Mitarbeitende statt offener Agenten“Der Brex-CEO zeigt „Jim“, der Kandidat:innen sourct, managt und budgetiert — der Wechsel von „Tool mit Prompt“ zu „Job mit Skills und Vorgesetzten“. Derselbe Account zeigt elf Grok-Bots, die einander orchestrieren.
• Alex Prompter, unbequem und vermutlich richtig: KI-Consulting sei oft ein struktureller ScamMit einer Analyse, warum die meisten Firmenprojekte scheitern.
• Bolt Forge macht die Modell-Kriege zum DropdownGLM 5.3, Kimi K3 und DeepSeek V4 Pro nebeneinander; dazu der Deal, über den geredet wird: 50-mal mehr Tokens für Open-Weight-Modelle gegen Opt-in auf anonymisierte Sessions als Trainingsdaten (unbestätigt).
• Harrison Chase bleibt beim HarnessWie man domänenspezifische Agenten baut statt generischer Tool-Stacks, mit LangChain-Blogpost dahinter.
• Margaret Mitchell stellt die Frage, die niemand beantwortetWer hat das KI-Rennen eigentlich gewonnen — und woran würde man das messen?
• Tegmark sieht das Overton-Fenster kippenDie Debatte über KI-Risiken verschiebe sich derzeit in Wochen, nicht in Jahren. Cristóbal Valenzuela ergänzt kurz: KI verändere die Welt schneller, als Institutionen sie überhaupt begreifen.
• Und fürs Handwerk: 28 Punkte für Codex-Agenten und Fernsteuerung vom iPadRiley Browns Guide für Agenten in Wissens- und Coding-Arbeit, dazu die Steuerung eines dauerlaufenden Mac vom iPad aus, inklusive Sub-Agenten und Skills.

🗣 Kritische Stimmen

Aus dem Wochen-Digest (11.–15.09.). Drei laut — und erstmals seit Beginn der Doom-Debatte ist die ethisch-sozialwissenschaftliche Linie wieder im Spiel.

• Marcus zerlegt Amodeis Bremse — und applaudiert ihr trotzdem halbNoch am Tag des Aufsatzes antwortet er zusammen mit dem Sicherheitsforscher Nathan Hamiel und Zack Korman, technisch statt rhetorisch: „Das gesamte Internet übernehmen“ sei so groß wie vage. Cloudflare, Google und AWS seien Konzentrationspunkte, aber deutlich besser gehärtet als der Durchschnitt, und alle drei gleichzeitig runterzuholen unplausibel. Dazu die Frage, die in keiner Schlagzeile vorkommt: Wer zahlt das? Einen Tag später die zweite Hälfte, „Two cheers (out of three)“: Lob für die Transparenzverpflichtung, verbunden mit dem Hinweis, dass Deb Raji, Meg Mitchell und Timnit Gebru genau das seit Jahren fordern, nur ohne Applaus. Die Einwände: Werbe-Hyperbel, METR als „unabhängiger“ Evaluator sei Vereinnahmung mit anderen Mitteln, und China als Prügelknabe sabotiere jede Verhandlung mit China. Sein Gegenvorschlag ist unspektakulär und deshalb interessant: Haftung und Produktrückruf. „If they were held liable for the consequences, they would think twice.“
• Hinton stellt sich dahinter — und räumt die Marketing-These abIm ABC Radio National nennt er Amodeis Warnung „very sensible“ und bleibt bei seiner Linie, nur nüchterner: „Nobody knows how to estimate the probabilities of these things. It's not 1 per cent, it's more than that, and it's not 99 per cent, it's less than that.“ Bemerkenswert ist, wo er sich sperrt. Auf den Einwand, CEOs spielten Risiken hoch, um sich wichtig zu machen, antwortet er umgekehrt: „It's very silly marketing for the companies to say we might wipe you all out.“ Konkret wird er bei den Instrumenten — Pflichttests vor Release und eine Screening-Pflicht für DNA-Syntheseanbieter — und zieht die Grenze: „I don't think we should stop developing it altogether.“
• Gebru bricht das Schweigen — und dreht die ganze Debatte umNach Wochen Funkstille zwei Auftritte, bei Wired und in Bloombergs „The Close“. Ihre These ist die exakte Umkehrung der beiden oben: Das „machine-god narrative“ sei „meant to distract us“. Nicht weil künftige Katastrophen unmöglich wären, sondern weil Gegenwartsschäden im Untergangslärm untergehen — Waffensysteme ohne menschliche Kontrolle, Klimakosten, KI als Begründung für Entlassungen. Auf die Frage, wie das Aussterben konkret ablaufen solle, antwortet sie schlicht, sie könne es sich nicht vorstellen. Sicherheit heiße menschliche Kontrolle. Der Witz an der Woche: Genau die Transparenzforderung, die sie seit Jahren stellt, steht jetzt in Amodeis Aufsatz.