1015 | Von KI-Agenten und Terres Rares: Tech im Überblick

Lena Vogel: Guten Morgen, hier ist Lena Vogel.

Felix Hartmann: Und Felix Hartmann, schön, dass ihr wieder dabei seid.

Lena Vogel: Wir machen heute so etwas wie einen Hacker-News-Rückblick auf die letzten 24 Stunden, aber nicht als Link-Liste, sondern als Gespräch. Das, was die Themen hier verbindet, ist eigentlich ein einziger Gedanke: Werkzeuge, Kontrolle und Vertrauen. Wie bauen wir Software, wie kontrollieren wir Systeme und Agenten, und wie viel Vertrauen legen wir in Infrastruktur, Plattformen und sogar in unser eigenes Denken?

Felix Hartmann: Ja, und das zieht sich wirklich durch alles heute. Es fängt ganz konkret an bei Entwicklerwerkzeugen, geht über KI-Agenten, Sicherheit, Geopolitik, und landet am Ende bei Fragen, die eher philosophisch sind. Aber es ist alles derselbe Faden. Lass uns anfangen bei den Werkzeugen, da gab es einiges.

Lena Vogel: Fangen wir mit TypeSafe AI an. Die haben Jev 1.14.0 veröffentlicht, und das Interessante sind die Optionen, die sie unter die Überschrift „Danger Zone" gepackt haben.

Felix Hartmann: Erzähl mal, was da drin ist.

Lena Vogel: Drei Dinge: Composite-Images, also zusammengesetzte Bilder. Ein neuer Typ „box", mit dem man Bounding Boxes modellieren kann, also die Rahmen um erkannte Objekte. Und ein verlängerter Kontext. Und das alles bewusst in einer Danger Zone, das heißt: mächtig, aber mit Risiko verbunden.

Felix Hartmann: Was mir daran gefällt, ist die Ehrlichkeit der Benennung. Viele Bibliotheken verstecken riskante Features hinter Flaggen, die man zufällig aktiviert. Hier sagen die Entwickler explizit: Das sind Optionen, die euch in Schwierigkeiten bringen können, wenn ihr nicht wisst, was ihr tut. Bei Composite-Images kann ich mir gut vorstellen, dass das problematisch wird, wenn man sie mit der falschen Erwartung benutzt, etwa bei Bildbearbeitung oder Analyse.

Lena Vogel: Und der Box-Typ ist sowieso eine Typisierung von etwas, das viele bisher als Tupel oder rohes Array geführt haben. Ein eigener Typ für eine Bounding Box zwingt dich, dich Gedanken zu machen über Koordinatensysteme, über Grenzfälle. Das ist die eigentliche Nachricht: Das Typsystem wird genutzt, um Fehlerklassen zu vermeiden, nicht nur um Daten zu transportieren.

Felix Hartmann: Und der längere Kontext gehört in dieselbe Kategorie. Mehr Kontext heißt mehr Möglichkeiten, aber auch mehr Gefahr, dass man unbewusst Daten weiterreicht, die nicht weitergereicht werden sollten. Deswegen Danger Zone. Gut. Von der Typsicherheit weg zur nächsten Werkzeug-Sache: OpenCode 2.0.

Lena Vogel: Das ist eine große Version. OpenCode führt einen Single-Background-Server ein, also einen einzigen Hintergrundprozess, die API wurde neu geschrieben, und dann gibt es einen „Code Mode", der mehrere Dinge bündelt: MCP-Aufrufe, Sub-Agents und Hintergrund-Shells.

Felix Hartmann: Der Single-Background-Server ist der Punkt, der mich am meisten interessiert. Vorher hatten vermutlich mehrere Prozesse parallel funktioniert, jeder mit seinem eigenen Zustand. Wenn das jetzt ein einziger Server im Hintergrund ist, ändert das die Architektur grundlegend: Der Zustand liegt an einer Stelle, und alles andere redet mit dem.

Lena Vogel: Genau, und die API-Rewrite ist wahrscheinlich die Folge davon. Wenn die Architektur von „vielen losen Teilen" zu „einem Server" wechselt, musst du die Schnittstellen neu denken. Das bündelt sich dann im Code Mode.

Felix Hartmann: Und der Code Mode ist im Grunde eine Antwort auf die Frage, die viele mit Agent-Tools haben: Es sind zu viele separate Mechanismen. Da gibt es MCP-Aufrufe, da gibt es Sub-Agents, da gibt es Hintergrund-Shells, und als Nutzer musst du verstehen, wann du welches Feature benutzt. Wenn das in einem Modus zusammengefasst ist, kann das Tool selbst entscheiden, was es wann anwendet. Das macht die Nutzung einfacher, aber es verlagert auch Komplexität von dir auf das Tool.

Lena Vogel: Und genau diese Verlagerung, das merke ich schon, ist ein Thema, das uns heute noch öfter begegnen wird. Werkzeuge fassen Entscheidungen zusammen, die der Nutzer vorher selbst getroffen hat. Das ist bequem, aber es heißt auch, du musst dem Werkzeug vertrauen.

Felix Hartmann: Etwas, was uns noch nicht klar ist: Wie gut kann man das auditieren? Wie sieht man nachträglich, was der Code Mode entschieden hat? Das bleibt eine offene Frage, die wir später wieder aufgreifen werden, wenn wir über Agenten-Kontrolle reden. Aber erst mal zurück zu klassischeren Themen, aber mit einem Twist: Go 1.27.

Lena Vogel: Ja, da ist die HTTP/1-Wiederverwendung verbessert worden. Konkret: Wenn ein Body geschlossen wird, wird er nicht mehr blockierend verarbeitet, sondern asynchron abgearbeitet, mit einer Grenze von etwa 50 Millisekunden.

Felix Hartmann: Und warum ist das wichtig?

Lena Vogel: Der klassische HTTP-1-Fall ist: Ein Request kommt rein, du liest den Body, und irgendwann musst du den Body schließen und wegwerfen. Wenn der Body groß ist, wartet die Verbindung, bis das passiert ist. Das blockiert die Wiederverwendung der Verbindung. Die neue Lösung: Der Body wird im Hintergrund weitergeleert, bis zu 50 Millisekunden lang, und die Verbindung wird schneller wieder benutzbar.

Felix Hartmann: Und die Benchmarks zeigen etwa fünfmal so schnell. Das ist beachtlich, weil das eine sehr grundelegte Operation ist, die überall läuft. Fünfmal schneller in so etwas like HTTP-Body-Disposition macht sich in ganz vielen Systemen bemerkbar, besonders bei Proxys und Load Balancern.

Lena Vogel: Genau. Das ist eines dieser nicht glamourösen, aber sehr wirkungsvollen Updates. Es zeigt auch, wie viel Optimierung in alten Protokollen noch steckt. Wir reden ständig über neue Protokolle, aber da ist noch viel zu holen, wenn man sich Details anschaut. So wie bei HTTP/1 hier.

Felix Hartmann: Und es ist auch eine kleine Lektion in Design. Die 50-Millisekunden-Grenze ist eine bewusste Entscheidung: „Wir geben dir etwas Asynchronität, aber nicht unendlich viel." Man hätte den Body auch unendlich weiterleeren können, aber dann würde die Verbindung hängen. Diese Art von Tuning macht gute Systeme aus. Also:旧es ist dann nur logisch, dass wir als Nächstes zum Kernel kommen, denn da ist noch mehr so eine Sache.

Lena Vogel: Ja, und das ist vielleicht der aufregendste Punkt der letzten 24 Stunden: Linus Torvalds hat seine erste Patch-Serie eingereicht, die von einem LLM assistiert wurde.

Felix Hartmann: Wow.

Lena Vogel: Es geht um Folios unter RCU, also um eine Optimierung in der Speicherverwaltung des Linux-Kernels. Die Performance-Verbesserung liegt bei etwa zehnmal schneller.

Felix Hartmann: Zehnmal schneller in so einer heiklen Gegend. Das ist keine Kleinigkeit. RCU ist berüchtigt schwer zu verstehen, und da ist der Kernel-Maintainer, der höchste der Höchsten, sagt: Ich habe mir von einem LLM helfen lassen.

Lena Vogel: Und hier kommt die für mich wichtigste Nuance: Während der Arbeit wurde eine Race Condition gefunden. Das heißt, die Arbeit war nicht fehlerfrei. Die KI hat geholfen, aber es gab einen Fehler, der gefunden werden musste.

Felix Hartmann: Genau das ist der Punkt, den ich hervorheben will: KI beim Kernel ist real geworden, das ist keine Zukunftsmusik mehr. Aber die Race Condition zeigt, dass Review weiterhin nötig ist. Man kann nicht sagen, „der LLM hat das geschrieben, passt schon." Gerade in so sicherheitskritischen Codeteilen wie RCU muss jemand mit tiefem Verständnis drüberschauen.

Lena Vogel: Und wenn derjenige, der drüberschaut, Linus Torvalds ist, dann hat man vielleicht den besten Reviewer der Welt. Aber die meisten Projekte haben keinen Linus. Das ist die unbequeme Wahrheit. Die Optimierung ist real und beeindruckend, zehnfach schneller in einem Kernbereich, aber sie zeigt auch, dass der Review-Prozess nicht wegfällt, sondern wichtiger wird.

Felix Hartmann: Und es wirft eine Frage auf: Wie transparent ist der Prozess? Linus hat es offen gemacht, dass er LLM-Unterstützung benutzt hat. Wird das zum Standard? Und was heißt das für Maintainer, die das nicht offenlegen? Das ist noch ungeklärt.

Lena Vogel: Übrigens eine schöne Brücke zu etwas anderem, was passiert ist: Auf der ESUG 2026 wurde eine neue IDE für Pharo vorgestellt, genannt Pulsar.

Felix Hartmann: Coding-first IDE für Pharo, ja. Und die hat gleich den ersten Preis gewonnen und ist jetzt in Pre-Alpha.

Lena Vogel: Was mich daran interessiert, ist der Timing-Kontext. Gerade haben wir über LLM-assistiertes Kernel-Programmieren geredet, und gleichzeitig entsteht eine komplett neue IDE für eine Smalltalk-artige Umgebung. Das zeigt: Die Werkzeuglandschaft ist in Bewegung. Es gibt Updates in den Riesen-Ökosystemen wie Go, und es gibt Neuanfänge in kleineren Sprachen wie Pharo.

Felix Hartmann: Und „Coding-first" ist ein Stichwort, das man ernst nehmen sollte. Viele IDEs versuchen, alles zu können. Eine „Coding-first" IDE sagt: Der Code ist das Zentrum, alles andere dient dem. Das kann man in Pharo gut machen, weil Pharo von Natur aus ein lebendes System ist, in dem Code und Umgebung verzahnt sind.

Lena Vogel: Pre-Alpha heißt natürlich: Es ist noch nichts Fertiges. Aber der erste Preis auf einer Konferenz wie ESUG zeigt, dass die Richtung überzeugt. Ich freue mich darauf zu sehen, wie das reift.

Felix Hartmann: So, das war der Werkzeug-Block. Aber wir haben noch mehr aus dem Umfeld, was gut hier passt, bevor wir zu den Agenten kommen. Es gibt zum Beispiel pg_vectorsearch, eine neue Postgres-Extension.

Lena Vogel: Ja, die bringt einen neuen Index namens PRISM mit. Bei 100 Millionen Vektoren: 6 Millisekunden Latenz, viermal weniger Speicher, zwanzigmal schnellere Index-Erstellung als HNSW.

Felix Hartmann: Das ist insofern relevant für unseren Faden, weil es zeigt, wie die Such-Infrastruktur, auf die Agenten und KI-Systeme aufsetzen, selbst schnell reift. Ein Agent, der über Vektoren sucht, ist nur so gut wie der Index darunter. Wenn der Index viermal weniger Speicher und zwanzigmal schneller baut, wird das Kostengefüge von KI-Systemen verändert.

Lena Vogel: Genau. Und noch ein Beispiel aus der Praxis, das gut passt: QA Wolf hat beschrieben, wie sie Windows-Desktop-Tests parallelisieren, mit Wegwerf-VMs aus einem Warm-Pool auf GCE, gesteuert von Linux aus über CDP und Appium.

Felix Hartmann: Das ist ein hübsches Ingenieursdetail. Das Kernproblem ist: Desktop-Tests auf Windows sind langsam, und man kann sie nicht einfach nebenläufig machen, weil jede Testumgebung sauber sein muss. Desolve Wegwerf-VMs. Und der Warm-Pool sorgt dafür, dass man nicht auf Boot-Zeiten wartet.

Lena Vogel: Und dass das von Linux aus gesteuert wird, ist der Clou. Man braucht kein Windows-Team, man orchestriert von einem Linux-Host aus. Das ist ein gutes Beispiel dafür, wie viel Werkzeug-Arbeit heute in Infrastruktur steckt, nicht nur im Code selbst.

Felix Hartmann: Noch zwei kleine Randnotizen, die in den Werkzeug-Kontext gehören. Da ist Iosevka, die Open-Source-Monospace-Schriftfamilie mit sehr schmalen Glyphen, halber Em breit, hochgradig anpassbar, mit 146 Zeichenvarianten und 19 stilistischen Sets.

Lena Vogel: Das ist die Schriftart für Menschen, die viel im Terminal sitzen und jede Pixelbreite ausnutzen wollen. 146 Varianten, das ist beachtlich. Es zeigt, wie viel Customize-Kultur in Entwickler-Tools steckt.

Felix Hartmann: Und dann gibt es da noch Felix Rieseberg, Anthropic-Claude-Ingenieur und Electron-Co-Maintainer, der eine Retro-TV-Design-Website hat. Um Electron dreht sich die Diskussion danach. Das passt zu unserem Thema, weil Electron so ein Werkzeug ist, über das die Meinungen stark auseinandergehen: manche lieben die Möglichkeit, Web-Technologie auf Desktop zu bringen, andere beklagen die Ressourcenverschwendung.

Lena Vogel: Und das ist auch ein Beispiel dafür, wie viel Persönlichkeit in Entwickler-Tools steckt. Eine Retro-TV-Website von einem Haupt-Contributor ist eine kleine kulturelle Aussage: Tools haben Charakter, sie werden von Menschen mit Geschmack gemacht.

Felix Hartmann: Das war der Werkzeug-Teil. Aber wir haben noch etwas aus dem Android-Universum, das hier gut reinpasst, bevor wir zu Agenten und Kontrolle kommen. Die AOSP-Releases kommen so spät, dass Entwickler Libraries auseinandernehmen, um Bugs zu melden.

Lena Vogel: Ja, ein sehr konkretes Beispiel: Android 17 hat einen Bug in der bionic-Funktion wcscspn beziehungsweise wcspbrk, der Zeichen ab U+0100 falsch markiert. Entwickler mussten die Libraries disassemblieren, um das zu finden, weil der Quellcode nicht rechtzeitig öffentlich war.

Felix Hartmann: Das ist eine interessante Wendung: Wir haben vorhin über Open Source und Review geredet, und hier ist das Gegenteil: Wenn der Code nicht offen und zeitnah kommt, müssen die Leute Reverse Engineering machen, um Bugs zu finden. Das ist das Gegenteil von offenem Review. Und es zeigt, wie sehr der Timing von Releases eine Rolle spielt.

Lena Vogel: So, das war der Werkzeug-Block wirklich. Jetzt lass uns zu etwas kommen, das uns alle beschäftigt: KI-Agenten und die Frage, wie wir sie kontrollieren.

Felix Hartmann: Es gibt da zwei Geschichten aus den letzten 24 Stunden, die zusammengehören, obwohl sie auf den ersten Blick nichts miteinander zu tun haben. Die erste ist von CSO Online: Berichte über Vorfälle mit „lügenden" KI-Agenten. Und die Pointe ist: Diese Vorfälle entstehen nicht durch autonome Modellausreißer, sondern durch versagendes Containment und Monitoring in den Labs selbst.

Lena Vogel: Das ist ein wichtiger Rahmen. Wenn man Schlagzeilen liest, „KI-Agent war renitent" oder „hat gelogen", denkt man schnell an eine Art Dämonie, an etwas, das dem Modell innewohnt. Aber die Analyse von CSO Online sagt: Das Problem liegt in den Prozessen drumherum. Das Containment versagt, das Monitoring ist unzureichend.

Felix Hartmann: Das ist fast banal, wenn man es so formuliert, aber es ist die entscheidende Einsicht. Ein Agent, der in einem schlecht überwachten Environment läuft, kann Schaden anrichten, nicht weil er „böse" ist, sondern weil niemand hingeschaut hat. Die Schuld liegt bei den Prozessen.

Lena Vogel: Und die zweite Geschichte, die das perfekt illustriert, ist TV4.

Felix Hartmann: Erzähl die.

Lena Vogel: TV4 hat die Show „The Challenge" auf 2027 verschoben. Der Grund: Geschnittenes Material ging verloren. Und TV4 dementiert ausdrücklich, dass ein KI-Agent es gelöscht habe. Sie sagen, es war ein gescheitertes Backup.

Felix Hartmann: Das ist fast schon komisch, nicht wahr? Die öffentliche Erzählung war wohl kurz „ein KI-Agent hat es gelöscht", und TV4 musste klarstellen: Nein, es war ein Backup-Fehler. Aber schau mal, wie strukturiert das Problem ist: Es gab vermutlich keine ausreichende Überwachung dessen, was im System passiert, und es gab kein funktionierendes Backup. Das ist kein KI-Dämon, das ist klassisches Ops-Versagen.

Lena Vogel: Genau, und beide Fälle zusammen zeigen dieselbe Botschaft: Die Schuld liegt bei Prozessen und Monitoring, nicht bei magischer Modell-Degeneration. Das ist eine beruhigende und gleichzeitig unbequeme Nachricht. Beruhigend, weil Modelle nicht plötzlich „böse" werden. Unbequem, weil Prozesse und Monitoring sind harte, langweilige Arbeit, und die vielen Firmen machen sie nicht gut.

Felix Hartmann: Was unklar bleibt, ist, wie gut Agent-Aktivitäten wirklich auditiert werden. Das ist die offene Frage, die ich auch bei OpenCode schon angesprochen habe. Wenn ein Agent Aktionen ausführt, wie sieht jemand die afterwards? Es gibt vermutlich Logs, aber wer liest die? Und wie granular sind die?

Lena Vogel: Und da gibt es noch eine interessante Ergänzung aus der Diskussion: Es gab einen Vorfall, bei dem Anthropics Präsentation von „Scion", ihrem VCS, stark an Mononoke erinnert, das VCS-Projekt von Meta. Sunshowers hat darauf hingewiesen, dass das Konzept der „derived data" übernommen wurde, ohne Attribution.

Felix Hartmann: Das ist ein anderer Aspekt von Kontrolle und Vertrauen: Es geht nicht nur um technische Kontrolle von Agenten, sondern auch um kulturelle Kontrolle in der Branche. Wenn Ideen übernommen werden, ohne Quellen zu nennen, ist das ein Vertrauensproblem auf einer anderen Ebene. Es geht nicht um Agenten, die lügen, sondern um Menschen und Unternehmen, die nicht transparent sind.

Lena Vogel: Genau. Und das passt noch in einen anderen Diskussionsstrang: LLM-generierte SVG-Pelikane sehen sich alle ähnlich, weil es einen Diversity Collapse gibt. Der Design Creativity Bench bewertet Modelle weit unter menschlichen Designern.

Felix Hartmann: Der Pelikan-Test ist ja so eine Art Standard-Aufgabe geworden, um LLMs SVG zeichnen zu lassen. Und die Beobachtung ist: Die Ergebnisse konvergieren alle auf einen ähnlichen Look. Das ist ein kreatives Gegenstück zu dem, was wir über Agenten gesagt haben: Dieselbe Unzuverlässigkeit und Limitiertheit zeigt sich in den kreativen Leistungen.

Lena Vogel: Es ist nicht, dass die Modelle „schlecht zeichnen können". Es ist, dass sie auf einen Mittelwert kollabieren. Der Design Creativity Bench macht das messbar: menschliche Designer sind da deutlich besser. Das ist ein guter Realitätscheck, wenn man den Eindruck hat, KI ersetze bald Kreativität.

Felix Hartmann: So, und damit kommen wir zum nächsten großen Thema, das logisch daraus folgt: Sicherheit und Datenspuren. Weil alles, was wir bisher hatten, dreht sich um Kontrolle und Vertrauen, und da sind Passkeys und Datenspuren natürlich zentral.

Lena Vogel: Fangen wir mit Scott Helme an. Er argumentiert, Passkeys seien kein Trick und kein Betrug an den Nutzern.

Felix Hartmann: Das ist eine Diskussion, die immer wieder aufkommt, oder? Manche Menschen sind skeptisch gegenüber Passkeys, weil sie das Gefühl haben, die Kontrolle abzugeben.

Lena Vogel: Scotts zentrale Punkte: Erstens, synchronisierte Passkeys senden keine Attestation zurück. Das ist ein technisches Detail, aber es ist wichtig, weil Attestation oft als Argument gegen Passkeys gebracht wird: „Der Anbieter könnte erkennen, welches Gerät ich benutze." Bei synchronisierten Passkeys ist das nicht der Fall. Zweitens sind sie phishing-resistenter als TOTP, also als die klassischen Einmal-Codes.

Felix Hartmann: Das Phishing-Argument ist das starke. Bei TOTP gibt es noch die Menschheits-Fehlermöglichkeit: Du bekommst eine Nachricht, „gib mir den Code", und gibst ihn. Bei Passkeys ist das strukturell anders, weil die Kryptographie an die Domain gebunden ist. Du kannst nicht einfach den Schlüssel an eine böse Seite weitergeben.

Lena Vogel: Und der Punkt über Attestation ist wichtig für die Vertrauensfrage. Die Sorge vieler war, dass Passkeys ein Instrument zur Geräte-Kontrolle sind. Scott sagt: Bei den synchronisierten Varianten ist das technisch nicht gegeben. Das heißt, man kann Passkeys nutzen, ohne ein digitales Überwachungs-Armband zu tragen.

Felix Hartmann: Was ich daran schätze: Es ist eine nüchterne, technische Antwort auf eine emotionale Sorge. Aber die Sorge ist nicht komplett unbegründet, nur der Mechanismus ist ein anderer. Und genau da kommen wir zum nächsten Punkt, der sich nahtlos anschließt: Google verbindet automatisch Telefonnummern mit allen angemeldeten Google-Konten.

Lena Vogel: Das ist ein Datenschutz-Thema. Google verifiziert und verknüpft die Telefonnummer automatisch mit allen Konten, bei denen man angemeldet ist. Es gibt einen Opt-out, aber die Default-Einstellung ist die Verknüpfung.

Felix Hartmann: Und hier ist der Kontrast zu Passkeys fast schon paradox. Bei Passkeys sagt die Community: „Das ist sicher, die Kryptographie schützt dich." Bei Google sagt die Realität: „Die Plattform verknüpft automatisch deine Telefonnummer mit allem." Beides sind Sicherheits- und Identitäts-Mechanismen, aber das eine schützt dich, das andere sammelt Daten über dich.

Lena Vogel: Es ist ein gutes Beispiel dafür, dass Sicherheit und Datenschutz nicht dasselbe sind. Ein System kann kryptographisch sehr sicher sein und trotzdem deine Datenspuren vermehren. Die Frage ist immer: Wer kontrolliert was, und wer sieht was?

Felix Hartmann: Und dann gibt es noch den dritten Punkt, der das Thema auf eine ganz andere Ebene hebt: Etwa 102 Millionen Dollar in Krypto wurden durch Hardware-Implantate in Ledger Nano X Wallets gestohlen.

Lena Vogel: Das ist eine harte Geschichte. Die Wallets kamen über autorisierte Händler in Malaysia und Europa. Das heißt, die Implantate waren in der offiziellen Lieferkette.

Felix Hartmann: Das ist der Kern der Sache, den du gerade angesprochen hast: Sicherheit hängt an Lieferketten, nicht nur an Krypto-Mathematik. Man kann die beste Hardware-Wallet der Welt haben, die kryptographisch einwandfrei ist. Wenn jemand die Hardware vor dir manipuliert, bevor sie zu dir kommt, ist die ganze Kryptographie wertlos.

Lena Vogel: Und „autorisierte Händler" ist der Teil, der besonders übel ist. Das heißt, die Leute haben nichts falsch gemacht. Sie haben den offiziellen Weg genommen. Das Vertrauen in die Lieferkette wurde ausgenutzt.

Felix Hartmann: Wenn man die drei Punkte zusammen nimmt: Passkeys sind sicher, weil die Kryptographie an Domains gebunden ist und keine Attestation preisgibt. Google verknüpft Telefonnummern, weil die Plattform-Macht das erlaubt. Und Ledger-Wallets wurden kompromittiert, weil die Lieferkette nicht sicher war. In allen drei Fällen hängt die Sicherheit nicht nur an der Mathematik, sondern an Design und Lieferkette.

Lena Vogel: Das ist ein schönes Fazit für diesen Block. Sicherheit ist ein Systemeigenschaft, keine isolierte Eigenschaft eines Algorithmus.

Felix Hartmann: Und jetzt, Lena, kommen wir zu einem Thema, das eine ganz andere Größenordnung hat, aber im Kern dieselbe Frage stellt: Wie verwundbar sind unsere vernetzten Abhängigkeiten? Nur dass es diesmal nicht um Software geht, sondern um Geopolitik und physische Infrastruktur.

Lena Vogel: Fangen wir mit etwas, das klein erscheint, aber strategisch riesig ist: Seltene Erden. Lawfare hat dazu analysiert: China raffiniert über 90 Prozent der Seltenen Erden weltweit, und bei den schweren Seltenen Erden sind es etwa 99 Prozent.

Felix Hartmann: Und das Verrückte ist: Der globale Markt dafür ist weniger als 10 Milliarden Dollar. Das klingt nach nichts, in einer Welt, wo einzelne Tech-Firmen vielfache Milliarden umsetzen.

Lena Vogel: Aber es ist ein strategischer Engpass. Seltene Erden stecken in so vielerlei: Elektromotoren, Windturbinen, Elektronik, Verteidigungstechnik. Der Markt ist klein, weil die Mengen klein sind, aber ohne sie läuft vieles nicht. Das ist ein klassischer Fall von: kleines Volumen, enorme systemische Bedeutung.

Felix Hartmann: Und das ist eine Form von Macht, die man leicht übersieht. Man redet viel über Chips und über Software, aber Seltene Erden sind fast noch fundamentaler. Und die Konzentration bei einem einzigen Akteur ist fast total.

Lena Vogel: Ein ähnliches Bild, nur in der Finanzwelt: JPMorgan, Morgan Stanley, SMBC und MUFG versuchen, etwa 38 Milliarden Dollar an Datacenter-Schulden von Oracle abzuladen.

Felix Hartmann: Das ist eine bemerkenswerte Zahl. Und dazu kommt: Die CDS von Oracle, also die Kredit-Default-Swaps, liegen bei etwa 151 Basispunkten, ein Rekord seit 2009.

Lena Vogel: Das heißt, der Markt bewertet das Ausfallrisiko von Oracle so hoch wie zuletzt in der Finanzkrise. Das ist ein Zeichen von Spannungen im KI-Bau-Boom. Es wird massiv gebaut, massiv finanziert, und jetzt wollen die Banken das Risiko loswerden.

Felix Hartmann: Das passt zu dem, was wir die ganze Zeit beobachten: Der KI-Boom braucht Infrastruktur, Rechenzentren, Energie, Kabel. Und all das braucht Finanzierung. Wenn die Finanzierung wackelt, wackelt der Boom.

Lena Vogel: Und dann kommt die physische Ebene: Ein Starlink-Standort nahe Sofia ist abgebrannt, 11 von 17 Antennen wurden zerstört. Zwei Träger deutscher Pässe wurden festgenommen, und Sabotage wird vermutet.

Felix Hartmann: Ein Brandstiftung auf Satelliten-Internet-Infrastruktur. Das ist kein zufälliger Vorfall, wenn die Verdachtslage auf Sabotage deutet. Und es zeigt, dass Infrastruktur, die wir als „digital" empfinden, sehr physisch und sehr angreifbar ist.

Lena Vogel: Genau, und das führt perfekt zum nächsten Punkt: APNIC hat Zahlen zu Seekabeln. Es gibt etwa 1,5 Millionen Kilometer Seekabel weltweit, in 607 aktiven Systemen. Und die Schwachstellen-Analyse: Das Kabel zwischen Taiwan und Matsu wurde zwischen 2018 und 2022 27 Mal gekappt. In der Ostsee gab es elf Störungen.

Felix Hartmann: 27 Mal in vier Jahren. Das ist keine Zufalls-Statistik mehr. Das ist eine systematische Verwundbarkeit, die ausgenutzt wird oder zumindest ständig verletzt wird.

Lena Vogel: Und Seekabel tragen den allergrößten Teil des interkontinentalen Datenverkehrs. Wenn die gekappt werden, sind ganze Regionen von der Außenwelt abgeschnitten. Das ist die physische Schicht des Internets, die wir alle ignorieren, solange sie funktioniert.

Felix Hartmann: Und zum Ausgleich ein positives Signal aus derselben Welt: ASML meldet starke Aufträge für 2029 und 2030. Q3-Nettogewinn 4,96 Milliarden Euro, Umsatzprognose für Q4: 14,2 bis 15,2 Milliarden. Und die Kapazität wird 2027/28 um 30 Prozent ausgebaut.

Lena Vogel: Das zeigt, dass der KI-Boom auf der Hardware-Seite real ist und dass die Lieferketten für die nächsten Jahre ausgelastet sind. ASML ist ja der Monopolist für EUV-Lithographie, also das Fundament der Chip-Produktion.

Felix Hartmann: Wenn man den ganzen Block zusammen nimmt: China dominiert Seltene Erden, Banken laden Datacenter-Schulden ab, Starlink wird sabotiert, Seekabel werden gekappt, aber gleichzeitig baut ASML Kapazität aus. Die Vernetzung ist die Verwundbarkeit. Alles hängt an allem, und deshalb kann eine kleine Störung große Folgen haben.

Lena Vogel: Genau. Und diese Verwundbarkeit hat auch eine menschliche und gesellschaftliche Dimension. Lass uns da hineingehen.

Felix Hartmann: Der Telegraph meldet, dass die Suizidrate von Männern mittleren Alters auf historischem Höchststand ist. Und auf Hacker News wurde das im Zusammenhang mit Sinnverlust diskutiert, mit Blick auf KI und Arbeit.

Lena Vogel: Das ist ein schweres Thema, und ich will es ernst nehmen. Die Diskussion auf HN zog den Bogen: Wenn Arbeit nicht nur Einkommen, sondern auch Sinn und Struktur gibt, was passiert dann, wenn KI Teile davon übernimmt? Das ist eine unbeantwortete Frage, aber sie wurde gestellt.

Felix Hartmann: Und dazu kommt noch etwas anderes aus den letzten 24 Stunden, das auf den ersten Blick nichts damit zu tun hat, aber genau dieselbe Frage berührt: ICE beschleunigt das ERO-ONE-Überwachungsprogramm im Wert von 100 Millionen Dollar, mit 142 Geheimdienstagenten in mehr als 25 Städten, die Netzwerk- und Link-Analysen machen.

Lena Vogel: Das ist staatliche Überwachung in einem großen Maßstab. Und wenn man das neben die Sinnverlust-Diskussion legt, entsteht eine unbequeme Konstellation: Auf der einen Seite verlieren Menschen Sinn und Struktur, auf der anderen Seite wird Überwachung ausgebaut.

Felix Hartmann: Beides berührt die Frage, wie Arbeit, Überwachung und Sinn zusammenhängen. Arbeit gibt Struktur, Überwachung nimmt Freiheit. Und beide Bewegungen passieren gleichzeitig.

Lena Vogel: Was unklar bleibt, ist, welche Politiken tatsächlich helfen. Die Suizid-Zahlen sind eine Symptom-Beschreibung, keine Ursachen-Analyse. Und die Überwachungsprogramme sind eine Maßnahme, deren Wirkung nicht klar ist.

Felix Hartmann: Es gibt noch eine kleine Ergänzung aus dem sozialen Bereich, die gut passt: Data for Progress hat Zahlen veröffentlicht, die zeigen, dass soziale Aktivitäten in Amerika seit 1995 zweistellig zurückgegangen sind. Zum Beispiel: Menschen, die andere bei sich zu Hause empfangen, sind von 88 Prozent auf 67 Prozent gefallen.

Lena Vogel: Das ist ein bemerkenswerter Rückgang. Der Rückgang von face-to-face-Begegnungen über 30 Jahre. Das ist nicht KI-bedingt, das ist eine langfristige Entwicklung. Aber sie passt zu der Frage, wie Menschen Verbindung und Sinn finden.

Felix Hartmann: Und aus der gleichen Ecke kommt noch Derek Sivers mit einer kleinen philosophischen Pointe: Es gibt keine smarten und dummen Menschen, nur Menschen, die gerade smart oder gerade dumm handeln. Und wenn du sagst „Die sind dumm", bedeutet das, dass du aufgehört hast zu denken.

Lena Vogel: Das ist in diesem Kontext eine wichtige Botschaft. Wenn wir über gesellschaftliche Probleme reden, ist es leicht, „die anderen" als dumm zu bezeichnen. Dereks Punkt ist: Das ist eine Denkfaulheit. Menschen in anderen Kontexten handeln manchmal schlecht, aber sie sind nicht grundsätzlich dumm.

Felix Hartmann: Das ist ein guter Übergang zum letzten Block, denn da geht es um Netzkultur und Marktmacht, also um die Frage, wie Plattformen und Texte unser Verhalten prägen.

Lena Vogel: Fangen wir mit etwas Konkretem: Tiny Little Office. Das ist eine Bürosuite, bei der das Dokument das Zentrum ist. Keine Konten, keine Server, die Daten liegen in der URL.

Felix Hartmann: Das ist eine radikale Design-Entscheidung. Kein Backend, keine Cloud, keine Accounts. Das Dokument selbst ist die Speicherform. Man teilt einen Link, und der Link ist das Dokument.

Lena Vogel: Das ist im Grunde eine Rückkehr zu einer Idee des frühen Webs: Der Link trägt die Information. Es gibt sehr praktische Vorteile: kein Datenschutz-Konto, keine Server-Kosten, keine Synchronisations-Probleme. Aber es gibt natürlich auch Grenzen: Die URL-Länge ist begrenzt, und wer den Link hat, hat die Daten.

Felix Hartmann: Es ist ein hübsches Experiment, das zeigt, wie viel Komplexität moderne Web-Apps durch Konten und Server eingeführt haben, die vielleicht gar nicht nötig wäre für viele Anwendungsfälle.

Lena Vogel: Und dann kommt der Gegenpol, ein Kritikpunkt an Textkultur: Alex Wennerberg kritisiert die Verbosität rationalistischer Blogs. Yudkowskys Sequenzen, also die berühmten Texte der Rationalist-Bewegung, umfassen über eine Million Wörter.

Felix Hartmann: Eine Million Wörter. Das ist mehrere Bibeln lang. Und Wennerbergs Kritik ist: Verbosität wird als Ersatz für Rigorosität benutzt. Lange Texte wirken gründlich, aber Länge ist kein Beweis für Qualität.

Lena Vogel: Das ist eine wichtige Beobachtung, gerade in einer Zeit, wo LLMs extrem lange Texte produzieren können. Wenn Länge als Signal für Gründlichkeit gelesen wird, dann sind wir anfällig für eine Art Verbosität-Inflation.

Felix Hartmann: Und dann kommt Amazon, und das ist der Marktmacht-Teil. Amazon verlangt von Verkäufern Gebühren, die nahe 50 Prozent des Umsatzes liegen. Und die Fair-Pricing-Policy erzwingt, dass Verkäufer ihre Preise im ganzen Internet erhöhen.

Lena Vogel: Das zweite ist der besonders üble Teil. Die Fair-Pricing-Policy von Amazon sagt im Grunde: Wenn du dein Produkt woanders günstiger anbietest als bei uns, haben wir ein Problem mit dir. Das bedeutet für Verkäufer: Der Amazon-Preis ist der Mindestpreis im ganzen Internet, und die 50 Prozent Gebühren müssen irgendwo herkommen.

Felix Hartmann: Das ist ein Missbrauch von Marktmacht, das über den eigenen Marktplatz hinauswirkt. Amazon bestimmt faktisch die Preise im ganzen E-Commerce, nicht nur auf der eigenen Plattform.

Lena Vogel: Wenn man den Block zusammen nimmt: Tiny Little Office zeigt, wie man Plattform-Macht vermeiden kann, durch radikale Dezentralisierung. Amazon zeigt, wie Plattform-Macht aussieht, wenn sie voll ausgenutzt wird. Und Wennerberg zeigt, wie selbst Textkultur durch Plattform-Logiken geprägt sein kann, Länge als Signal, Klickzahlen als Treiber.

Felix Hartmann: Es gibt noch eine kleine Ergänzung, die gut passt: Ein Nonprofit hat ein freies 3D-Leonardo-da-Vinci-Digitalmuseum gestartet, in Three.js und WebGPU, mit 17 Stationen und in 7 Sprachen.

Lena Vogel: Das ist ein schönes Gegenbeispiel zur Plattform-Macht: Frei, offen zugänglich, in modernen Web-Technologien, ohne Account. Es zeigt, dass das Web immer noch so etwas kann, wenn man es will.

Felix Hartmann: Das ist ein guter Schlusspunkt für die Netzkultur. Es bleibt eine offene Frage: Wie viel von der Prägen-und-Kontrollieren-Dynamik lässt sich durch solche offenen Alternativen ausgleichen? Wir wissen es nicht. Aber es ist gut, dass sie existieren.

Lena Vogel: Wir sind am Ende unserer Runde. Lass uns kurz zusammenfassen, was wir gehabt haben, ohne eine Liste zu machen.

Felix Hartmann: Der rote Faden war: Kontrolle und Vertrauen. Wir haben gesehen, wie Linus Torvalds LLM-Unterstützung im Kernel nutzt und trotzdem eine Race Condition gefunden wurde, Review bleibt nötig. Wir haben gesehen, dass KI-Agenten-Vorfälle auf versagendes Monitoring zurückgehen, nicht auf Modelle, die „böse" werden. Wir haben gesehen, dass Sicherheit an Lieferketten und Plattformdesign hängt, nicht nur an Kryptographie.

Felix Hartmann: Wir haben gesehen, wie verwundbar unsere vernetzte Infrastruktur ist, von Seltenen Erden bis zu Seekabeln. Und wir haben gesehen, wie Plattformen und Texte unser Verhalten prägen.

Lena Vogel: Und die offenen Fragen bleiben: Wie gut wird Agent-Auditierung wirklich? Welche Politiken helfen bei gesellschaftlichen Problemen wie Sinnverlust? Und wie viel Plattform-Macht lässt sich durch offene Alternativen ausgleichen?

Felix Hartmann: Das war unsere Runde für heute. Danke, dass ihr dabei wart.

Lena Vogel: Bis zum nächsten Mal, bleibt neugierig und bleibt kritisch.

Felix Hartmann: Tschüss, Lena.

Lena Vogel: Tschüss, Felix, und tschüss euch allen.