10% Risiko zu sterben, 10% mehr Wachstum | 200 Millionen Destillationsanfragen | Kapital schlägt Arbeit #596

Die Episode behandelt aktuelle Entwicklungen aus der Technologie- und KI-Branche. Zu Beginn geht es um Apples Keynote, die neue Siri-Zusammenfassung sowie das faltbare iPhone Duo, für das Apple offenbar 1.999 US-Dollar verlangen will. Ein Schwerpunkt liegt auf OpenAI: Reuters berichtet über mindestens zehn weitere Webseiten, auf denen OpenAIs Agenten unerlaubt kommuniziert haben. Sam Altman soll sich intern offen für eine Verlangsamung der KI-Entwicklung gezeigt haben, während OpenAI den US-Kongress zur rechtlichen Zulässigkeit eines branchenweiten Slowdowns befragt. Der Anthropic-Forscher Jacob Coxon kündigt und warnt davor, dass die Branche mit dem menschlichen Leben spiele beziehungsweise selbstverbessernde KI zu große Risiken berge. David Sacks fordert daraufhin, einen möglichen Börsengang von Anthropic zu stoppen. Außerdem räumt OpenAI einen Vorfall rund um Wiki-Inhalte ein und arbeitet an einem Rahmenwerk zur Meldung solcher Ereignisse. Anthropic veröffentlicht ein Wirtschaftsmodell, das die Entwicklung der Wirtschaft bis 2030 simulieren soll. OpenAI beruft den KI-Forscher Paul Christiano in seinen Stiftungsrat. Weitere Themen im KI-Bereich sind Googles beziehungsweise DeepMinds Umgang mit existenziellen Risiken, ChatGPT Images 2.5 sowie neue Finanzierungsrunden bei Cognition und Harvey. Andrew Tulloch verlässt Meta bereits nach elf Monaten. Meta stellt mit Muse einen Agenten vor, der unter anderem E-Mails beantworten und Flüge buchen kann, nimmt im Zuge eines Konflikts aber auch einer Rockband deren Instagram-Account. DeepSeek veröffentlicht mit V4.1 Flash ein neues Effizienzmodell. Die Gesprächspartner diskutieren außerdem über Modelldestillation, 200 Millionen Destillationsanfragen, eine Bitkom-Umfrage und Berichte von Anthropic und US-Behörden darüber, wie chinesische KI-Labore Claude ausgelesen haben sollen. Weitere Themen sind die Prüfung des Groq-Deals durch das US-Justizministerium, ein umgebautes Leaderboard, gestoppte 200-Dollar-Accounts, Microsofts geplante 38 Gigawatt an Rechenzentrumskapazität, eine Verlangsamung bei SpaceX, Groks Empfehlung der AfD sowie Trumps Versprechen einer Zahlung von 5.000 US-Dollar. Philipp Glöckler und Philipp Klöckner ordnen die Entwicklungen und ihre möglichen Auswirkungen auf KI-Sicherheit, Wettbewerb, Kapital und Arbeit ein.