Amodeis Slowdown-Essay: Nebelgranate vs. Notbremse | Wer haftet für Agenten? #597
Philipp Glöckler und Philipp Klöckner diskutieren zunächst anhand des Films „The Big Short“, wer im heutigen KI- und Technologiemarkt die Rolle der damaligen Hypothekenmakler einnimmt. Im Mittelpunkt steht die Verschiebung des geplanten Börsengangs von OpenAI. OpenAI führt Sicherheitsbedenken als Grund an, während die Moderatoren diese Begründung kritisch hinterfragen und die finanziellen Kennzahlen analysieren, die hinter der Entscheidung stehen könnten. Anschließend geht es um Anthropic: Das Unternehmen meldet für das zweite Quartal ein positives Betriebsergebnis und verhandelt mit Nvidia über eine mögliche Beteiligung von bis zu zehn Milliarden US-Dollar als Ankerinvestment für einen möglichen Mega-Börsengang. Die in der Financial Times genannten Zahlen werden eingeordnet und auseinandergehalten.
Ein weiterer Schwerpunkt ist Dario Amodeis Essay „We Must Pace the Frontier“, in dem der Anthropic-Chef die KI-Branche zu einer Verlangsamung und zu vorsichtigerem Vorgehen bei der Entwicklung besonders leistungsfähiger Modelle aufruft. Altman, Musk und Hassabis signalisieren Zustimmung, während Microsoft mit einem eigenen Verhaltenskodex beziehungsweise einer eigenen „Verfassung“ für KI-Modelle einen anderen Ansatz verfolgt. Donald Trump bezeichnet die Warnungen vor den Gefahren der KI als kranke Verschwörung und stellt andere geopolitische Prioritäten in den Vordergrund.
Die Folge untersucht vier mögliche Erklärungen dafür, warum sich mehrere miteinander konkurrierende und teilweise verfeindete KI-Labore plötzlich für gemeinsame Sicherheits- oder Bremsforderungen aussprechen. Dabei werden unter anderem Regulatory Capture, politische Interessen und der Wettbewerb zwischen den Unternehmen diskutiert. Auch Palantirs Gegenposition wird betrachtet. Ein zentraler rechtlicher und gesellschaftlicher Fragenkomplex lautet, wer haftet, wenn autonome KI-Agenten in großer Zahl Webseiten aufrufen, verändern oder in Systeme eindringen und dabei Schäden verursachen. Die Moderatoren sprechen über die Verantwortlichkeit von Unternehmensführungen und CEOs sowie über die bislang unklare Haftung für agentische KI-Systeme.
Daneben beantworten sie eine Hörerfrage zur Objektivität und gehen auf Nvidias Margen ein. Weitere kurze Themen sind Cohere und dessen erneute Finanzierung, eine Warnung von S&P, Entwicklungen bei Revolut, der Tesla Roadster, eine von Waymo gemeldete Waffe sowie das Projekt Lily. Die Folge enthält außerdem Hinweise auf die begleitenden Quellen und Werbeangebo
Erwähnte Unternehmen
Shownotes & Links
Philipp hat am Wochenende The Big Short geschaut und stellt die Frage, wer heute die Hypothekenmakler von damals sind. OpenAI verschiebt den Börsengang und nennt Sicherheitsbedenken als Grund, was Pip für Propaganda hält, und er erklärt, welche Zahlen wirklich dahinterstecken. Anthropic geht den umgekehrten Weg, meldet das zweite Quartal mit positivem Betriebsergebnis und verhandelt mit Nvidia über zehn Milliarden als Ankerinvestor. Wir nehmen die Kennzahlen auseinander, die die Financial Times zitiert. Dario Amodei hat am Samstag einen Essay veröffentlicht und ruft die Branche zum Bremsen auf. Altman, Musk und Hassabis stimmen zu, Microsoft schreibt lieber eine eigene Verfassung, und Donald Trump nennt das Ganze eine kranke Verschwörung. Wir gehen vier mögliche Erklärungen durch, warum sich vier verfeindete Labore plötzlich die Hand reichen, und reden über die Frage: Warum haftet eigentlich niemand, wenn tausende Agenten in Webseiten einbrechen? Dazu eine Hörerfrage zu Nvidias Margen und Cohere sammelt wieder Geld ein. Unterstütze unseren Podcast und entdecke die Angebote unserer Werbepartner auf doppelgaenger.io/werbung. Vielen Dank! TokenMade: 100 Minuten KI-USE-CASE-DRUCKBETANKUNG in München, am 28.09., ab 17 Uhr. Die letzten Tickets gibt’s auf https://tokenmade.ai/events Philipp Glöckler und Philipp Klöckner sprechen heute über: (00:00:00) The Big Short (00:08:53) OpenAI verschiebt (00:11:20) Anthropics Zahlen (00:21:39) Amodeis Slowdown-Essay (00:22:57) Microsofts Code of Conduct (00:24:22) Haftung der CEOs (00:32:26) Trump gegen Amodei (00:35:34) Deutschland lehnt ab (00:38:49) Regulatory Capture (00:42:04) Palantir hält dagegen (00:46:21) Hörerfrage Objektivität (00:48:09) Nvidias Margen (00:52:04) Cohere (00:53:32) S&P warnt (00:54:31) Revolut (00:56:49) Tesla Roadster (00:58:48) Waymo meldet Waffe (00:59:34) Project Lily Shownotes OpenAI verschiebt den Börsengang wegen Sicherheitsbedenken - spiegel.de Anthropic verspricht seinen Investoren ein profitables Quartal - ft.com Nvidia verhandelt über ein Investment in Anthropics Mega-IPO - reuters.com Dario Amodei: We Must Pace the Frontier - darioamodei.com Microsoft gibt seinen KI-Modellen einen Verhaltenskodex - independent.co.uk Trump wischt die Sorge vor KI-Auslöschung beiseite, China zählt mehr - forbes.com Trumps Beitrag: KI braucht keine Leitplanken, sondern einen Präsidenten - truthsocial.com Deutschland hält einen Entwicklungsstopp für keine Option und fordert USA und China - reuters.com Palantir-Mitgründer Joe Lonsdale hält die Angst für überzogen - businessinsider.de Cohere verhandelt über bis zu 3 Mrd. bei 20 Mrd. Bewertung - theglobeandmail.com S&P sieht die Kreditqualität der Hyperscaler schwächer werden - axios.com Revolut gab Passdaten und Bitcoin-Historien nach einer gefälschten Behörden-Mail heraus - cryptotimes.io Die Erpresser fordern 10.000 Bitcoin von Revolut - linkedin.com Teslas Roadster der zweiten Generation bekommt nach fast zehn Jahren einen Termin - engadget.com Ein Waymo meldet eine Waffe, zwei Jugendliche werden festgenommen - sfgate.com Project Lily: die Menschen, die deine ChatGPT-Protokolle lesen - 404media.co TokenMade am 28. September in München - tokenmade.ai 📧 Abonniere jetzt den Doppelgänger Newsletter auf doppelgaenger.io/news und erhalte jeden Montag die relevanten News der Woche 📧 👋 Aktuelle Werbepartner des Doppelgänger Tech Talk Podcasts, unser Sheet und der Disclaimer 👋
FYI: English edition available
Hello my friend, have you been stranded on the German edition of Startbase? At least your browser tells us, that you do not speak German - so maybe you would like to switch to the English edition instead?
FYI: Deutsche Edition verfügbar
Hallo mein Freund, du befindest dich auf der Englischen Edition der Startbase und laut deinem Browser sprichst du eigentlich auch Deutsch. Magst du die Sprache wechseln?