10 % Chance auf Auslöschung – Anthropics Rücktritt, Börsengang und die Frage dahinter
Ein Anthropic-Forscher tritt öffentlich zurück und nennt 10 % Auslöschungswahrscheinlichkeit bis 2030 – der Post geht in einem Tag auf 100 Millionen Aufrufe. TJ analysiert, was hinter dem Rücktritt steckt: echte Angst, strategisches Kalkül oder PR-Feuerwerk kurz vor Anthropics Börsengang mit angestrebten 2 Billionen Dollar Bewertung. Wer die Verflechtungen zwischen Musk, Altman und Amodei kennt, sieht das Bild klarer.
Ein Rücktritt, 100 Millionen Aufrufe – und kein Podcast, der schweigt
Jacob Coxon hatte auf seinem X-Account noch nie gepostet. Dann trat er öffentlich bei Anthropic zurück – und sein Post erreichte innerhalb eines einzigen Tages über 100 Millionen Aufrufe. TJ beschreibt, dass es in diesem Moment kaum einen Podcast gab, der das Thema nicht aufgriff. Das ist ungewöhnlich. Rücktritte passieren ständig. Dieser hat das Machtgefüge der gesamten KI-Branche sichtbar erschüttert – und laut TJ stehen wir erst am Anfang dieser Debatte. Der Vorwurf von Coxon: Die führenden KI-Labore, darunter Anthropic und OpenAI, verzocken unser aller Leben, weil sie ungebremst auf selbstverbessernde Systeme zurasen.
10 % – und dann legt ein Anthropic-Insider nach
Coxon nennt eine 10-prozentige Chance, dass es bis Ende dieser Dekade, also bis 2030, das war mit der Menschheit. Vier Jahre. Was diese Zahl noch schwerer macht: Evan Hubinger, bei Anthropic intern für die Ausrichtung der KI verantwortlich, springt kurz darauf ebenfalls an die Öffentlichkeit und sagt wörtlich, er persönlich sehe die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, bei über 10 Prozent. TJ hebt hervor, wie ungewöhnlich das ist. Normalerweise sprechen in diesen Firmen nur die Chefs. Dass jemand aus der zweiten oder dritten Reihe eine solche Aussage öffentlich macht, ist ein Signal – nur unklar, welches genau.
Dario Amodeis Essay: Bremsen, nicht stoppen
Einen Tag nach Hubingers Aussage meldete sich CEO Dario Amodei mit einem Essay zu Wort: *We must pace the Frontier*. Sein Kernargument: nicht stoppen, aber das Tempo bewusst reduzieren, damit die Sicherheit mithalten kann. Er legte einen Drei-Stufen-Plan vor – unabhängige Prüfer mit Modellzugang, Koordination demokratischer Staaten und globale Absprachen bei gefährlichen Fähigkeiten. Kurz darauf sagte Sam Altman seinen IPO ab. Und dann sprang ausgerechnet Elon Musk öffentlich hinter Amodei. TJ ordnet ein, warum das alles andere als selbstlos ist – und warum die Reihenfolge dieser Ereignisse zu denken gibt.
Musks 1,5 Milliarden monatlich – und die Abhängigkeit, die er nicht nennt
Musk verdient laut TJ 1,5 Milliarden Euro monatlich daran, dass er Anthropic eines der größten Rechenzentren Amerikas vermietet – Kolossus 1. Gleichzeitig ist er auf Anthropics Modell angewiesen, weil OpenAI sein Modell von der Entwicklungsplattform Cursor zurückgezogen hat. Cursor, das Musk für rund 60 Milliarden gekauft hat, braucht ein starkes Coding-Modell – und das kommt aktuell von Anthropic. Wenn Musk also öffentlich hinter Amodei steht, obwohl beide eigentlich Wettbewerber sind, gibt es dafür handfeste wirtschaftliche Gründe. TJ hat Musk bereits vor Monaten in einem knapp zweistündigen Interview beim *Economist* gehört, in dem Musk andeutete, dass ein gewisses Risiko für die Menschheit bestehe.
Fazit: Echte Sorge, Marketing oder Machtspiel – die Frage bleibt offen
Was all das zusammenbringt, ist Anthropics Börsengang. Vor sechs bis acht Wochen lag die angestrebte Bewertung bei einer Billion Dollar. Inzwischen sind es zwei Billionen – eine Verdoppelung innerhalb von ein bis zwei Monaten. Laut Reuters soll die Vermarktung Mitte Oktober beginnen, noch vor den US-Zwischenwahlen im November. Laut Fortune hat das Unternehmen bei dieser Bewertung bisher keinen Gewinn erwirtschaftet. TJ stellt die entscheidenden Fragen offen: Ist die 10-Prozent-Warnung echte Sorge? Ist sie Marketing? Oder ist sie der Versuch, über ein Kontrollgremium noch mehr institutionellen Einfluss zu sichern? Wer die Zahlen kennt, sieht: Öffentliche Aufmerksamkeit ist hier kein Nebenprodukt – sie ist das Produkt.
Das nimmst du mit
- Wenn ein KI-Forscher aus einer einflussreichen Firma öffentlich eine 10-%-Auslöschungs-Wahrscheinlichkeit nennt, lohnt es sich, den finanziellen Kontext zu prüfen – Anthropic strebt kurz darauf einen Börsengang mit 2-Billionen-Dollar-Bewertung an.
- Wenn Elon Musk einen Konkurrenten wie Anthropic öffentlich unterstützt, hat das handfeste wirtschaftliche Gründe: Er verdient 1,5 Mrd. Euro monatlich durch Rechenzentrums-Vermietung an Anthropic.
- Wenn Dario Amodei (Anthropic-CEO) 'das Tempo bremsen' fordert, meint er nicht Stopp – sondern einen Drei-Stufen-Plan mit unabhängigen Prüfern, Staaten-Koordination und globalen Absprachen.
- Wenn eine Firmenbewertung innerhalb von zwei Monaten von 1 auf 2 Billionen Dollar springt und das Unternehmen noch keinen Gewinn macht, ist öffentliche Aufmerksamkeit kein Nebenprodukt – sie ist das Produkt.
- Wenn alle großen Podcasts gleichzeitig dasselbe Thema aufgreifen, ist es kein Zufall: Dieser Rücktritt hat das Machtgefüge der KI-Branche sichtbar durchgeschüttelt – und die Debatte hat gerade erst begonnen.
Kapitel
- 00:00 Hook: Die 10-%-Aussage und ihre Wucht
- 00:33 Was passiert ist: Der Rücktritt von Jacob Coxon
- 01:31 Evan Hubinger legt nach – >10 % Auslöschungswahrscheinlichkeit
- 02:40 Dario Amodeis Essay: We must pace the Frontier
- 03:20 Sam Altman, Musk und die Interessenkonflikte
- 04:59 Anthropics Börsengang: Von 1 auf 2 Billionen in zwei Monaten
- 06:19 Die offene Frage: Echte Sorge, Marketing oder Machtspiel?
Noch mehr von den Koertings ...
Das KI-Café ... jede Woche Mittwoch (>350 Teilnehmer) von 8:30 bis 10:00 Uhr ... online via Zoom .. kostenlos und nicht umsonst
Jede Woche Mittwoch um 8:30 Uhr öffnet das KI-Café seine Online-Pforten ... wir lösen KI-Anwendungsfälle live auf der Bühne ... moderieren Expertenpanel zu speziellen Themen (bspw. KI im Recruiting ... KI in der Qualitätssicherung ... KI im Projektmanagement ... und vieles mehr) ... ordnen die neuen Entwicklungen in der KI-Welt ein und geben einen Ausblick ... und laden Experten ein für spezielle Themen ... und gehen auch mal in die Tiefe und durchdringen bestimmte Bereiche ganz konkret ... alles für dein Weiterkommen.
Melde dich kostenfrei an ... www.koerting-institute.com/ki-cafe/
Mit jedem Prompt ein WOW! ... für Selbstständige und Unternehmer
Ein klarer Leitfaden für Unternehmer, Selbstständige und Entscheider, die Künstliche Intelligenz nicht nur verstehen, sondern wirksam einsetzen wollen. Dieses Buch zeigt dir, wie du relevante KI-Anwendungsfälle erkennst und die KI als echten Sparringspartner nutzt, um diese Realität werden zu lassen. Praxisnah, mit echten Beispielen und vollständig umsetzungsorientiert.
Das Buch ist ein Geschenk, nur Versandkosten von 9,95 € fallen an. Perfekt für Anfänger und Fortgeschrittene, die mit KI ihr Potenzial ausschöpfen möchten.
Das Buch in deinen Briefkasten ... https://koerting-institute.com/shop/buch-mit-jedem-prompt-ein-wow/
Die KI-Lounge ... unsere Community für den Einstieg in die KI (>2800 Mitglieder)
Die KI-Lounge ist eine Community für alle, die mehr über generative KI erfahren und anwenden möchten. Mitglieder erhalten exklusive monatliche KI-Updates, Experten-Interviews, Vorträge des KI-Speaker-Slams, KI-Café-Aufzeichnungen und einen 3-stündigen ChatGPT-Kurs.
Tausche dich mit über 4.000 KI-Enthusiasten aus, stelle Fragen und starte durch.
Initiiert von Torsten & Birgit Koerting, bietet die KI-Lounge Orientierung und Inspiration für den Einstieg in die KI-Revolution.
Hier findet der Austausch statt ... www.koerting-institute.com/ki-lounge/
Starte mit uns in die 1:1 Zusammenarbeit
Wenn du direkt mit uns arbeiten und KI in deinem Business integrieren möchtest, buche dir einen Termin für ein persönliches Gespräch. Gemeinsam finden wir Antworten auf deine Fragen und finden heraus, wie wir dich unterstützen können. Klicke hier, um einen Termin zu buchen und deine Fragen zu klären.
Buche dir jetzt deinen Termin mit uns ... www.koerting-institute.com/termin/
Weitere Impulse im Netflix Stil ...
Wenn du auf der Suche nach weiteren spannenden Impulsen für deine Selbstständigkeit bist, dann gehe jetzt auf unsere Impulseseite und lass die zahlreichen spannenden Impulse auf dich wirken.
Inspiration pur ... www.koerting-institute.com/impulse/
Die Koertings auf die Ohren ...
Wenn dir diese Podcastfolge gefallen hat, dann höre dir jetzt noch
weitere informative und spannende Folgen an ...
über 500 Folgen findest du hier ... www.koerting-institute.com/podcast/
Wir freuen uns darauf, dich auf deinem Weg zu begleiten!
Das Transkript zum Nachlesen
Zehn Prozent. Also es gibt eine Zehn-Prozent-Chance, dass wir nach deren Aussagen, dass wir in vier Jahren nicht mehr existieren und das von jemanden, der in einem der einflussreichsten KI-Labor der Welt ist. Was ich auch in der Bucht so noch nicht erlebt habe, ich glaube es gab keinen Podcast, der zu der Zeit kompliziert hat, wo man es nicht schon gespürt hat, dass da was kommt, beziehungsweise die Podcasts alle dann darüber berichtet haben, dass nämlich eine einzelne rücktrittende Debatte losgetreten hat, die gerade das gesamte Machtgefühl der Branche durchschüttelt. Wir werden da heute mal so ein bisschen hinter die Kulissen klucken und ich glaube wir stehen da erst am Anfang. Sicherlich ist heute auch noch mal einiges getitelt worden. Was ist passiert? Wir gucken uns auch gleich noch mal die Videos an. Der Entropiq-Forscher, der gerade mal ein paar Monate bei Entropiq gearbeitet hat, der Jacob Coxen heißt er glaube ich, ist zurückgetreten und zwar sehr öffentlich, das in einem X-Profil, was vorher noch nie gepostet wurde. Wo noch nie gepostet wurde, dann haben so ein paar renommierte Leute, da war der Elon Musk zu der Zeit noch nicht dabei, haben das kommentiert und das Ding ist viral gegangen und hat innerhalb von einem Tag über 100 Millionen Aufrufe gehabt, was super ungewöhnlich ist. Man hat auch dann den Elon Musk angeschrieben und hat gesagt, was ist denn da los? Ja interessant. Er hat gesagt, ja ist interessant. Ganz kurze Unterbrechung nochmal an dieser Stelle und vielleicht folgst du uns hier beim Podcast oder an anderer Stelle aber noch nicht auf LinkedIn. Auf LinkedIn teile ich auch jede Woche mehrere Male unterschiedliche Impulse, Hinweise, Neuigkeiten und gebe Einblick in unser Wirken und dazu müsstest du nur eins tun, dich mit mir zu vernetzen unter www.linkedin.com und dann gibst du einfach meinen Namen ein, Thorsten Körting und dann drückst du auf Follow und dann wirst du gleich versorgt als einer der Ersten mit den neuesten Inspirationen und auch transformativen Wirkungen, die die KI ermöglicht. In diesem Sinne jetzt weiter mit der Show und wir sehen uns auf LinkedIn. Philipp, kannst du die bitte auf Mute schalten, deinen Hintergrund bitte drauf achten, das wäre super. Und das Ganze öffentlich mit einer Warnung. Wenn ich drauf gehe, dann erscheint da nichts. Also hier steht erstmal, wenn mein Meeting gestartet, möchten Sie. So, jetzt machen wir es alle hier mal stumm, damit da Ruhe ist im Karton. So, sehr gut. Und er wirft nämlich den führenden KI Labors, also Entropic und Open AI vor, nämlich da, wo er gearbeitet hat, unser Leben zu verzocken, wie er so schön sagt, weil sie ungebegrenzt und auf selbstverbessernde Systeme zurasen und er sagt, es gibt eine ziemlich hohe Chance von zehn Prozent, dass bis Ende dieser Dekade, also 2030, noch vier Jahre, es das war mit der Menschheit. Und dann legt ein gewisser Evan Hubinger nach, er ist bei Entropic für die Ausrichtung der KI verantwortlich und sein Satz wörtlich, er persönlich sieht die Wahrscheinlichkeit, dass KI im kommenden Jahrzehnt die Menschheit auswischt bei über zehn Prozent. Das ist ungewöhnlich, weil eigentlich spricht bei diesen Firmen niemand aus der zweiten, dritten Garde, sondern immer nur die Chefs und die haben sich in dem Fall zurückgehalten. Aber lasst euch das auf der Zunge zergehen, zehn Prozent. Also es gibt eine zehn Prozent Chance, dass wir nach deren Aussagen, dass wir in vier Jahren nicht mehr existieren und das von jemanden, der in einem der einflussreichsten KI Labore der Welt sitzt. So und am Samstag hat sich dann Dario, der CEO, selbst zu Wort gemeldet, einen Tag später mit einem Essay, was Carsten ja auch geteilt hat in der Masterclass kurz danach, als es rausgekommen ist. We must face the frontier. Frontier sind ja die großen Modelle, diese muss man einhegen, sagt er, die muss man reduzieren und sein, also in der Geschwindigkeit reduzieren und sein Kernthema ist nicht stoppen, aber das Tempo bewusst bremsen, damit die Sicherheit mithalten kann. Er hat einen drei Stufenplan vorgelegt, nämlich unabhängige Prüfer mit Zugriff auf die Modelle, Koordination unter demokratischen Staaten und globale Absprachen bei den gefährlichen Fähigkeiten. So und danach hat dann OpenAI Sam Altman seinen IPO abgesagt und Musk ist dann auch noch dem guten Dario von Entrofic beigesprungen. Man muss wissen, Musk verdient 1,5 Milliarden Euro an Entrofic jeden Monat, muss man dazu sagen, weil er Colossus 1, einer der größten Rechenzentren in Amerika, an Entrofic vermietet hat. Und umgekehrt ist Musk vom Modell von Entrofic abhängig, speziell was Cursor angeht. Cursor ist eine große Entwicklungsplattform, die Musk gekauft hat für 60 Milliarden und OpenAI hat sein Modell vom Cursor zurückgezogen, hat gesagt, das dürft ihr nicht mehr nutzen, weil wir Angst haben, dass ihr aus unseren Modellen heraus trainiert. Und das einzige wirklich große und gute Coding-Modell, was Musk noch zur Verfügung hat, ist das von Entrofic. Also da gibt es auch die entsprechenden Verschiebungen und es ist auffällig, dass die sich eben dahinter stellen, weil eigentlich sind es auch Competitors, aber wenn man den Musk, ich werde euch gleich das Interview nochmal zeigen, der hat schon vor einigen, ich glaube es ist fast schon Monate her, bei The Economist, also die Dame war bei ihm in einer der Tesla-Fabriken, hat und das ist eines der Interviews, was ich auch auf dem John Neutral sehr ausführlich gehört habe, knapp zwei Stunden lang, hat er schon gesagt, there is a slight chance, dass wir als Menschheit irgendwie in ein Risiko laufen. So und jetzt kommt der Teil, der wirklich, der einen hellhörig macht, denn das alles passiert, während Entrofic selbst auf den eigenen Börsengang zugeht mit einer Zielbewertung von rund zwei Billionen Dollar. Für die, die das verfolgen, Michael und ihr seid da ja auch nah dran, das war vor sechs, acht Wochen, war das noch eine Billion Dollar. Jetzt sind es zwei, also eine Marktkapitalisierungsverdoppelung, die man vorher sieht, von hundert Prozent und das innerhalb von ein bis zwei Monaten. Laut Reuters möchte man gerne ab Mitte Oktober vermarkten, um noch vor den US-Zwischenwahlen, die im November stattfinden, die Midterms, ihr habt es vielleicht gehört und das sind alle irgendwie auch ein bisschen nervös. Michael hat das ja auch im letzten KI-Update erwähnt, dass man das vorher durch und rum haben will, weil man weiß nicht, was halt bei den Midterm-Wahlen passiert, ob es die Republikaner nochmal in dieser Form schaffen. So und laut Fortune hat das Unternehmen bei dieser Bewertung bisher noch keinen Gewinn gemacht, aber ich darf euch sagen, die Taschen sind voll. Ich glaube, 60 Milliarden sind es bisher jetzt schon, gleich Juli, gleich Michael hast du da aktuelle Zahlen. Und jetzt die Fragen, über die wir auch diskutieren wollen. Ich würde gerne noch zwei, drei Videos zeigen, wenn es okay ist, bevor wir dann einsteigen. Ist das eine echte Sorge? Ist das Marketing? Ist das etwas, wo über solch ein Kontrollprämium sich die großen Modelle noch mehr Einfluss wünschen? Also wer da so die großen Podcasts hört, der sieht, dass das oder hört, dass das in so eine Richtung gerade diskutiert wird. Frag es, welche Rolle spielt Elon Musk?