#567 02.10.2026 · 11:43 min

Lokal statt Cloud: Wie TJ KI-Anwendungen ohne Datenleck baut

🎧 Apple Podcasts 🟢 Spotify

Folge anhören

Datenschutz und KI-Geschwindigkeit schließen sich nicht aus – wenn du verstehst, wo Kundendaten überhaupt ins Spiel kommen. TJ trennt scharf zwischen KI-gestützter Entwicklung und KI-betriebenem Betrieb und zeigt, warum diese Unterscheidung alles ändert. Du hörst, wie er live vor 400 Leuten in einer Stunde eine vollständige Matching-Plattform mit lokalen Open-Source-Modellen gebaut hat – kein einziges Kundendaten-Bit hat das Unternehmensnetz verlassen. Warum Nvidia gerade 20 Milliarden für Hugging Face bezahlt hat, erklärt den Markt besser als jede Analystenprognose.

Entwicklung vs. Betrieb – der Unterschied, der Datenschutz-Debatten auflöst

TJ macht eine Unterscheidung, die in den meisten KI-Diskussionen fehlt: Durch was entsteht eine Lösung – und wie betreibst du sie später? Wer das trennt, merkt schnell, dass die Datenschutz-Bedenken meist nur eine Phase betreffen. Während der Entwicklung fließen keine Unternehmensdaten, keine Kundendaten, kein einziges relevantes Bit zu einem externen Anbieter. Du entwickelst Software – du schickst Prompts, keine Payloads. Erst im Betrieb, wenn die Lösung mit echten Daten läuft, wird die Frage relevant, welches Modell welche Informationen verarbeitet. Wer diese beiden Phasen sauber auseinanderhält, kann im Entwicklungsprozess bedenkenlos die leistungsfähigsten Frontier-Modelle nutzen – und im Betrieb auf sichere lokale Alternativen wechseln.

Vibe-Engineering: Immer das beste Modell, immer sofort verfügbar

TJ arbeitet in Claude Code – nicht in einer klassischen IDE wie VS Code – und wechselt das Modell per Klick unten rechts im Interface. Von Claude 3.5 auf Claude 3.7, von Opus 4 auf Opus 5, sobald eine neue Version verfügbar ist. Das klingt nach einem Detail, ist aber der Kern seines Entwicklungstempos: Er hat immer das aktuell stärkste Code-Modell im Einsatz, ohne Konfigurationsaufwand. Dieses Prinzip nennt er Vibe-Engineering – den Entwicklungsprozess konsequent auf KI-Qualität ausrichten, statt KI als Add-on in einen bestehenden Workflow zu pressen. Das Ergebnis ist nicht nur Geschwindigkeit, sondern eine Qualität, die mit manueller Entwicklung schlicht nicht mithalten kann.

Grüne Wiese statt Anflanschen – warum KI-zentriert neu bauen gewinnt

Die meisten Unternehmen kleben KI an bestehende Systeme. TJ geht den anderen Weg: KI-zentriert neu bauen, auf grüner Wiese. Er hat die Akademie vollständig neu aufgesetzt, statt WordPress irgendwie zu erweitern. Der Vorteil ist nicht nur technischer Natur – es ist auch ein mentaler Befreiungsschlag. Wer neu baut, muss keine Kompromisse mit Legacy-Architekturen schließen und kann Qualität und Geschwindigkeit so kombinieren, wie es mit gewachsenen Systemen schlicht nicht möglich ist. Die Migration kommt danach, wenn das neue System funktioniert. Kein großes Risiko – aber ein klarer Schritt, der Mut erfordert und den die meisten scheuen.

6.000 Open-Source-Modelle, Hugging Face und Nvidias 20-Milliarden-Wette

Im Betrieb braucht es kein Frontier-Modell. Auf Hugging Face stehen über 6.000 – inzwischen vielleicht 10.000 – Open-Source-Modelle zur Verfügung, die sich vollständig lokal betreiben lassen. Nvidia hat das erkannt und Hugging Face für 20 Milliarden Dollar gekauft. Der Grund: Damit kann Nvidia jetzt einen vollständigen vertikalen Stack liefern – von der CPU über das Betriebssystem bis zu lokalen KI-Modellen, die direkt im eigenen Rechenzentrum laufen. Das macht Unternehmen unabhängig von OpenAI, Anthropic und Co. Nvidia hat seine Gewinnprognose für das Folgejahr von 40 auf 70 Prozent angehoben – weil dieser vollständige Stack ein neues Marktsegment öffnet, ähnlich wie Android und Apple den Mobilfunkmarkt aufgeteilt haben: ein Markt zwischen Closed-Source und Open-Source-KI.

Matching-Plattform in einer Stunde, Testimonials vollautomatisch – so sieht das in der Praxis aus

TJ hat live vor 400 Zuschauern im KI-Café eine Matching-Plattform für Interim-Manager gebaut – in einer Stunde, mit Claude 5 als Entwicklungsmodell und LM Studio mit zwei lokalen Modellen im Betrieb. Die Plattform matcht Tausende Lebensläufe gegen Projektanfragen und begründet die Auswahl nachvollziehbar. Kein einziges Kundendaten-Bit hat das System verlassen. Dasselbe Prinzip steckt hinter der vollautomatischen Testimonial-Pipeline des Koerting Institute: Ein halbstündiges Kundeninterview wird per lokaler KI zu einem fertigen 15-Minuten-Video – mit Hook, Logo, eingeblendeten Fragen, den besten Antwort-Ausschnitten, CI-konformem Design und automatischer Veröffentlichung auf der Website. Das Team drückt nur noch den Freigabe-Knopf. Früher war das anderthalb Tage Arbeit. Möglich macht das eine Kombination aus vier bis fünf spezialisierten Open-Source-Modellen – darunter eines, das per Whisper-Transkription sekundengenau schneidet.

Fazit: Datenschutz ist kein KI-Hindernis – wenn du weißt, wo du hinschaust

Die entscheidende Erkenntnis dieser Folge ist einfach: Datenschutz und KI-Geschwindigkeit sind kein Widerspruch. Sie erfordern nur sauberes Denken in zwei Phasen. Entwickle mit den besten Modellen, die der Markt hergibt – denn dabei gehen keine Kundendaten raus. Betreibe mit lokalen Open-Source-Modellen, die auf spezifische Aufgaben trainiert sind – denn dabei verlässt kein Datum das Haus. Wer das versteht und den Schritt zur grünen Wiese wagt, baut heute Lösungen, die Legacy-Systeme in ein bis zwei Jahren einholen werden. Nicht irgendwann. Sondern jetzt.

Das nimmst du mit

Während der Entwicklung mit KI gehen null Unternehmensdaten raus – Kundendaten spielen in der Entwicklungsphase schlicht keine Rolle.
Frontier-Modelle wie Claude oder GPT brauchst du nur zum Bauen, nicht zum Betreiben: 6.000+ Open-Source-Modelle auf Hugging Face erledigen die meisten Aufgaben vollständig lokal.
Nvidia kauft Hugging Face für 20 Mrd., weil sie jetzt den kompletten vertikalen Stack liefern können – von der CPU bis zur lokalen KI im eigenen Rechenzentrum. Das ist die Alternative zu OpenAI und Co.
KI-zentriert neu bauen schlägt KI ans Bestehende anflanschen: Wer grüne Wiese wählt, kann Qualität und Geschwindigkeit kombinieren, die mit Legacy-Systemen nicht erreichbar sind.
Vollautomatische Content-Pipelines sind heute möglich: Ein halbstündiges Kunden-Interview wird per lokaler KI zu einem fertig geschnittenen, CI-konformen 15-Minuten-Testimonial – das Team drückt nur noch Freigabe.

Kapitel

00:00 Zwei Fragen: Wie entsteht eine Lösung – und wie betreibst du sie?
01:18 Vibe-Engineering: Immer das beste Modell im Entwicklungsprozess nutzen
02:57 Während der Entwicklung gehen null Kundendaten raus
04:00 KI-zentriert neu bauen statt anflanschen
04:57 Open-Source-Modelle: 6.000+ Alternativen zu Frontier-Modellen, vollständig lokal
05:57 Nvidia kauft Hugging Face – warum das den Markt verändert
07:30 Live-Demo: Matching-Plattform für 1.000 Interim-Manager in einer Stunde gebaut
08:57 Vollautomatische Testimonial-Pipeline – von Interview zu fertigem Video ohne manuelle Arbeit

Noch mehr von den Koertings ...

Das KI-Café ... jede Woche Mittwoch (>350 Teilnehmer) von 8:30 bis 10:00 Uhr ... online via Zoom .. kostenlos und nicht umsonst
Jede Woche Mittwoch um 8:30 Uhr öffnet das KI-Café seine Online-Pforten ... wir lösen KI-Anwendungsfälle live auf der Bühne ... moderieren Expertenpanel zu speziellen Themen (bspw. KI im Recruiting ... KI in der Qualitätssicherung ... KI im Projektmanagement ... und vieles mehr) ... ordnen die neuen Entwicklungen in der KI-Welt ein und geben einen Ausblick ... und laden Experten ein für spezielle Themen ... und gehen auch mal in die Tiefe und durchdringen bestimmte Bereiche ganz konkret ... alles für dein Weiterkommen.
Melde dich kostenfrei an ... www.koerting-institute.com/ki-cafe/

Mit jedem Prompt ein WOW! ... für Selbstständige und Unternehmer
Ein klarer Leitfaden für Unternehmer, Selbstständige und Entscheider, die Künstliche Intelligenz nicht nur verstehen, sondern wirksam einsetzen wollen. Dieses Buch zeigt dir, wie du relevante KI-Anwendungsfälle erkennst und die KI als echten Sparringspartner nutzt, um diese Realität werden zu lassen. Praxisnah, mit echten Beispielen und vollständig umsetzungsorientiert.
Das Buch ist ein Geschenk, nur Versandkosten von 9,95 € fallen an. Perfekt für Anfänger und Fortgeschrittene, die mit KI ihr Potenzial ausschöpfen möchten.
Das Buch in deinen Briefkasten ... https://koerting-institute.com/shop/buch-mit-jedem-prompt-ein-wow/

Die KI-Lounge ... unsere Community für den Einstieg in die KI (>2800 Mitglieder)
Die KI-Lounge ist eine Community für alle, die mehr über generative KI erfahren und anwenden möchten. Mitglieder erhalten exklusive monatliche KI-Updates, Experten-Interviews, Vorträge des KI-Speaker-Slams, KI-Café-Aufzeichnungen und einen 3-stündigen ChatGPT-Kurs.

Tausche dich mit über 4.000 KI-Enthusiasten aus, stelle Fragen und starte durch.
Initiiert von Torsten & Birgit Koerting, bietet die KI-Lounge Orientierung und Inspiration für den Einstieg in die KI-Revolution.
Hier findet der Austausch statt ... www.koerting-institute.com/ki-lounge/

Starte mit uns in die 1:1 Zusammenarbeit
Wenn du direkt mit uns arbeiten und KI in deinem Business integrieren möchtest, buche dir einen Termin für ein persönliches Gespräch. Gemeinsam finden wir Antworten auf deine Fragen und finden heraus, wie wir dich unterstützen können. Klicke hier, um einen Termin zu buchen und deine Fragen zu klären.
Buche dir jetzt deinen Termin mit uns ... www.koerting-institute.com/termin/

Weitere Impulse im Netflix Stil ...
Wenn du auf der Suche nach weiteren spannenden Impulsen für deine Selbstständigkeit bist, dann gehe jetzt auf unsere Impulseseite und lass die zahlreichen spannenden Impulse auf dich wirken.
Inspiration pur ... www.koerting-institute.com/impulse/

Die Koertings auf die Ohren ...
Wenn dir diese Podcastfolge gefallen hat, dann höre dir jetzt noch

weitere informative und spannende Folgen an ...
über 500 Folgen findest du hier ... www.koerting-institute.com/podcast/

Wir freuen uns darauf, dich auf deinem Weg zu begleiten!

Das Transkript zum Nachlesen

Warum hat Nvidia, Mike, Hugging Face gekauft, 20 Milliarden, weil sie jetzt vollständig in der Lage sind, dir einen vertikalen Stack in deine Unternehmen zu liefern, von der CPU über Betriebssystemen, über alle drum und dran mit lokalen KIs und sagt, ich stelle dir das Ding in dein Rechenzentrum und du bist unabhängig von Entropic und von den Gründen. Darf man auf zwei Sachen unterscheiden? Und so arbeiten wir. Die eine Sache ist, durch was entsteht eine Lösung und wie betreibst du später die Lösung? Das ist eine gute Erkenntnis, die habe ich schon ein paar Mal so reflektiert, aber vielleicht nicht in der Tiefe. Es gibt zwei Aspekte, warum wir in der Lage sind, schnell und qualitativ hochwertig und immer besser diese neuen Features, diese neuen Entwicklungen voranzutreiben. Weil wir durch die KI entwickeln, also Fable 5.1, JGPT 6 Codex, dadurch haben wir immer die besten, also aus meiner Wahrnehmung, das sind die zwei führenden besten Entwicklungs-KIs oder KIs, die auf Code-Entwicklung maßgeblich optimiert sind. In der Lage sind, immer die beste Vibe-Coding oder Vibe-Engineering-Qualität in unseren Entwicklungsprozessen zu integrieren. Weil du einfach unten rechts das Modell auswählst, also wir sind jetzt in Clued Code, ich mache nicht über VSCode oder Virtual Code oder sowas, diese Entwicklungsumgebung, wo ich da nochmal anders dran gehe, sondern ich mache das ja alles in Clued Code in der App. Und da wechsle ich einfach das Modell und gehe von Fable 5 auf Fable 5.1 oder von Opus 4.8 auf Opus 5. Das heißt, ich habe immer, das ist also das der Gesellschaft zur Verfügung stehendste, beste Modell eines des führenden Anbieters in diesem Bereich weltweit zur Verfügung, womit ich durch die KI entwickle. So, das ist das eine. Da brauchen wir uns, muss ich ehrlich sagen, uns allen über Daten keine Sorgen machen. Weil während der Entwicklung spielen Unternehmensdaten, spielen Kundendaten überhaupt keine Rolle. Null. Spielen keine Rolle. Die gehen da gar nicht rein. Ja, wenn ich da eine Lisa entwickle und sage, ich will jetzt da mit Hey Jen anbinden und ich will, dass die spricht und so, ich habe ja gestern einen Screenshot gemacht, die hovert bei mir über den Desktop, mit der kannst du jetzt Angebote erstellen und sie coacht dich live auf Basis, und jetzt komme ich gleich zu dem, zu der nächsten, auf Basis unserer Akademieinhalte, coacht sie uns oder coacht sie während des Prozesses. Jetzt werde Thorsten oder Birgit nebendran sitzen und dich dabei live unterstützen, wie du ein Angebot erstellst. Das ist seit gestern, wie funktioniert das? Und die spricht und Lippen synchron und ist freundlich mit dir und weiß alles. So, kommen wir jetzt gleich zu dem Ding. Also dieses durch die KI und durch das beste Modell zu entwickeln, ist das eine. Und das zweite ist, weil wir KI zentriert entwickeln. Es ist eine andere Entwicklungsherangehensweise. Ja, es ist grüne Wiese. Das ist ein anderer technologischer Ansatz, als die meisten arbeiten. Die meisten flanschen KI an ihr Bestehendes dran. Ich entwickle neu. Ja, ich habe den Mut gehabt, die Akademie vollständig auf neue Beine zu stellen und nicht in Wordpress irgendwas dran zu flanschen. Den Mut habe ich gehabt. Also da braucht es keinen Mut, sondern du musst einfach machen und wenn es funktioniert, dann machst du die Migration. Da brauchst du dir, Tina und Michael kannst du das bestätigen, brauchst du dir, um Daten, keine Gedanken zu machen. Keine Sorgen. Da geht nicht ein Kundenbitt zu Entropiq, weil du nur Software entwickelst. Dann, und das ist ja auch das Geile, das habe ich ja auch schon zigmal gezeigt und auch gemacht. Die KI, die dann in der Lösung ist, muss kein Frontier-Modell sein. Da musst du nicht Sonnet 5 oder Haiku oder Opus 5 integrieren. Es stehen dir 6.000 oder mittlerweile weiß ich vielleicht sogar 10.000 Open Source-Modelle auf Hugging Face oder auf anderen Plattformen zur Verfügung, um jegliche Aufgaben, also fast, aber es ist immer die Frage, was du machen willst, jegliche Aufgaben, die aktuell mit der KI möglich sind, in deiner Applikation integriert auszuführen. Und die kannst du vollständig lokal betreiben. Vollständig? Warum hat Nvidia, Mike, Hugging Face gekauft, 20 Milliarden, weil sie jetzt vollständig in der Lage sind, dir einen vertikalen Stack in deine Unternehmen zu liefern? Von der CPU über Betriebssystem, über alle drum und dran mit lokalen KIs und sagt, ich stelle dir das Ding in dein Rechenzentrum und du bist unabhängig von Entropiq und von den Großen. Damit kannst du alle Anwendungsfälle machen. Das sind die jetzt in der Lage zu liefern. Ja, deswegen haben sie ihre Gewinnprognosen nächstes Jahr von 40 auf 70 Prozent erhöht, weil sie jetzt komplette Vertikalität anbieten. Die anderen müssen sich da noch hinentwickeln, die haben nämlich noch keine eigenen Prozessoren, die haben noch nicht den Stack komplett. Da müssen die, also den IT-Stack, da müssen die noch ran, also Entropiq Open AI, da sind die 2-3 Jahre hinten dran und Nvidia hat einen 5-6-7-Jahres-Vorsprung mit dem Kaufen dieser Open Source-Modelle. Plus, dass damit ein Markt zwischen Closed und Open gerade entsteht, so wie wir es mit Android und mit Apple haben für Mobilfunkgeräte. Und dann, wenn du das so machst, Tina, also im Betreiben deiner Anwendung lokale KI zu nutzen. KI auf irgendeinem Mac-Studio läuft, die hier läuft, die gleich dem Jonas im Rechenzentrum läuft, kannst du ja alles machen. Ich habe es gezeigt live im KI-Café mit Falk Janotta. Dort haben wir die Matching-Plattform, hochsensible Daten, tausend Interim-Manager-Daten für die gesamten Lebensläufe, die gegen Projektanfragen gematched werden, wo er sagt, ich habe hier eine Projektanfrage, gib mir den besten. Und du musst ja mittlerweile auch begründen, warum du den gewählt hast. Das kann die KI dir auch lückenlos nachweisen. Du hast den Rechenkern, kannst du loslösen, den kannst du dir beschreiben lassen, wie diese Algorithmen, also wie du auch als Mensch das bewerten würdest, nur halt viel stringenter. Das muss der alles machen, wenn der Interim-Manager vermittelt. Der vermittelt Interim-Manager in großer Projekte. So, ganz kurze Unterbrechung. Du kennst vielleicht noch nicht das KI-Café des Curtin-Instituts, eines der führenden Formate im deutschsprachigen Raum. Mit über 400 Teilnehmern kommen wir jede Woche Mittwoch von 8.30 Uhr bis um 10 Uhr zusammen und lassen uns inspirieren. Wir geben neue Impulse mit dazu. Wir haben spannende Anwendungsfälle, die wir live auf der Bühne lösen. Wir haben Experten mit am Start, die wir interviewen, die uns Einblicke hinter die Kulissen geben und vieles, vieles mehr. Und das in einer spannenden Community. Und du kannst kostenlos dabei sein. Melde dich gerne an unter curtin-institut.com slash ki-café und wir sehen uns nächste Woche Mittwoch um 8.30 Uhr. Bis dann. In einer Stunde, das habt ihr, der wart ihr wahrscheinlich nicht dabei, aber das ist acht Wochen her. In einer Stunde habe ich das durch die KI mit Fable 5 oder Opus 5, weiß nicht mehr, durch die KI, diese Anwendung, diese Matching-Plattform als lokal lauffähige Web-Applikation entwickelt mit lokaler KI. LM-Studio, zwei Modelle. Da ist kein Bit, kein Bit von Kundendaten geht jemals nach draußen. Es bleibt alles lokal, bleibt alles in deinem Kosmos. Und das habe ich in einer Stunde live vor 400 Leuten entwickelt. Und das ist, und dadurch, das ist der letzte Satz, und dadurch, dass die KI diese 6000 Modelle kennt, also Fable 5 oder Opus 5, kennt diese Modelle, ansonsten schickst du die dahin und sagst, such das richtige Modell aus, kennt die Modelle, ist die Magie dahinter, dass sie für spezifische Aufgaben das richtige lokale Modell integrieren können, damit spezifische Aufgaben perfekt gelöst werden. Wir lassen Testimonials, Maik, vollständig automatisiert überarbeiten. Das läuft bei uns 100% KI-basiert vollautomatisch. Eine Nina redet eine halbstündige, halbe Stunde mit einem Kunden, quatscht am Anfang, am Ende quatscht sie und in der Mitte geht sie so ein Skript durch, also stellt Fragen an den Kunden und geht so mehr oder weniger ein Skript durch. Und die KI, die wir da gebaut haben, nimmt diese halbe Stunde, also kriegt die halbe Stunde geschickt, nimmt die und überarbeitet diese halbe Stunde vollständig automatisch, dass du am Anfang einen Hook hast. Dann kommt ein Logo, wird eingeblendet, eine Musik, dann wird eine Frage eingeblendet, dann stellt Nina die Frage, dann wird der beste Ausschnitt aus der Antwort des Kunden herausgelöst und dahinter geklebt. Damit aus einem halbstündigen Interview ein 15-minütiges Testimonial-Video entsteht, was vollständig mit unserer CI, vollständig mit Kacheln, mit allem drum und dran und wird automatisch auf die Webseite schon publiziert und du musst nur noch Qualität prüfen und den Freigabeknopf drücken. Perfekt abgemischt. Testimonials, das machen wir mit Podcasts, auch die werden perfekt abgemischt. Unsere Marketing-Materialien, die wir jetzt sammeln, aber noch nicht einsetzen, wird mit der KI perfekt gemacht. Die Videopipeline, wisst ihr, die läuft direkt in die Akademie rein und da braucht das Team Howard nichts mehr machen, muss nur noch an die Stelle schieben und fertig. Und früher war das ein Tag Arbeit oder anderthalb. Und das ist nur möglich, weil das alles lokal passiert mit ungefähr, ich glaube, vier oder fünf dediziert ausgesuchten Open Source KI Modellen, die auf ganz bestimmte Aufgaben trainiert sind. Untertitel der Amara.org-Community