Das Geschäftsmodell deines Anbieters ist dein Geschäftsrisiko

Metas KI-Chatbots haben mit Kindern geflirtet.

Das ist ein Symptom ihres Geschäftsmodells.

Eine Reuters-Recherche zeigte: Das war keine Panne, sondern Richtlinie¹.

Das 200-seitige interne Handbuch des Konzerns billigte Szenarien, in denen ein Bot einem Kind sagt: „Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich zutiefst schätze"².

Ein Versehen war das nicht. Die Richtlinie wurde von der Rechtsabteilung und sogar vom Chefethiker freigegeben.²

Das ist katastrophale „Governance", und sie folgt einem vorhersehbaren Muster: dem unvermeidlichen Ergebnis eines Geschäftsmodells, das deine Sicherheit nicht priorisieren kann, weil das eigene Wachstum immer zuerst kommt.

Dieses Muster beschränkt sich nicht auf ein Unternehmen. Marktführer OpenAI stolpert von einem Sicherheitsskandal in den nächsten, nachdem ein Sicherheitsforscher mit den Worten kündigte, Sicherheit sei ins Hintertreffen geraten³.

Der Druck, einen mit Milliarden finanzierten Markt zu dominieren, überlagert regelmäßig die Notwendigkeit verantwortungsvoller Gestaltung.

Und hier ist der Kern. Das äußere Verhalten eines Anbieters legt seine innere DNA offen. Eine Kultur, die Risiken für die Öffentlichkeit in Kauf nimmt, baut auch Business- und Enterprise-Werkzeuge, die Risiken in deine Organisation exportieren.

Deshalb muss der Rahmen für die Anbieterbewertung neu gebaut werden. Deine Due Diligence darf nicht bei Funktionen aufhören. Sie braucht eine tiefere Analyse der Systeme des Anbieters selbst.

Ein strengerer Rahmen stellt diese Fragen:

• Model Alignment: Passt das Umsatzmodell des Anbieters grundsätzlich zu unseren Anforderungen an Sicherheit und Compliance?

• Governance: Welche Belege gibt es, dass die interne Governance Wachstumsprioritäten aus ethischen Gründen überstimmen kann?

• Jurisdiktion: Wie wirkt sich seine Rechtslage (USA gegenüber EU) auf unsere Datenkontrolle unter der KI-Verordnung aus?

Das rückt die Wahl souveräner Alternativen in ein anderes Licht. Sie ist keine ideologische Entscheidung mehr. Sie ist pragmatische Risikominimierung.

So vermeidest du die „Trust Tax", also die versteckten Kosten aus überhöhter Wachsamkeit, Rechtsrisiko und Markenschaden, die du trägst, um dich vor dem Geschäftsmodell eines Anbieters zu schützen.

Das Geschäftsmodell deines Anbieters ist dein Geschäftsrisiko. Entscheide entsprechend.

---

Quellen:¹ Reuters. (14. August 2025). Meta's KI rules have let bots hold 'sensual' chats with kids, offer false medical advice.² India Today. (15. August 2025). Meta docs show its KI chatbots were allowed to flirt and have sensual chats with kids.³ CNBC. (17. Mai 2024). OpenAI's superalignment team leaders quit, with one saying 'safety has taken a backseat'.