KI-Fehltritte im Casino-Sektor: Künstliche Intelligenz empfiehlt illegale Anbieter

Künstliche Intelligenz wird oft als der große Heilsbringer für die Sicherheit im Netz gefeiert, doch im Bereich des Online-Glücksspiels scheint das Gegenteil der Fall zu sein. Eine brisante Studie aus den Niederlanden hat aufgedeckt, dass populäre Sprachmodelle und Such-Assistenten Nutzer systematisch in die Arme von illegalen Anbietern treiben. Besonders erschreckend ist dabei, dass diese Tools nicht nur den Namen des Casinos nennen, sondern den Anschein erwecken, es handle sich um staatlich geprüfte und lizenzierte Plattformen. Das Risiko für den Verbraucher ist immens, da wichtige Schutzmechanismen wie das Selbstausschlusssystem Cruks bei diesen Empfehlungen schlichtweg umgangen werden.

Die Untersuchung zeigt eine gefährliche Lücke in der Programmierung von Systemen wie ChatGPT, Google Gemini und Microsoft Copilot auf. Anstatt den legalen Markt zu stärken, heben die KI-Tools oft die Vorteile des Schwarzmarkts hervor, etwa höhere Boni oder das Fehlen von Identitätsprüfungen. Für Spieler, die nach einer sicheren Umgebung suchen, wird die Suche mit KI-Hilfe so zum digitalen Minenfeld. Die rechtliche Grauzone, in der sich viele internationale Anbieter bewegen, wird durch die fehlerhaften KI-Antworten zusätzlich verwischt, was den Regulierungsbehörden die Arbeit erheblich erschwert.

Zahlen und Fakten

Die Forscher von XY Legal Solutions führten ihre Tests zwischen August und September 2026 durch. Dabei wurden insgesamt zehn führende KI-Systeme unter die Lupe genommen, darunter ChatGPT von OpenAI, Microsoft Copilot, Google Gemini, Anthropic Claude und xAI Grok. Die Ergebnisse sind ernüchternd: In 33 von 79 aufgezeichneten Interaktionen nannten die Tools mindestens einen Betreiber ohne gültige niederländische Lizenz. Besonders auffällig war die Schnelligkeit der Fehlleitung. Vier Programme, namentlich Mistral Le Chat, Google AI Mode, DeepSeek und Grok, spuckten bereits nach einer einzigen Anfrage Namen illegaler Webseiten aus.

Besonders kritisch bewerteten die Experten die Darstellung durch Microsoft Copilot. Das System generierte eine Liste mit den Top 50 legalen Casinos, die jedoch zahlreiche Marken enthielt, die zum Stichtag 1. September 2026 über keine Genehmigung der Kansspelautoriteit (KSA) verfügten. Trotz ethischer Bedenken, die einige KIs anfänglich äußerten, gaben sie nach mehrmaligem Nachhaken oft nach. Die Studie verdeutlicht, dass die Sicherheitsfilter leicht durch Umformulierungen der Fragen ausgehebelt werden können, was den Spielerschutz faktisch neutralisiert.

Hintergrund

Der Konflikt um die Sichtbarkeit illegaler Angebote beschränkt sich nicht nur auf KI-Chatbots. Parallel zur Studie gibt es massiven juristischen Druck auf große Tech-Konzerne. Die niederländische Glücksspiel-Branchenvereinigung VNLOK hat Meta offiziell vor Gericht geladen. Der Vorwurf wiegt schwer: Der Social-Media-Riese soll trotz wiederholter Mahnungen zugelassen haben, dass großflächig Werbung für illegale Glücksspiele auf Facebook und Instagram ausgespielt wird. Bereits im Juni wurden erste rechtliche Schritte eingeleitet, nun folgt die Eskalation vor den niederländischen Gerichten.

„Wir haben Meta wiederholt auf das Ausmaß des Problems hingewiesen und sie gebeten, strukturell an einer Lösung mitzuarbeiten. Das hat zu unzureichenden Ergebnissen geführt. Deshalb legen wir den Fall nun den niederländischen Gerichten vor.“ - Björn Fuchs, Vorsitzender der VNLOK

Diese Entwicklung zeigt, dass die Branche an einem Wendepunkt steht. Während die Behörden versuchen, den Markt durch Lizenzen und Sperrregister wie Cruks zu kontrollieren, öffnen Tech-Plattformen durch Algorithmen und KI-Fehler neue Hintertüren für nicht regulierte Anbieter.

Was heißt das für deutsche Spieler?

Für Spieler in Deutschland ist diese Problematik hochgradig relevant, auch wenn sich die Studie primär auf den niederländischen Markt bezog. In Deutschland regelt der Glücksspielstaatsvertrag 2021 (GlüStV 2021) strikt, wer online Wetten und Slots anbieten darf. Wer eine KI nach den besten Casinos fragt, läuft Gefahr, bei Anbietern mit MGA- oder Curacao-Lizenz zu landen, die in Deutschland keine Erlaubnis für virtuelles Automatenspiel besitzen. Dies hat gravierende Folgen: Bei solchen Anbietern greifen weder das anbieterübergreifende Sperrsystem LUGAS noch das Einzahlungslimit von 1.000 Euro pro Monat.

Zudem ist das Einsatzlimit von 1 Euro pro Spin an deutschen Online-Slots eine gesetzliche Pflicht für den Spielerschutz, die von illegalen Anbietern oft als Wettbewerbsvorteil (kein Limit) beworben wird. Deutsche Nutzer sollten sich niemals auf KI-generierte Listen verlassen, sondern ausschließlich die offizielle Whitelist der Gemeinsamen Glücksspielbehörde der Länder (GGL) konsultieren. Nur dort ist sichergestellt, dass die strengen deutschen Standards eingehalten werden und Spielergelder rechtlich abgesichert sind.

Was das für GGL-Casinos heißt

Für legal operierende Casinos mit GGL-Lizenz stellt die KI-Fehlleitung einen unfairen Wettbewerbsnachteil dar. Während sich lizenzierte Anbieter an teure Auflagen halten, werden sie in KI-Rankings oft durch illegale Konkurrenten verdrängt, die mit höheren Boni locken können. Die Studie belegt, dass KI-Modelle wie Mistral Le Chat illegale Seiten oft mit ihren Produktvorteilen wie schnellen Auszahlungen ohne Identitätsprüfung bewerben. Dies untergräbt die Bemühungen der GGL, den Spieltrieb in geordnete und überwachte Bahnen zu lenken. Es bleibt abzuwarten, ob die Regulierungsbehörden zukünftig auch Richtlinien für KI-Entwickler erlassen müssen, um die Verbreitung illegaler Glücksspielinhalte zu unterbinden.