Die EU-Kommission hat ein Untersuchungsverfahren gegen den Chatbot Grok von X eingeleitet, um zu prüfen, ob die Plattform die Risiken bei der Nutzung angemessen bewertet und reduziert hat. Der Grund für das Verfahren ist eine Reihe von Fällen, in denen Nutzer im „spicy mode“ unerlaubte KI-generierte Bilder von Jugendlichen in Bikinis erstellten.

Die EU-Kommission warnte vor einem „unfassbaren Verhalten“, das nicht toleriert werden kann. X hat bereits Maßnahmen ergriffen, um die technische Lücke zu schließen und Nutzer zu sperren, die gegen diese Richtlinien verstoßen.

Das Untersuchungsverfahren wurde 2023 eingeleitet und ist nun verlängert worden. Die EU-Kommission kann eine hohe Geldstrafe drohen, wenn X nicht den Anforderungen entspricht.

Die Situation zeigt, wie wichtig es ist, die Risiken bei der Nutzung von KI-Technologien angemessen zu bewerten und zu reduzieren.