Warum der Character.AI-CEO seine 6-jährige Tochter immer noch die App nutzen lässt

(SeaPRwire) –   Willkommen zurück zu In the Loop, dem neuen zweimal wöchentlich erscheinenden Newsletter von TIME über KI. Wenn Sie dies in Ihrem Browser lesen, warum abonnieren Sie ihn nicht, um die nächste Ausgabe direkt in Ihren Posteingang zu erhalten?

Wer ist zu kennen: Karandeep Anand, CEO von Character.AI

Character.AI steht unter Beschuss. Die Chatbot-Plattform, die es Nutzern ermöglicht, mit KIs zu chatten, die fiktive Charaktere personifizieren, ist Gegenstand mehrerer Klagen – darunter eine von Megan Garcia, einer Mutter, deren 14-jähriger Sohn sich das Leben nahm, nachdem er von einem der Bots besessen war, der ihn angeblich dazu ermutigte, sein Leben zu beenden.

Im Zuge dieser und weiterer Klagen gab Character.AI im letzten Monat eine große Ankündigung bekannt: Es würde Nutzern unter 18 Jahren verbieten, “offene Gespräche” mit den Chatbots auf seiner Plattform zu führen. Dies war eine enorme Wende für ein Unternehmen, das angibt, dass die Generationen Z und Alpha den Kern seiner über 6 Millionen täglich aktiven Nutzer ausmachen, die durchschnittlich 70 bis 80 Minuten pro Tag auf der Plattform verbringen.

Letzte Woche traf ich mich mit dem neuen CEO von Character.AI, Karandeep Anand, um das Verbot und die Gründe dafür zu besprechen.

Laut Anand hat der Zeitpunkt des Verbots nichts mit den rechtlichen Fällen zu tun, denen sich Character.AI gegenübersieht. Garcias Klage wegen widerrechtlicher Tötung, betonte er, stamme aus der Zeit vor seiner Amtszeit als CEO. Und er verteidigte die Bilanz der Plattform bei der Schaffung von Schutzmaßnahmen für Nutzer unter 18 Jahren.

Das Verbot für Kinder, Character.AI zu nutzen, so Anand, sei teilweise auf neue Forschungsergebnisse zurückzuführen, die die Risiken der Chatbot-Nutzung, insbesondere für Kinder, aufzeigen. “Einer der beitragenden Faktoren sind die neuen Erkenntnisse, dass die langfristigen Auswirkungen der Chatbot-Interaktion ungesund sein könnten oder nicht vollständig verstanden werden”, sagte er mir und verwies auf Studien von OpenAI und Anthropic über die Gefahren der sogenannten KI-Sykophantie. Angesichts dieser Ergebnisse entschied er, dass es zu riskant sei, Kinder auf der Plattform zuzulassen.

Doch das Verbot für Kinder, Character.AI zu nutzen, ist nicht total. Sie dürfen weiterhin auf andere Funktionen von Character.AI zugreifen, wie die Interaktion mit einem Kurzform-Feed von KI-generierten Videos, ähnlich der “For You Page” von TikTok, die Nutzer dazu anregt, beliebte Videos zu personalisieren, indem sie ihre eigenen Charaktere hinzufügen oder die Prompts modifizieren.

Es überraschte mich angesichts des Kontextes unseres Gesprächs zu hören, dass Anand sagte, seine sechsjährige Tochter sei eine begeisterte Nutzerin von Character.AI. “Was sie früher als Tagträumen gemacht hat, geschieht jetzt durch Geschichtenerzählen mit dem Charakter, den sie erstellt und mit dem sie spricht”, sagt Anand. “Sogar in Gesprächen, in denen sie mir zögernd geantwortet hätte, spricht sie viel offener mit dem Chatbot.” (Nutzer unter 13 Jahren sind auf der Plattform überhaupt nicht erlaubt, gibt Anand zu, daher lässt er seine Tochter Character.AI nur über sein eigenes Konto unter Aufsicht nutzen.) Die Begeisterung seiner Tochter für die audiovisuellen Funktionen von Character.AI gab Anand die Zuversicht, das Unternehmen darauf zu setzen, solche spielerischen Erlebnisse für Kinder zu entwickeln, anstatt offene Text-Chats zu erlauben.

Der CEO hat sich damit abgefunden, dass er aufgrund seiner Entscheidung einige Nutzer verlieren wird. “Ich bin bereit zu wetten, dass wir überzeugendere Erlebnisse schaffen werden, aber wenn es bedeutet, dass einige Nutzer abwandern, dann wandern einige Nutzer ab”, sagt er. Er schließt jedoch eine Aufhebung des Chatbot-Verbots für unter 18-Jährige nicht völlig aus. “Ich bin mir ziemlich sicher, dass wir diese Erfahrungen irgendwann, wenn die Technologie weit genug entwickelt ist und wir viel mehr geschützte Erfahrungen für das Tippen haben können, zurückbringen werden.”

Dennoch hat die Umstellung Character.AI – so lange das Vorzeigemodell für unverantwortliche KI-Entwicklung – in die seltsame Position gebracht, ein Verfechter sichererer Online-Erfahrungen für Kinder zu sein. Anand begrüßt einen kürzlich von Senator Josh Hawley vorgeschlagenen Gesetzentwurf, der jedem unter 18 Jahren die Nutzung von KI-Begleiter-Apps landesweit verbieten würde. “Das wirklich Traurige für die Branche wäre, wenn wir diese Entscheidungen [zum Verbot von Nutzern unter 18 Jahren] treffen und die Nutzer dann zu anderen Plattformen abwandern, die diese Verantwortung nicht übernehmen”, sagt Anand mir. “Die Messlatte für Nutzer unter 18 Jahren muss aus Sicherheitssicht höher gelegt werden… Dies muss reguliert werden.”

Wenn Sie eine Minute Zeit haben, nehmen Sie bitte an unserer kurzen Umfrage teil, um uns besser zu helfen zu verstehen, wer Sie sind und welche KI-Themen Sie am meisten interessieren.

Was Sie wissen sollten: EU erwägt Kompromiss beim Datenschutz, um KI-Gelder anzuziehen

Regulierungsbehörden der Europäischen Union erwägen, einige ihrer weitreichenden Datenschutzbestimmungen aufzuheben, um den Kontinent zu einem attraktiveren Standort für KI-Investitionen zu machen, inmitten eines schwachen Wirtschaftswachstums.

Dokumente, die TIME vorliegen, zeigen, dass Beamte planen, das Vorzeige-Datenschutzgesetz der EU, die General Data Protection Regulation (GDPR), zu ändern, um KI-Unternehmen zu erlauben, ihre Systeme mit zuvor geschützten Kategorien persönlicher Daten zu trainieren und zu betreiben.

Was wir lesen

Der Fall für eine globale Bewegung zur Stoppung superintelligenter KI, von Andrea Miotti in TIME

Andrea Miotti, Leiter von Control AI, fordert eine globale Bewegung zur Stoppung superintelligenter KI, ähnlich wie die Welt zusammenkam, um das wachsende Ozonloch zu stoppen. “Das Aussterberisiko durch Superintelligenz hat somit das Potenzial, jede Spaltung zu überwinden”, schreibt er. “Es kann Menschen über politische Parteien, Religionen, Nationen und Ideologien hinweg vereinen. Niemand möchte, dass sein Leben, seine Familie, seine Welt zerstört werden.”