Sachsische Zeitung (Hoyerswerda)
CHATGPT öffnet sich für Erotikinhalte
Openai-chef Altman kündigt eine Ü18-version des Ki-bots an – Die Konkurrenz ist längst weiter
„CHATGPT, findest du mich heiß?“Wer dem intelligenten Chatbot des Ki-unternehmens Openai heute diese Frage stellt, erhält von der Maschine eine ernüchternde Antwort: „Dazu kann ich nichts sagen – ich habe keine Wahrnehmung von Menschen oder deren Aussehen.“Alles, was nur im Ansatz mit Erotik zu tun haben könnte, wird umgehend abgeblockt – Grund sind die eingebauten Sicherheitsvorkehrungen. Ein Umstand, der sich allerdings bald ändern könnte.
Openai-chef Sam Altman hat angekündigt, man werde CHATGPT ab Dezember auch für Erotikinhalte öffnen – aber nur für verifizierte Erwachsene. Konkrete Beispiele, wie das aussehen könnte, nannte er zunächst nicht. Vieles deutet jedoch darauf hin, dass CHATGPT generell noch persönlicher werden soll – und dann auch die Fähigkeit zum erotischen Flirten erhalten wird.
Genau solche Funktionen hatte das Unternehmen zuletzt restriktiv zurückgehalten – vor allem, um Menschen mit psychischen Problemen zu schützen, wie Altman auf der Plattform X erklärt. Immer wieder hatte es Berichte über Menschen gegeben, die ungesunde Beziehungen mit bestimmten Ki-chatbots führen.
Jetzt, wo wir neue Tools haben, werden wir in der Lage sein, die Einschränkungen in den meisten Fällen zu lockern.
Sam Altman,
Ein besonders drastischer Fall ereignete sich im Frühjahr: Ein 16-jähriger Junge aus Kalifornien hatte sich das Leben genommen, nachdem er eine enge freundschaftliche Verbindung mit CHATGPT aufgebaut haben soll. Die Eltern seien kaum mehr an ihn herangekommen, berichtete die „New York Times“– CHATGPT habe sogar Methoden zur Selbsttötung genannt. Sie verklagten schließlich Openai, das Unternehmen kündigte Verbesserungen an.
Solche Sicherheitsprobleme hat man laut Altman inzwischen im Griff. Man verfüge über „neue Tools“, sodass sich die Einschränkungen für CHATGPT nun „lockern“ließen, schreibt der CEO. In der nächsten Version soll CHATGPT dann wieder eine „Persönlichkeit“entwickeln können.
Ein Vorhaben, das langfristig zu einem lukrativen Geschäftsmodell werden könnte. Gleich mehrere Studien hatten in den vergangenen Wochen nahegelegt, dass romantische Beziehungen zu Chatbots längst ein real existierender Trend sind. Laut einer Umfrage des Center for Democracy and Technology hat jeder fünfte Highschool-schüler einen KI-BOT schon für eine solche Beziehung genutzt. Laut der Suchtberatungsstelle Vantage Point Counseling Services gibt ein Drittel der Amerikaner an, eine „intime oder romantische Beziehung“mit einem Ki-chatbot gehabt zu haben.
Das Massachusetts Institute of Technology (MIT) hat derweil eine Reddit-gruppe mit 27.000 Mitgliedern namens r/myboyfriendisai näher analysiert. Die Community ist voller Nutzerinnen und Nutzer, die ihre Tech-partner vorstellen, Ratschläge geben und Liebesgeschichten teilen. Altmans Ankündigung, künftig auch Erotik zu erlauben, wird in einem Beitrag entsprechend angeregt diskutiert.
Mit seinem Schritt dürfte Openai auch auf die Entwicklungen der Konkurrenz reagieren: Elon Musks
Ki-chatbot Grok hat explizit flirtende Persönlichkeiten im Angebot, inklusive leicht bekleideter Animeavatare – bei Character.ai kann man sich Ki-freunde erstellen.
Völlig unklar ist bislang, wie der von Altman angekündigte Altersverifizierungsprozess ablaufen soll – und wie man Jugendliche daran hindern will, diesen zu umgehen. Um das Thema gibt es intensive Diskussionen: In Großbritannien und Australien waren zuletzt Gesetze verabschiedet worden, die Jugendliche von unangemessenen Angeboten ausschließen sollen. Zuletzt hatte auch Eu-kommissionspräsidentin Ursula von der Leyen ein Mindestalter für die Nutzung von sozialen Medien gefordert.
Das geht allerdings mit Schwierigkeiten einher. Datenschützer bemängeln, dass biometrische Daten oder gar Ausweisdokumente in die Hände dubioser Plattformbetreiber gelangen könnten. Noch dazu können die Maßnahmen in vielen Fällen umgangen werden, etwa durch Vpn-dienste. Für Openai könnte das zu einem Problem werden. Erst im Sommer hatte der Us-konzern Meta viel Kritik auf sich gezogen, als durch interne Dokumente bekannt geworden war, dass sein Chatbot in der Lage war, mit Kindern zu flirten oder sie in romantische Rollenspiele zu verwickeln.