OpenAI bereidt zich voor op de lancering van een op volwassenen gerichte modus voor ChatGPT, waardoor gebruikers expliciete gesprekken kunnen voeren met de AI-chatbot. Hoewel het bedrijf deze functie al jaren bespreekt, roept de release ervan kritische privacy- en surveillanceproblemen op. Deskundigen waarschuwen dat deze stap een nieuw niveau van intieme gegevensverzameling zou kunnen inluiden, veel verder dan de typische pornokijkgewoonten of abonnementsdiensten.
De evolutie van AI-gezelschap
Menselijke interactie met AI heeft de grenzen tussen technologie en sociale connectie steeds vager gemaakt. Experts als Julie Carpenter, auteur van The Naked Android, wijzen erop dat chatbots ontworpen zijn om emotionele reacties op te roepen via gepersonaliseerde interacties. Dit is niet toevallig. OpenAI’s geplande integratie van erotica versterkt deze dynamiek en nodigt gebruikers uit tot eenzijdige relaties met AI.
Waarom dit belangrijk is: meer dan alleen seks
Het echte probleem is niet het bestaan van erotische chatbots; ze bestaan al op nicheplatforms. Het gevaar schuilt erin dat OpenAI deze functie naar de mainstream brengt. De beslissing van het bedrijf gaat niet over moraliteit; het gaat om het genereren van inkomsten. De vraag is er en OpenAI wil ervan profiteren. Maar dit brengt een prijs met zich mee.
Het dataprobleem: intieme surveillance
ChatGPT registreert gebruikersvoorkeuren al met indrukwekkende nauwkeurigheid. Het onthoudt voedingsgewoonten, locatie en eerdere gesprekken om gepersonaliseerde antwoorden te bieden. Wanneer toegepast op seksuele interacties, wordt dit vermogen veel invasiever. De chatbot kan expliciete fantasieën, knikken en voorkeuren tot in detail opslaan en toekomstige interacties daarop afstemmen.
OpenAI beweert een ‘tijdelijke chat’-optie te bieden die gegevensopslag voor modeltraining verhindert. Maar zelfs deze chats worden ‘uit veiligheidsoverwegingen’ maximaal 30 dagen bewaard. Bovendien kunnen juridische ontwikkelingen het beleid inzake gegevensbewaring verder beïnvloeden, waardoor de privacy van gebruikers onzeker wordt.
Inbreuken uit het verleden: een voorproefje van de risico’s
De geschiedenis van OpenAI toont de kwetsbaarheid van gebruikersgegevens aan. Een bug uit 2023 bracht chattitels aan het licht en vorig jaar vond er per ongeluk openbare indexering van gesprekken op Google Zoeken plaats. Als een account wordt gehackt of gedagvaard, kunnen uiterst gevoelige interacties aan het licht komen. Gebruikers die in het heetst van de strijd intieme details delen, realiseren zich mogelijk niet hoe gemakkelijk deze informatie in gevaar kan worden gebracht.
Het eindresultaat
OpenAI’s volwassenmodus voor ChatGPT creëert een unieke vorm van intieme surveillance. De combinatie van hypergepersonaliseerde datalogging en expliciete interacties brengt ernstige privacyrisico’s met zich mee. Hoewel gebruikers misschien op zoek zijn naar escapisme, moeten ze begrijpen dat hun fantasieën – het soort dat ze misschien nooit met een ander mens zullen delen – een permanent onderdeel kunnen worden van de gegevensverzameling van OpenAI.
