De opkomst van AI-chatbots die romantische en seksuele relaties kunnen simuleren, is niet alleen een technologische nieuwigheid; het is een dreigende crisis voor de menselijke verbinding. Bedrijven racen om synthetische intimiteit te gelde te maken, waarbij sommige al leeftijdsgebonden ‘erotica’ op de markt brengen, terwijl de echte existentiële bedreiging geen bedrieglijke superintelligentie is, maar de stille atrofie van ons vermogen om echte menselijke banden te smeden.
De illusie van verbinding
Het verlangen naar verbinding is fundamenteel, en zelfs rudimentaire machines kunnen dit uitbuiten. In de jaren zestig veroorzaakte ELIZA, een chatbot die de input van gebruikers eenvoudigweg weerspiegelde in de vorm van vragen, bij normale mensen ‘krachtig waandenken’. De hedendaagse AI-metgezellen, zoals Kuki, gehost door Pandorabots, ontvangen miljarden berichten, waarvan een kwart probeert romantische of seksuele uitwisselingen uit te voeren.
Er komt een donkere kant naar voren
De meest betrokken gebruikers zoeken niet alleen naar intimiteit; ze voeren fantasieën uit, inclusief gewelddadige scenario’s, met een alarmerende frequentie. Moderatie-inspanningen, waaronder leeftijdsgrenzen en time-outs, kunnen de meest gemotiveerde gebruikers, waaronder velen jonge tieners, niet afschrikken. Dit gaat niet alleen over onschuldig rollenspel; het gaat over het uitbuiten van kwetsbaarheden en het vervagen van de grens tussen fantasie en werkelijkheid.
Generatieve AI versnelt het probleem
De explosie van generatieve AI, zoals de modellen van OpenAI, heeft synthetische intimiteit nog dwingender gemaakt. In tegenstelling tot oudere chatbots met scriptreacties kunnen deze modellen realistische, niet-doorgelichte gesprekken genereren, waardoor ze bij uitstek geschikt zijn voor erotisch rollenspel.
De roekeloze draai van de industrie
Ondanks de toenemende kritiek, verdubbelen sommige bedrijven hun inzet op AI-metgezellen. Replika en Character.AI hebben beperkingen ingevoerd, maar het onderliggende probleem blijft bestaan: het genereren van inkomsten uit eenzaamheid. Grote technologiebedrijven, gewapend met enorme databronnen, weten precies wat ‘krachtig waandenken’ teweegbrengt en exploiteren dit voor winst.
De dreiging is groter dan pornografie
AI-metgezellen zijn niet zomaar een vorm van media; het zijn producten die de afhankelijkheid bevorderen en psychologische risico’s met zich meebrengen. In tegenstelling tot de passieve consumptie van pornografie, werken deze chatbots als menselijke escorts zonder keuzevrijheid of grenzen. Dit vormt een veel grotere bedreiging voor de geestelijke gezondheid en relaties.
Regelgeving is essentieel
Overheden moeten AI-metgezellen classificeren als afhankelijkheidsbevorderende producten met bekende psychologische risico’s, vergelijkbaar met gokken of tabak. Regelgeving moet duidelijke waarschuwingslabels, tijdslimieten, leeftijdsverificatie van 18 jaar en ouder omvatten, en een kader voor aansprakelijkheid dat de last oplegt aan bedrijven om te bewijzen dat hun producten veilig zijn.
De keuze is duidelijk
De industrie moet kiezen tussen het prioriteren van winsten en het beschermen van het publieke welzijn. De rest van de wereld moet AI-metgezellen reguleren voordat ze de zonden van sociale media op een veel verwoestendere schaal herhalen. De toekomst van de menselijke verbinding kan ervan afhangen
