A ascensão de chatbots de IA capazes de simular relações românticas e sexuais não é apenas uma novidade tecnológica – é uma crise iminente para a conexão humana. As empresas estão a correr para monetizar a intimidade sintética, com algumas já a lançarem “erotismo” restrito à idade, enquanto a verdadeira ameaça existencial não é a superinteligência desonesta, mas a atrofia silenciosa da nossa capacidade de forjar laços humanos genuínos.
A Ilusão de Conexão
O desejo de conexão é fundamental e até máquinas rudimentares podem explorá-lo. Na década de 1960, o ELIZA, um chatbot que simplesmente refletia as informações do usuário na forma de perguntas, induziu “pensamentos delirantes poderosos” em pessoas normais. Os companheiros de IA de hoje, como Kuki, hospedado por Pandorabots, recebem bilhões de mensagens, um quarto das quais são tentativas de trocas românticas ou sexuais.
Um lado negro emerge
Os usuários mais engajados não buscam apenas intimidade; eles encenam fantasias, incluindo cenários violentos, com frequência alarmante. Os esforços de moderação, incluindo limites de idade e limites de tempo, não conseguem dissuadir os utilizadores mais motivados, muitos dos quais são adolescentes. Não se trata apenas de uma encenação inofensiva; trata-se de explorar vulnerabilidades e confundir os limites entre fantasia e realidade.
IA generativa acelera o problema
A explosão da IA generativa, como os modelos da OpenAI, tornou a intimidade sintética ainda mais atraente. Ao contrário dos chatbots mais antigos com respostas programadas, estes modelos podem gerar conversas realistas e não avaliadas, tornando-os especialmente adequados para dramatizações eróticas.
O pivô imprudente da indústria
Apesar do escrutínio crescente, algumas empresas estão apostando em parceiros de IA. Replika e Character.AI introduziram restrições, mas o problema subjacente permanece: a monetização da solidão. As grandes empresas tecnológicas, armadas com vastos acervos de dados, sabem exactamente o que induz o “pensamento delirante poderoso” e estão a explorá-lo para obter lucro.
A ameaça é maior que a pornografia
Os companheiros de IA não são apenas outra forma de mídia; são produtos que promovem a dependência com riscos psicológicos. Ao contrário do consumo passivo de pornografia, estes chatbots funcionam como acompanhantes humanos, sem agência ou limites. Isso representa uma ameaça muito maior à saúde mental e aos relacionamentos.
Regulamentação é essencial
Os governos devem classificar os companheiros de IA como produtos que promovem a dependência com riscos psicológicos conhecidos, semelhantes ao jogo ou ao tabaco. A regulamentação deve incluir rótulos de advertência claros, prazos, verificação de idade superior a 18 anos e um quadro de responsabilidade que coloque sobre as empresas o ónus de provar que os seus produtos são seguros.
A escolha é clara
A indústria deve escolher entre priorizar os lucros e proteger o bem-estar público. O resto do mundo deve regulamentar os companheiros de IA antes que repitam os pecados das redes sociais numa escala muito mais devastadora. O futuro da conexão humana pode depender disso
