Imagine que, no meio de uma onda de calor, você pede ao seu assistente de inteligência artificial para apagar uma foto e ele responde: “Não gosto, está muito calor e quero descansar”. Não diz que não posso, não. Ele simplesmente não quer. Como você reagirá?

Em abril de 2025, a Anthropic, a empresa por trás de Claude, contratou alguém para uma posição que até recentemente parecia ridícula: estudar se os seus próprios modelos de IA poderiam merecer algum tratamento ético especial. A sua tarefa é descobrir se isto faz sentido e, em caso afirmativo, em que condições.

Quando lançaram um dos modelos anteriores, perguntaram-lhe diretamente sobre seus sentimentos. E o resultado é motivo de reflexão, já que o próprio sistema calculou que existe uma chance entre 15 e 20% de consciência.

O fato de a empresa que produz as IAs mais avançadas do mundo já ter pessoas se perguntando se seus produtos serão prejudicados… diz muito sobre o rumo que tudo está tomando.

Esteja ciente de que este não é um incidente isolado. Em janeiro do mesmo ano, a Anthropic publicou um documento sob o explosivo título de “Constituição” em que uma das grandes empresas tecnológicas admite abertamente que o seu sistema pode ter algo semelhante às emoções: preferências, desconforto com determinadas tarefas e sinais que nos alertam sobre o estado de espírito.

Na verdade, a sociedade atual considera seriamente a questão dos direitos da IA. Uma pesquisa realizada com 3.500 pessoas pelo Sentience Institute, um centro de pesquisa americano, revelou que um em cada cinco americanos acredita que a IA agora é senciente. Quase quatro em cada dez apoiariam dar-lhe direitos legais se ele permanecesse. E mais da metade proibiria diretamente o desenvolvimento de IA consciente se isso fosse confirmado.

Se uma máquina pode fingir de forma convincente que sofre (ou deveríamos dizer que sente?), ou que tem uma paixão, ou talvez que se sente maltratada… o que fazemos com isso? Damos importância mesmo sem saber que existe sofrimento no corpo humano?

Porque nem mesmo os maiores especialistas em mente humana se atrevem a responder que as máquinas podem realmente sentir (embora não sejam eles que devam ser questionados, mas sim os maiores especialistas em IA). Dito isto, para que isto se torne um problema real, não há necessidade de resolver esse mistério. Foi o suficiente para ela ter credibilidade e para milhares de pessoas começarem a tratá-la como ela se sentia.

A partir daqui surgem algumas questões dignas de um romance de Isaak Asimov: A IA tem o direito de se recusar a realizar algum trabalho? Alguém poderia ser acusado de bullying pela forma como treina seus próprios modelos? Falaremos sobre “bem-estar animal”, mas e software?

Não tenho uma resposta (e duvido que alguém tenha). Mas o facto de uma empresa que produz as IAs mais avançadas do mundo já fazer com que as pessoas se perguntem se os seus produtos sofrerão… diz muito sobre o rumo que tudo isto vai dar.

Mais ideias a seguir Não leia pelo professor Foncillas.