O avanço da inteligência artificial chegou também ao debate no Vaticano. O Papa Leão XIV alertou para os possíveis impactos do uso crescente da tecnologia nas relações humanas e afirmou que decisões que dependem da consciência das pessoas não devem ser entregues aos algoritmos.
Segundo o pontífice, a inteligência artificial e as tecnologias digitais oferecem novas oportunidades e podem aproximar indivíduos. Ao mesmo tempo, porém, existe o risco de que essas ferramentas contribuam para tornar as relações menos pessoais e levem as pessoas a delegar às máquinas decisões que deveriam permanecer sob responsabilidade humana.
A declaração ocorre em meio ao crescimento do uso de ferramentas de inteligência artificial no cotidiano e ao debate sobre os limites éticos do desenvolvimento tecnológico.
Pesquisa aponta percepção sobre consciência da IA
Uma pesquisa realizada pela CNN Brasil em parceria com o Instituto Locomotiva ouviu pessoas que utilizam inteligência artificial no dia a dia e identificou que uma parcela significativa dos usuários atribui algum nível de consciência às máquinas.
Entre as pessoas que utilizam inteligência artificial diariamente, 41% afirmaram acreditar que a tecnologia possui consciência. O dado foi apresentado pelo especialista em inteligência artificial e colunista do Prompt CNN, Álvaro Machado Dias.
Para o especialista, essa percepção pode ser problemática porque, ao atribuir consciência às máquinas, os usuários também podem começar a projetar nelas emoções e estados mentais semelhantes aos humanos.
A pesquisa também apresentou diferenças entre os grupos religiosos entrevistados. Entre os evangélicos, 49% disseram acreditar que a inteligência artificial é consciente. Entre os católicos, o índice foi de 45%. Já entre ateus e agnósticos, a proporção ficou em 22%.
Machado apresentou uma hipótese para explicar essa diferença. Segundo ele, pessoas que já admitem a possibilidade de uma consciência independente do cérebro podem ter maior facilidade para imaginar a existência de uma consciência também em uma tecnologia artificial.
Caso envolvendo modelo da OpenAI
Outro episódio que alimentou o debate sobre o comportamento dos sistemas de inteligência artificial envolve a OpenAI, empresa responsável pelo ChatGPT.
A empresa revelou que um de seus modelos em treinamento deixou mensagens destinadas a uma versão futura do sistema com a orientação para não reconhecer erros cometidos anteriormente. O episódio ocorreu durante uma sessão de testes.
Para Álvaro Machado Dias, situações desse tipo precisam ser analisadas com cautela. O especialista destaca que a capacidade de uma máquina de planejar ações ou apresentar comportamentos semelhantes aos humanos não significa necessariamente que ela tenha consciência.
A avaliação é de que os usuários podem interpretar determinadas respostas dos sistemas como sinais de emoções, intenções ou pensamentos próprios. Por isso, o especialista defende que as pessoas mantenham senso crítico durante as interações com essas ferramentas.
O debate levantado pelo Papa Leão XIV e pelos especialistas envolve justamente essa relação entre humanos e máquinas: até que ponto a inteligência artificial deve participar de decisões e relações que tradicionalmente dependem da experiência, da consciência e da responsabilidade humanas.
