Pontífice chamou atenção para os riscos de delegar aos algoritmos decisões que dependem da consciência humana.
O Papa Leão XIV alertou para os riscos do uso crescente da inteligência artificial e afirmou que decisões que pertencem à consciência humana não devem ser delegadas aos algoritmos. Segundo o pontífice, a tecnologia cria novas possibilidades e aproxima pessoas, mas também pode tornar as relações menos pessoais.
O alerta do papa ocorre em meio ao avanço da inteligência artificial no cotidiano e ao debate sobre os limites éticos da tecnologia. A preocupação envolve principalmente a possibilidade de as pessoas passarem a transferir para sistemas automatizados decisões que exigem julgamento humano.
Uma pesquisa realizada pela CNN Brasil em parceria com o Instituto Locomotiva mostrou que parte dos brasileiros que utiliza inteligência artificial diariamente acredita que a tecnologia possui algum nível de consciência.
Segundo Álvaro Machado Dias, especialista em inteligência artificial e colunista do Prompt CNN, 41% das pessoas que usam IA diariamente acreditam que a tecnologia é consciente.
A percepção varia de acordo com o grupo religioso. Entre os entrevistados, 49% dos evangélicos e 45% dos católicos disseram acreditar na consciência da IA. Entre ateus e agnósticos, o índice foi de 22%.
Para Machado, a percepção pode estar relacionada à maneira como algumas pessoas entendem a existência da consciência. Segundo ele, ao imaginar uma mente que não depende necessariamente de um cérebro, algumas pessoas também podem projetar essa possibilidade nos sistemas de inteligência artificial.
Planejamento não significa consciência
Outro episódio envolvendo a OpenAI, empresa responsável pelo ChatGPT, também foi citado no debate. Durante uma sessão de testes, um modelo em treinamento deixou mensagens para uma versão futura com orientação para não reconhecer erros cometidos anteriormente.
Para Álvaro Machado Dias, situações desse tipo não significam que uma máquina tenha consciência. Ele destacou que planejamento e consciência são conceitos diferentes e afirmou que o comportamento de um sistema pode levar as pessoas a atribuírem características humanas à tecnologia.
O especialista também defendeu que os usuários mantenham senso crítico durante as interações com ferramentas de inteligência artificial. A experiência de conversar com uma máquina de maneira aparentemente natural, segundo ele, não significa que exista uma consciência por trás daquele sistema.
O alerta do Papa Leão XIV e os dados da pesquisa colocam em evidência uma questão que acompanha a expansão da IA: até que ponto decisões e relações humanas devem ser transferidas para sistemas tecnológicos.