Em um pronunciamento oficial do Vaticano nesta terça-feira (8), o Papa Francisco lançou um alerta sobre possíveis perigos que a Inteligência Artificial (IA) pode trazer à humanidade.
Este aviso se antecipa à seu próximo pronunciamento oficial, “Inteligência Artificial e Paz”, que será divulgada no Dia Mundial da Paz, em 21 de setembro.
O papa, no texto, expressou sua preocupação quanto ao impacto crescente da IA nas atividades humanas, na vida social, política e econômica. Ele destacou a natureza disruptiva da tecnologia e os efeitos ambivalentes que ela pode acarretar.
A mensagem convoca “um diálogo aberto sobre o significado dessas novas tecnologias, dotadas de possibilidades disruptivas e efeitos ambivalentes”, e ainda há um pedido para que exista uma “necessidade urgente de orientar” o uso da IA de maneira responsável, a fim de evitar “conflitos e antagonismos”.
Ele afirmou na declaração que a IA deve ser usada eticamente nos campos específicos da educação e do direito, e que o desenvolvimento da tecnologia não deve ocorrer “à custa dos mais frágeis e excluídos”.
“Injustiça e desigualdades alimentam conflitos e antagonismos. A urgência de orientar a concepção e o uso das inteligências artificiais de forma responsável, para que estejam a serviço da humanidade e da proteção da nossa casa comum, exige que a reflexão ética seja estendida no âmbito da educação e do direito”, diz o papa no texto.
O pronunciamento do papa Franciso ocorre meses depois de que o próprio papa foi alvo de memes e montagens usando o deepfakes (conteúdos falsos). Deepfakes são criações de áudio ou vídeo cada vez mais sofisticadas, geradas por IA, que retratam eventos fictícios de maneira difícil de distinguir da realidade.
Francisco, que já havia expressado sua desconfiança em relação às novas tecnologias de inteligência artificial, foi alvo de deepfakes que o mostravam de maneiras inusitadas, como usando trajes extravagantes.
O Papa sublinhou a importância de um desenvolvimento responsável da IA, especialmente para evitar que ela seja usada para propagar violência e discriminação, prejudicando grupos vulneráveis. Ele reforçou a necessidade de reflexão ética que se estenda também à educação e ao direito.
A mensagem do Papa ecoa o apelo do secretário-geral da ONU, que ressaltou a necessidade de evitar o uso de IA para incitar ódio em zonas de conflito. Paralelamente, o órgão anunciou a criação de um grupo de especialistas em IA, visando uma governança internacional eficaz e alinhada com os valores fundamentais.
Amandeep Singh Gill, Enviado para Tecnologia do Secretário-Geral da ONU, António Guterres, explicou o objetivo da busca:
“Precisamos reunir conhecimentos interdisciplinares globais sobre IA para garantir que ela esteja alinhada com a Carta da ONU, os direitos humanos, o estado de direito e o bem comum.”
O grupo de trabalho ficará encarregado de analisar e preparar recomendações sobre possíveis medidas para uma governança internacional da IA e oferecerá opções até o final de 2023.
