Num tempo em que a inteligência artificial (IA) avança a um ritmo vertiginoso, a sociedade é confrontada com uma questão tão antiga quanto fundamental: onde termina o progresso e começa a responsabilidade ética? A capacidade das máquinas para aprender, decidir e até criar tem sido saudada como uma revolução tecnológica sem precedentes. Contudo, essa mesma capacidade obriga-nos, mais do que nunca, a uma reflexão profunda sobre os limites morais da sua utilização.

A IA já está presente na nossa vida quotidiana: nos sistemas de recomendação das redes sociais, nos algoritmos que definem prioridades de atendimento médico, nas ferramentas que automatizam decisões financeiras ou jurídicas. O problema não reside apenas no avanço da tecnologia em si, mas na ausência de uma regulação ética e humana proporcional ao seu poder.

A primeira questão ética prende-se com a responsabilidade das decisões tomadas por algoritmos. Quem responde por um erro cometido por uma máquina? Quem responde pela discriminação gerada por dados enviesados? A opacidade dos sistemas de IA torna muitas destas decisões verdadeiros “buracos negros” de responsabilidade moral, onde nem programadores, nem utilizadores, nem empresas parecem ser chamados a responder de forma clara.

A segunda inquietação é a crescente substituição de relações humanas por interações automatizadas. Quando um idoso é atendido por um robô em vez de por um cuidador humano, ou quando um estudante recebe feedback automático em vez de diálogo com um professor, estamos a reduzir a complexidade da experiência humana a uma função algorítmica. A eficiência nunca pode justificar a erosão da empatia e do cuidado.

Por fim, há o perigo de transferirmos para as máquinas as decisões que definem o que é justo, ético ou desejável, como se a moral pudesse ser reduzida a cálculos matemáticos. A ética é uma construção social, histórica e cultural. Não é neutra, nem universal, e muito menos programável. Confiar às máquinas aquilo que pertence à consciência humana é, em última análise, abdicar da nossa própria responsabilidade como seres morais.

É urgente, pois, que se crie um pacto ético internacional para o desenvolvimento e uso da IA, que imponha limites claros, promova a transparência dos sistemas e garanta o respeito pelos direitos fundamentais. O avanço tecnológico só é verdadeiramente progresso se for acompanhado por um compromisso ético com a dignidade humana.

A pergunta, afinal, não é o que as máquinas podem fazer. A verdadeira pergunta é: o que queremos nós que elas façam — e a que custo humano?