Inteligência sem ética

O surgimento do ChatGPT trouxe muita lenha para a fogueira em que arde a Inteligência Artificial. A tecnologia capaz de criar, com superioridade em eficiência ao próprio humano, assusta de verdade. Estão alvoroçadas as Universidades, prontas a repensar suas avaliações. O ChatGPT torna as provas uma falácia. Responde melhor do que o aluno. Compõe textos mais racionais, com esquemas a que os estudantes não chegariam.

O problema da Inteligência Artificial é que, sem o freio ético, ela é capaz de causar muito mal. Se lhe fosse solicitado erradicar o câncer, por exemplo, ela poderia sugerir que o mais fácil seria eliminar todos os indivíduos suscetíveis de contraírem a doença.

O exemplo foi do cientista Michael Osborne, da Universidade de Oxford, que admite a possibilidade, não remota, de um mal não intencional vir a ser praticado pela Inteligência Artificial. Ele relata o episódio divulgado pelo The New York Times de um cachorro que vivia às margens do Sena e resgatou uma criança que caíra no rio. Recebeu, como prêmio, um pedaço de carne. Ocorre que isso aconteceu de novo. E mais uma vez. Intrigados, os franceses fizeram uma investigação e descobriram que o cachorro atirava as crianças no rio e as apanhava, só para ganhar a carne.

Isso pode ocorrer com a Inteligência Artificial, se ela não for controlada pela ética, a ciência do comportamento moral do homem na sociedade. Matéria-prima de que o Brasil se ressente, pois a falta de ética se encontra em todos os espaços.

Isso ocorre no mundo micro, o uso que cada qual faz da Inteligência Artificial e também no mundo macro. Por iniciativa da Holanda e da Coreia do Sul, realizou-se em Haia a primeira conferência mundial sobre o uso da tecnologia nos domínios militares. O avanço das tecnologias poderia atribuir aos algoritmos o cálculo e a seleção de quem deva morrer num conflito bélico. Isso é possível, mais do que provável, mas passa ao largo da ética. Por isso é que a sociedade inteira precisa se preocupar com o uso ético das novas tecnologias. Uma Inteligência Artificial desprovida de ética é capaz de causar incalculáveis males, com o seu potencial de perigo intensificado e incontrolável. Ética é a maior urgência para os nossos dias incertos e surpreendentes.

* José Renato Nalini é Diretor-Geral da UNIREGISTRAL, docente da Pós-graduação da UNINOVE e Secretário-Geral da Academia Paulista de Letras.