Álvaro Machado Dias diz não acreditar em acordos globais sobre inteligência artificial

O presente e o futuro da inteligência artificial dominaram uma das conversas no Festival Fronteiras, em Porto Alegre, nesta sexta-feira, numa mesa que lembrava um texto acadêmico pela overdose de conceitos trazidos pelos convidados e de termos em inglês que o público precisava conhecer para acompanhar um diálogo sobre as novíssimas tecnologias.

Falando para quem já entende do assunto, o neurocientista e colunista da Folha Álvaro Machado Dias e a professora de inteligência artificial da PUC-SP Martha Gabriel se debruçaram sobre questões amplas postas pelo mediador, o jornalista Marcelo Rech, como “para onde é que nós vamos?” e “o que acontece quando a IA tiver agência?”

Um dos pontos centrais do debate foi o atual estado de agente que as IAs generativas —ferramentas como o ChatGPT e o Deepseepk— vêm tomando, como elaborar um roteiro de viagem a partir de um comando do usuário.

“A robótica é o corpo e a IA é o cérebro. Você transforma o ‘chatbot’ num personagem, num perfil que tem autonomia para agir”, definiu Gabriel, acrescentando que nos encaminhamos para um cenário em que a IA está “atuando junto com a gente”.

Ouvindo os convidados falarem, a sensação era a de que a IA vai tomar conta de vários domínios humanos e de que estaremos constantemente atrasados em relação à velocidade de desenvolvimento destas máquinas de conhecimento.

Houve também pouco questionamento do fato de que a maioria dessas tecnologias são americanas —o que não significa que isso não tenha sido reconhecido pelos palestrantes ou que a conversa entre eles tenha sido ingênua.

O tema de como estabelecer limites éticos para a IA ocupou boa parte da mesa. Gabriel afirmou que é preciso ter “guard rails”, ou barreiras de contenção para essas tecnologias, para que as pessoas não corram riscos. Ela deu um exemplo em que a IA responde a uma questão do usuário de como ficar rico sugerindo que ele mate seu tio e pegue a herança.

“Se você passar ética para a IA, ela nunca consideraria essa hipótese de matar seu tio, porque ela estaria tomando uma decisão ética. Se a gente conseguir fazer isso, são cenários maravilhosos que a gente vai ter. Eu sempre digo que inteligência sem ética é cruel.” Contudo, a professora foi realista e afirmou que é muito difícil falar em ética para a IA porque cada país tem a sua definição própria do conceito.

Dias, o neurocientista, se mostrou mais pessimista. Ele disse que não consegue ver o mundo com uma autoridade central e acordos globais em funcionamento, “uma ordem liberal e inclusiva” que poderia levar à alguma convergência sobre questões da IA.

Para embasar seu pensamento, citou a competição da China com os Estados Unidos e a atual decadência de órgãos criados no pós-Guerra como a ONU, a Organização das Nações Unidas, e a OMS, Organização Mundial da Saúde.

“O mundo tem que ser pensado mais ou menos como se cada Estado fosse uma espécie de psicopata em potencial. A gente não vai ter nenhuma ordem estabelecida no futuro. Portanto, a ideia de que o futuro nos reserva uma oportunidade de um uso ético global da inteligência artificial é uma total ingenuidade.”

O jornalista viajou a convite do Festival Fronteiras