Marcelo Finger vê IA do mal no atacado sendo usada para atingir prédios e instituições

Por: Fernanda Alves

Em webinário promovido pela Assembleia Legislativa de São Paulo em conjunto com a Fapesp, nesta segunda-feira (27), o professor Marcelo Finger, do Instituto de Matemática e Estatística da USP, alertou para riscos do avanço tecnológico e dividiu a Inteligência Artificial em três principais abordagens. A primeira ele denomina como “Inteligência Artificial do Bem”, cujo objetivo seria melhorar e facilitar a vida das pessoas, ajudando na resolução de problemas técnicos e resolvendo outros.

“Precisamos nos concentrar nela. O problema é que não sabemos quando está saindo dos trilhos. Ao sair dos trilhos, podemos chegar no que chamo de Inteligência Artificial do Mau no Varejo, porque eu posso estar prejudicando um pequeno grupo de pessoas, sem perceber”, descreveu Finger ao citar discriminações como exemplo desta categoria de problemas.

Finger ponderou que “essas duas interfaces são aquilo que a gente pode ensinar para os desenvolvedores e usuários”, pois possuem fácil encaminhamento de solução. No entanto, para a terceira abordagem, à qual ele chama de Inteligência Artificial do Mal no Atacado, o controle será muito difícil, uma vez que ela só se ocupa em atingir objetivos pelo lado negativo.

“Com a aplicação do Mal no Atacado, eu posso pensar em carros automáticos autônomos, conduzidos em alta velocidade, para atacar simultaneamente um prédio ou alguma instituição”, alertou o pesquisador. De acordo com ele, esse tipo de estratégia poderá ser desenvolvido por terroristas usando a tecnologia e o avanço da IA já nos próximos anos.

O webinário, que transcorreu remotamente, contou também com a presença da professora Dora Kaufman, do Programa de Tecnologias da Inteligência e Design Digital da Faculdade de Ciências e Tecnologia da PUC SP; e do professor João Paulo Papa, que debateram sobre os limites do uso da inteligência artificial e os potenciais caminhos para o seu futuro.

A professora Dora afirmou que o desenvolvimento da Inteligência Artificial começou já na década de 60. Seu avanço, contudo, se deu nos últimos dez anos, tendo ganhado maior visibilidade agora, com o lançamento do ChatGPT. Ele comparou as diferenças entre o ChatGPT e a plataforma Google para pesquisas por parte do usuário.

“Quando você faz uma pesquisa no Google, ele te dá um link e as referências sobre o assunto. Já no ChatGPT, ele te dá o texto na resposta, sem nenhuma referência. Ao pesquisar no Google, eu sei de onde veio o link, se veio de um jornal importante ou de um autor importante. Com isso, eu tenho condições de fazer a curadoria, já que eu sei quem é sério. No ChatGPT, não tem isso”, afirmou a docente.

A professora Dora sugeriu que a ambivalência presente na plataforma é uma das grandes dificuldades, já que o mesmo sistema possui pontos positivos e negativos. Ela propõe que o seu uso deve ser feito por quem entende do assunto a ser pesquisado quando se trata de investigações no campo do aprendizado.

“Você precisa entender do assunto que está procurando para dizer se aquilo que ele está falando faz sentido. O ChatGPT, inclusive, inventa referências. Se você pede referências, às vezes ele inventa da maneira que você pedir: inventa livros, inventa autores que nunca existiram. É o que chamamos de alucinação”.

O debate entre os especialistas ressaltou outros tipos de utilização da Inteligência Artificial, sugerindo que existem problemas intrínsecos no que diz respeito às alucinações. “A questão da alucinação, no caso do texto, aparece muito mais claramente. Se eu tiver erros na imagem, dependendo da imagem, os erros não vão aparecer ao olho humano, porque pode ser de alguns pixels que tiveram o seu valor adulterado”, ponderou João Paulo Papa.

O professor sugeriu que as informações fornecidas pelo ChatGPT precisam ser apuradas, sendo o usuário obrigado a fazer essa curadoria. Segundo o docente, a responsabilidade é exatamente do usuário, já que é ele quem vai saber o que fazer com a informação obtida.

A mesa montada para o evento também debateu qual será o futuro dessas tecnologias e sua aplicação para a população. Finger disse acreditar que, assim como tudo na vida, “devemos prestar atenção, não podemos baixar a guarda e precisamos tratar a IA em diversos níveis”.

“Eu acho que as questões tecnológicas precisam ser abordadas em todas as esferas, obviamente. Quem é pesquisador tem uma opinião e pode combater ou participar em determinados níveis, mas também é uma coisa da sociedade em geral. Ela não pode ser deixada na mão de quem é desenvolvedor ou especialista da área”, ponderou Finger.

Ao falar dos impactos futuros da IA, a professora Dora explicou que o grande impacto da Inteligência Artificial é que ela nos tira dos procedimentos tradicionais, mudando a forma de pensar a médio e longo prazo. Seu grande temor é que o desenvolvimento da IA esteja concentrado, ao menos no mundo ocidental, nas mãos de apenas 5 grandes empresas de tecnologia. Ela lamentou que inexistam políticas públicas para lidar com a IA e que os governos não estejam protagonizando pesquisas para o avanço tecnológico neste campo do desenvolvimento.

A íntegra do debate disponível no link: https://www.youtube.com/watch?v=FCddvLWa1YU

Orientação: Prof. Carlos A. Zanotti

Edição: Melyssa Kell