Especialistas debatem potenciais usos e limites do ChatGPT

A temporada de 2023 do Ciclo ILP-FAPESP de Ciência e Inovação terá início na próxima segunda-feira (27). O evento pretende propor caminhos para uma avaliação crítica do ChatGPT, ferramenta de inteligência artificial que vem gerando impacto em nível global.

Capaz de criar textos complexos a partir das informações disponíveis na internet, o sistema tem chamado a atenção não apenas pela sua habilidade de articular palavras e frases de maneira coerente, mas também pelos erros e inverdades que produz. As facilidades e os riscos que a ferramenta conversacional oferece justificam o interesse da comunidade científica e a mobilização dos mais diversos setores da sociedade.

Para debater as questões de fundo que envolvem essa tecnologia estarão reunidos os cientistas Dora Kaufman, da Pontifícia Universidade Católica de São Paulo (PUC-SP), João Paulo Papa, da Faculdade de Ciências da Universidade Estadual Paulista (FC-Unesp), Marcelo Finger, do Instituto de Matemática e Estatística da Universidade de São Paulo (IME-USP), e Frederico Bortolato, do Departamento de Inovação e Tecnologia da Informação da Assembleia Legislativa de São Paulo (Alesp). Carlos Américo Pacheco, presidente do Conselho Técnico-Administrativo da FAPESP, será o moderador do debate.

O tema ética e regulação abrirá o encontro. Dora Kaufman, do Programa de Tecnologias da Inteligência e Design Digital da Faculdade de Ciências e Tecnologia da PUC de São Paulo e pesquisadora dos impactos sociais e éticos da inteligência artificial, tem olhado com atenção para como outros países estão se movendo e defende a urgência de criar critérios de governança e diretrizes nessa área por uma razão óbvia.

“A diferença [do ChatGPT] em relação aos modelos de IA preditiva é que a interface é fácil, simples e multifuncional. Por isso, foi adotado em larga escala por usuários leigos de imediato.” Frederico Bortolato, da Alesp, pretende contribuir abordando questões éticas e implicações políticas do uso da inteligência artificial.

O segundo bloco tratará dos limites da tecnologia. Há uma grande preocupação sobre o quanto ela pode contribuir para o aumento da desinformação e as consequências disso para a sociedade. Pontos sensíveis também são detectados nos usos inadequados da ferramenta, além da produção de textos falsos ou com erros no seu conteúdo.

Marcelo Finger, que coordena o grupo de processamento de linguagem natural em português no Centro de Inteligência Artificial (C4AI) – um Centro de Pesquisa em Engenharia (CPE) constituído por FAPESP e IBM na USP –, destaca que o ChatGPT opera pelo reconhecimento estatístico de um padrão e que essa condição lhe dá mais poder do que se pode imaginar.

O sistema não tem compromisso com a verdade e padece de “alucinações” em decorrência de um problema estatístico que conduz ao erro. Mas ele ressalta que a inteligência está, na maior parte das vezes, nos olhos do observador. “Atribuir a um programa propriedades que ele não possui é uma das fontes de seu mau uso. A exploração de bons usos de uma nova tecnologia deve evitar problemas já conhecidos.”

O professor associado do Departamento de Computação da Unesp em Bauru João Paulo Papa diz ser evidente que o ChatGPT foi um grande avanço tecnológico. “Mas cabe, ainda, às pessoas decidirem o que é verdade e o que não é.”

O futuro da tecnologia será tema do terceiro bloco. Mesmo que ainda seja impossível prever o impacto do uso dos chatbots na vida cultural e política dos países, já se anunciam investimentos que vão levar ao desenvolvimento dessa tecnologia e que estimularão o seu uso por empresas, governos e pelas pessoas individualmente. Novos negócios, produtos e serviços que deles serão derivados também começam a ser anunciados por startups.

Promovido pelo Instituto do Legislativo Paulista (ILP) em parceria com a FAPESP, o evento é dirigido a legisladores, gestores públicos e demais interessados. A transmissão será entre 15h e 17h15, pelo canal da Alesp no YouTube.

Para se inscrever acesse: www.al.sp.gov.br/ilp/cursos-eventos/.