Os primeiros impactos do ChatGPT – Parte 1
Jorge Santana (*)
“O ChatGPT é um sistema de chatbot inteligente que usa tecnologia de Processamento de Linguagem Natural para ajudar os usuários a encontrar respostas para as suas perguntas. O ChatGPT foi criado com foco na experiência do usuário. É projetado para fornecer respostas rápidas e acuradas, além de oferecer suporte personalizado quando necessário”.
A definição acima foi escrita pelo próprio ChatGPT, tecnologia que se tornou o frenesi do momento, quebrando todos os recordes ao atingir 100 milhões de usuários em apenas dois meses. Isso tem a ver com a jogada da OpenAI, proprietária da tecnologia, de abrir a ferramenta para uso gratuito pelo público em geral, deixando a concorrência, sobretudo Google, atônita.
O sistema é baseado na rede neural de linguagem natural GPT (Generative Pretrained Transformer), que é capaz de gerar texto baseado em exemplos de treinamento. A versão atualmente utilizada, GPT-3.5, foi alimentada com enormes quantidades de dados de texto (175 bilhões de parâmetros) e é “treinada” para produzir texto coerente e semelhante ao que um ser humano escreveria. Prevista para ser lançada em 2024, especula-se que a versão GPT-4 pode chegar a 100 trilhões de parâmetros (!).
Merece destacar que o conhecimento da versão atual do ChatGPT é restrito a eventos ocorridos antes de 2021 e geralmente fornece respostas confiantes, mas muitas vezes, incorretas. Por outro lado, o ChatGPT usa técnicas para incorporar feedbacks humanos (Reinforcement Learning from Human Feedback – RLHF), essenciais para incrementar a sua acurácia.
Existem muitos aspectos a serem considerados com relação ao ChatGPT que pretendo abordar, incluindo as questões morais e éticas e aplicações práticas, sendo que nesta primeira parte convido você a analisarmos juntos os impactos iniciais desta tecnologia na Educação. O sistema tem despertado a preocupação de diversos acadêmicos e começaram a surgir vários relatos de alunos que utilizaram o chatbot para colar em redações e provas.
O ChatGPT foi colocado à prova na Wharton School da Universidade da Pensilvânia, uma das escolas de administração mais renomadas dos EUA. O professor Christian Terwiesch, responsável pelo experimento, descobriu que o chatbot superou alguns de seus alunos no curso de gerenciamento de operações, tendo recebido nota B a B- no exame da área. Em artigo publicado sobre o assunto, o professor destacou implicações importantes para a educação, citando mudanças que seriam necessárias nas políticas das provas e do ensino.
Aqui no Brasil, o portal de notícias Olhar Digital decidiu trazer esse tipo de teste para um cenário mais próximo, submetendo algumas perguntas do Enem (Exame Nacional do Ensino Médio) 2022 ao ChatGPT. Foram escolhidas questões de todos os temas para testar a capacidade completa do chatbot. O resultado foi surpreendente: ele acertou todas as respostas.
A inquietação quanto às repercussões do ChatGPT tem afetado educadores mundo afora. Segundo o Financial Times, Jerry Davis, professor da Ross Business School, da Universidade de Michigan, convocou uma reunião do corpo docente para discutir as implicações da ferramenta. Ele se considerou “um dos alarmistas” e afirmou que “todo o nosso empreendimento na educação está sendo desafiado por isso, e só vai ficar mais desafiador. É hora de repensar de cima para baixo”.
Quando as escolas abriram para o ano novo, as cidades de Nova York, Los Angeles e outros grandes distritos escolares públicos americanos começaram a bloquear seu uso nas salas de aula e nos dispositivos escolares. A Sciences Po, uma das universidades mais prestigiadas da França, proibiu seu uso há poucas semanas e alertou que qualquer pessoa encontrada usando o ChatGPT e outras ferramentas de inteligência artificial para produzir trabalhos escritos ou orais poderia ser banida da Sciences Po e de outras instituições.
Em resposta à reação, a OpenAI disse que está trabalhando há várias semanas para elaborar novas diretrizes para ajudar os educadores. O criador do ChatGPT está tentando reduzir sua reputação de máquina de trapaça com uma nova ferramenta que pode ajudar os professores a detectar se um aluno ou uma inteligência artificial escreveu o dever de casa.
O novo classificador de texto recém-lançado pela OpenAI segue uma discussão de semanas em escolas e faculdades sobre o medo de que a capacidade do ChatGPT de escrever praticamente qualquer coisa sob comando possa alimentar a desonestidade acadêmica e prejudicar o aprendizado. A OpenAI adverte que sua nova ferramenta – como outras já disponíveis – não é infalível. O método para detectar texto escrito por IA “é imperfeito e às vezes pode estar errado”, disse Jan Leike, chefe da equipe de alinhamento da OpenAI encarregada de tornar seus sistemas mais seguros.
Mais importante do que uma ferramenta de detecção de inteligência artificial, acreditam educadores, é buscar expandir o uso do ChatGPT nas salas de aula para permitir que os professores o usem para treinar os alunos a serem melhores pensadores críticos e incentivar que utilizem o aplicativo como um “tutor pessoal” ou para ajudar a gerar novas ideias ao trabalhar em uma tarefa.
Seria ingenuidade não estar ciente dos perigos que a ferramenta representa, mas também falharíamos miseravelmente em atender aos alunos se os proibisse, assim como aos professores, de explorar todo o seu poder potencial. Definitivamente estamos diante de mais um desafio tecnológico e simplesmente tentar bloquear o seu uso não é a solução.
Fico na expectativa de que esta impactante tecnologia, ao contrário de todas as que a antecederam, consiga finalmente provocar a necessária quebra de paradigma de um processo de ensino e aprendizagem arcaico e que insiste em se perpetuar. A propósito, neste link você vai encontrar 20 formas de usar ChatGPT em sala de aula.
(*) Founder&Chairman da INFOX Tecnologia da Informação.