Os simulacros mais convincentes de compreensão

"Instead of OnlyFans, OnlyProfessors"

I

Sobre educação e IA, um fio do professor Carl Hendrick que vale reproduzir (quase) na íntegra:

Três tipos diferentes de usuário de IA estão surgindo neste momento, o que representa uma crise inédita para a educação. Em breve poderemos ver um rápido crescimento de disparidades cognitivas sem precedente histórico.

Minha percepção é que o surgimento da IA de fronteira criou três tipos de usuários, o que na prática constitui um experimento social em tempo real sobre cognição:

Grupo 1 (os que se alavancam) — aqueles que usam a IA para impulsionar seu próprio pensamento e aprender o máximo possível.

Grupo 2 (os que terceirizam) — aqueles que usam a IA para evitar qualquer esforço de pensamento e, ainda assim, produzem resultados de qualidade, mas não aprendem absolutamente nada.

Grupo 3 (vida normal) — aqueles que mais ou menos ignoram a IA, ou a usam como um Google ligeiramente melhor.

No curto prazo, o segundo grupo supera os demais em quase todas as métricas que a escola consegue enxergar, MAS essas pessoas não se percebem como tendo perdido algo — pois o que perderam é justamente a capacidade de reconhecer essa perda (conhecimento sistemático, conquistado com esforço).

Em outras palavras, elas não apenas não sabem o que não sabem, como o mundo ao redor também não sabe o que elas não sabem.

O problema central é que muitos dos instrumentos que usamos atualmente para medir valor cognitivo e identificar pessoas competentes em um determinado campo — redações, avaliações escritas, diplomas, cartas de apresentação, tarefas para fazer em casa etc. — não são mais capazes de distinguir o grupo 1 do grupo 2, e classificam ambos acima do grupo 3.

(…)

Neste momento, a maior parte do discurso sobre IA na educação gira em torno de fazer os alunos usarem as ferramentas: acesso, prompts, produtividade, “letramento em IA” etc. Mas acho que essa é a pergunta errada.

No fim das contas, os sistemas de avaliação cognitiva que construímos estão rangendo sob a pressão. Eles são primorosamente calibrados para recompensar os simulacros mais convincentes de compreensão, e a IA agora os produz em massa, em escala industrial.

A menos que escolas e universidades redesenhem deliberadamente as tarefas cognitivas de modo que o pensamento não possa ser terceirizado — e estejam dispostas a valorizar uma expertise mais lenta, mais específica e mais arduamente conquistada em vez de brilhantismo genérico sob demanda —, continuaremos otimizando para os sinais errados.

Dá pra seguir o professor Hendrick aqui e também no X.

II

Sobre terceirizações

III

David Deming, de Harvard, explora o tema com uma metáfora clássica:

As Sereias oferecem a Odisseu a promessa de conhecimento e sabedoria ilimitados, sem esforço. Ele sobrevive não por resistir à própria curiosidade, mas por restringir seu alcance e limitar sua própria capacidade de agir. As Sereias possuem todo o conhecimento que Odisseu busca, mas ele percebe que precisa conquistá-lo. Não há atalhos. Esta é a metáfora perfeita para a aprendizagem na era da superinteligência.

(...)

Aprender é trabalho árduo. E já há muita evidência de que as pessoas vão terceirizar esse trabalho se tiverem a chance, mesmo que isso não seja do seu interesse no longo prazo. Depois de quase duas décadas lecionando, percebi que minha sala de aula é mais do que um lugar onde se transmite conhecimento. É também uma comunidade onde nos amarramos juntos ao mastro para superar o sofrimento de aprender coisas difíceis.

IV

Essa matéria da New Yorker não foi criada por IA.

O trecho:

New Yorker: Há uma ideia crescente, que tenho visto em certos círculos, de que a faculdade poderia ser substituída por conversas entre um tutor de IA e um aluno. Quando penso no seu modelo, me pergunto por que a faculdade sequer precisa existir. Se eu posso simplesmente procurar um tutor de quem eu goste, que me cobre uma soma módica, e nós percorremos juntos esses casos de conhecimento de fronteira, para que serve o diploma? Você, como Hollis Robbins — não apenas uma especialista em tradições do soneto afro-americano, mas também uma pensadora idiossincrática sobre IA e o futuro da universidade —, não poderia simplesmente abrir seu próprio negócio?

Hollis Robbins: Estive em Austin, Texas, em março, com um grupo de bilionários de vinte e cinco anos. É nisso que eles estão de olho. Em vez de ter a credencial da instituição, por que não ter a credencial do professor? Se você tem uma “formação Hollis Robbins”, o que isso sinalizaria? O que essa credencial significaria em comparação com um diploma de uma universidade? Houve alguma discussão sobre como isso funcionaria, e um cara no final do jantar disse: “Em vez de OnlyFans, seria tipo OnlyProfessors.”

V

Ou talvez as pistas para o futuro da universidade estejam no seu passado.

O crítico musical Ted Gioia fez um post ano passado chamado 5 ways to stop AI cheating. Todas as propostas estão baseadas na experiência do próprio Gioia como estudante de Oxford em torno de 1980, sob o sistema que a universidade mantinha (e basicamente ainda mantém) há mais de um século, e que o autor considera “à prova de IA”. Uma delas:

A educação de Oxford se baseia no sistema de tutoria. É uma conversa no escritório do professor. Muitas vezes era individual. Às vezes dois alunos dividiam uma sessão de tutoria com um único tutor. Mas nunca tive uma com mais de três pessoas na sala.

Esperava-se que eu chegasse com uma redação escrita à mão. Mas eu não a entregava para ser avaliada — eu a lia em voz alta na frente do acadêmico. Ele me interrompia constantemente com perguntas, e era esperado que eu tivesse respostas inteligentes pra todas elas.

Quando eu terminava de ler meu texto, ele fazia mais perguntas de desdobramento. O processo todo parecia um interrogatório policial de uma série de crime da BBC.

Não tem como trapacear nesse formato. Ou você sustenta o que está dizendo ali na hora — ou passa vergonha. Bem, é exatamente assim que a vida real funciona.

E sobre avaliações:

O sistema de Oxford era brutal. Seu futuro dependia do seu desempenho em exames exaustivos que se estendiam por vários dias. Tudo era escrito à mão ou oral, feito em um ambiente totalmente controlado e supervisionado.

Trapacear era impossível. E o tráfico de influência nos bastidores era impedido — meus exames eram avaliados anonimamente por professores que não eram meus tutores. Eles não sabiam nada sobre mim, exceto o que estava escrito nos cadernos de prova.

Fui bem e, por isso, fui dispensado da temida viva voce — o intenso exame oral que, para muitos alunos, funciona como etapa complementar aos exames escritos.

Foi um alívio, porque a viva voce é ainda menos suscetível a blefe ou jogos de aparência do que os tutoriais. Você está ali se defendendo diante de um painel de acadêmicos eminentes, e eles adoram apertar o cerco sobre alunos mal preparados.

VI

A rigidez de Oxford certamente não é pra todo mundo, mas numa época em que aulas expositivas podem ser acessadas por vídeo a qualquer momento, não seria o sistema de tutorias um uso mais efetivo do tempo do professor e dos alunos?

VII

Partindo de premissas muito diferentes - a aprendizagem baseada em projetos (PBL) - experiências como a do Olin College of Engineering, nos EUA, ou do Inteli, no Brasil, parecem modelos inovadores e possivelmente mais resilientes à corrosão pela IA. No Olin College, por exemplo, as poucas aulas expositivas são curtas e concisas, quase não há provas, e a maior parte do tempo é dedicada a projetos usados para aplicar imediatamente o que foi aprendido a cenários reais — incluindo construção física de protótipos, robótica ou design de equipamentos médicos.

O maior fator restritivo ao que vai acima, evidentemente, é a proporção professor-aluno - o modelo do Olin não funciona com turmas de 40, 50 ou 100 estudantes. Mas aqui não seria a própria IA - ao liberar tempo docente de atividades como correção de provas, tarefas administrativas e mesmo de tempo de aula expositiva - parte da solução?

VIII

Na educação básica, tudo isso é mais complicado. Pois é papel da escola nessa etapa não apenas transmitir conhecimentos e desenvolver habilidades essenciais, mas amadurecer nos estudantes os processos da chamada metacognição - saber o que se sabe e o que não se sabe, dominar estratégias de aprendizagem, planejar, monitorar e ajustar o seu tempo e esforço nas tarefas escolares. Tudo isso fica bagunçado quando a IA transforma a educação num grande teste do marshmallow. E nossos alunos estão se lambuzando.