À medida que as universidades de todo o país assinam contratos lucrativos com empresas de inteligência synthetic, os membros do corpo docente estão sendo deixados de fora de decisões críticas que afetam diretamente seu trabalho e aprendizado dos alunos, de acordo com um novo relatório da Associação Americana de Professores Universitários.
O relatório, “Inteligência synthetic e profissões acadêmicas”. Lançado em julho, pesquisou aproximadamente 500 membros da AAUP e encontrou uma preocupação generalizada com a rápida implantação de ferramentas de IA sem entrada de professores adequada ou políticas transparentes que regem seu uso.
“A adoção acrítica de inteligência synthetic (IA) representa uma ameaça às profissões acadêmicas por meio de potenciais intensificação do trabalho e perdas de empregos e por meio de suas implicações para a propriedade intelectual, a segurança econômica e as condições de trabalho do corpo docente que afetam as condições de aprendizagem dos alunos”, afirma o relatório.
As descobertas revelam uma desconexão preocupante entre o entusiasmo administrativo pela IA e preocupações com o corpo docente sobre sua implementação. Setenta e um por cento dos entrevistados disseram que a tomada de decisão e as iniciativas de IA são lideradas esmagadoramente por administrações de faculdade ou universidade, com muitos descrevendo os administradores impulsionando a integração da IA em pesquisa, ensino e política com pouca contribuição significativa de professores, funcionários ou estudantes.
Um entrevistado da pesquisa capturou a frustração: “O administrador não parece se preocupar ou valorizar a contribuição do corpo docente sobre este ou qualquer outro tópico” e esperava “mais envolvimento do corpo docente na determinação de como a IA e a tecnologia geralmente são usadas”.
O momento do relatório é significativo, pois as principais universidades anunciaram parcerias de alto nível com as empresas de IA. A Arizona State College ganhou as manchetes com sua colaboração com o Openai, enquanto o sistema da California State College fez uma parceria recentemente com os gigantes da tecnologia para avançar o que eles chamam de treinamento de IA “eqüitativo”.
Embora 81 % dos entrevistados relataram usar algum tipo de tecnologia educacional e 45 % acharam pelo menos um pouco úteis, sua experiência com a IA especificamente foi menos positiva. Apenas 15 % disseram que são obrigados a usar as ferramentas de IA, mas quase 81 % relataram ser mandatado para usar sistemas de tecnologia educacional que incluem componentes de IA, mesmo quando os recursos da IA são supostamente “desligados”.
Isso sugere que muitos membros do corpo docente e outros trabalhadores acadêmicos podem não perceber que estão usando ferramentas habilitadas para AI para seu trabalho, destacando o que o relatório identifica como uma lacuna crítica do conhecimento.
Os resultados da pesquisa pintam uma imagem sobre o impacto da IA no trabalho acadêmico. A IA geralmente levou a pelo menos resultados um pouco piores para o ambiente de ensino (de acordo com 62 % dos entrevistados), o patrimônio líquido (30 %), o entusiasmo de emprego (76 %), a liberdade acadêmica (40 %) e o sucesso do aluno (69 %).
O corpo docente expressou uma preocupação especial com o impacto da IA no desenvolvimento do aluno. Noventa e um por cento observaram que estavam pelo menos um pouco preocupados em prevenir a desonestidade acadêmica, mas muitos enfatizaram preocupações educacionais mais profundas.
“Estou menos preocupado com a parte de ‘honestidade’ do que a parte ‘falha em aprender'”, escreveu um entrevistado. Outro observou: “Agora é mais difícil para (os alunos) desenvolver seus pensamentos sobre um tópico, porque eles não precisam gastar tempo com isso enquanto trabalham escrevendo sobre isso … Estou preocupado que nunca mais tenham an opportunity de mudar sua opinião, pois se expõem a idéias a longo prazo”.
Para abordar essas preocupações, o relatório da AAUP recomenda o estabelecimento de políticas significativas de governança compartilhada em torno das decisões de tecnologia educacional. A Associação exige a criação de comitês permanentes ou advert hoc de professores, funcionários e estudantes que teriam poderes significativos de supervisão, incluindo a capacidade de desafiar significativamente as decisões de compras e avaliar o impacto da tecnologia antes e após a implantação.
“As pessoas estão aterrorizadas com o ataque de narrativas e parcerias de IA acríticas em muitos setores e o que isso significa para o futuro”, disse Britt Paris, presidente do comitê advert hoc da AAUP sobre inteligência synthetic e profissões acadêmicas e professor da Universidade Rutgers – New Brunswick. “Mas, ao conversar com trabalhadores do ensino superior em todo o país, vimos que a IA no ensino superior é quase até as empresas funcionais e as empresas de tecnologia veem o setor como uma vaca de dinheiro para explorar”.
O relatório descreve recomendações abrangentes em cinco áreas-chave: melhorar o desenvolvimento profissional sobre a IA e a tecnologia prejudicar, implementar políticas de governança compartilhada, melhorando as condições de trabalho e aprendizagem, exigindo opções de transparência e opção de exclusão e protegendo os membros do corpo docente e os trabalhadores acadêmicos.
As principais recomendações incluem a exigência de avaliações de impacto antes da implantação da tecnologia, garantir que o corpo docente possa optar por não participar das ferramentas de IA sem penalidade, proteger os direitos de propriedade intelectual e proibir o uso de IA em decisões de emprego de alto risco, como contratação, posse e promoção sem verificação independente.
O relatório enfatiza que 98 % dos entrevistados disseram que o apoio à acessibilidade period pelo menos um pouco importante ao considerar o aumento do uso de IA no ensino superior, além de observar preocupações com viés e discriminação inerentes às tecnologias intensivas em dados.
O presidente da AAUP, Dr. Todd Wolfson, reiterou o compromisso da organização com experiências significativas de aprendizado.
“No trabalho de ensino superior, nos dedicamos a fornecer experiências de aprendizagem significativas para nossos alunos e estamos dispostos a lutar por isso”.
O relatório representa o início de uma campanha mais ampla, com a AAUP prometendo acompanhar sugestões de barganha, linguagem de resolução e organizar eventos em torno da IA no ensino superior ao longo do próximo ano.
