Em suas recomendações sobre a ética da IA, o Departamento de Educação dos EUA apontou para uma proposta de fevereiro de 2024 dos pesquisadores da NIST de se basear nos “conceitos de longa information” estabelecidos em 1979 Relatório de Belmont. Esse relatório identificou três princípios fundamentais (beneficência, respeito a pessoas e justiça) que guiam a conduta ética da pesquisa em seres humanos.
O departamento observou que esses princípios “podem ser usados para organizar uma abordagem da ética na period da IA” (p. 36) e enfatizou que pesquisadores e educadores já estão trabalhando juntos para moldar essas diretrizes, com esse esforço colaborativo que se espera continuar.
Eu li o Relatório de Belmontresumiu suas principais diretrizes éticas e as reaproveitou em considerações práticas para os professores que desejam integrar a IA de maneiras que respeitem e defendam os padrões éticos.
Diretrizes éticas do relatório Belmont
Respeito por pessoas
Trate os indivíduos como agentes autônomos.
Proteja aqueles com autonomia diminuída (por exemplo, crianças, prisioneiros, indivíduos com deficiência cognitiva).
Garanta a participação voluntária e o consentimento informado com informações adequadas, compreensão e liberdade da coerção.
Beneficência
Não prejudique.
Maximize os possíveis benefícios e reduce possíveis danos aos participantes.
Avalie cuidadosamente os índices de risco-benefício antes do início da pesquisa.
Use estudos bem projetados para evitar expor os participantes a riscos desnecessários.
Justiça
Garanta a justiça na distribuição de benefícios de pesquisa e encargos.
Evite explorar populações vulneráveis.
Selecione assuntos com base na relevância para a questão da pesquisa, não com conveniência ou manipulabilidade.
Os benefícios de pesquisa financiados publicamente não devem se limitar a grupos privilegiados.
Aplicações dos princípios
Consentimento informado: Fornecer aos participantes informações claras e abrangentes; adaptar a apresentação à sua capacidade; Permitir a tomada de decisão voluntária sem coerção ou influência indevida.
Avaliação de riscos e benefícios: Realizar avaliação completa e sistemática de possíveis danos e benefícios para indivíduos e sociedade; Garantir que os riscos sejam justificados por benefícios previstos.
Seleção de assuntos: Aplicar critérios de seleção eqüitativa; Evite sobrecarregar grupos desfavorecidos, a menos que a pesquisa atenda diretamente às suas necessidades.
Agora, aqui está uma versão reaproveitada que aplica essas diretrizes à prática da IA
Beneficência: maximizar os benefícios, minimizar os danos
Use a IA para melhorar o aprendizado e o engajamento dos alunos, evitando ativamente danos, como desinformação, conteúdo tendencioso ou violações de privacidade.
Revise regularmente os materiais gerados pela IA quanto à precisão e relevância antes de compartilhar com os alunos.
Aplique a IA de maneira a reduzir a carga de trabalho sem substituir a conexão humana central ao ensino.
Respeito pelas pessoas: proteger a autonomia e garantir a participação informada
Seja transparente com os alunos sobre quando e como a IA é usada no ensino e na aprendizagem.
Dê aos alunos opções sobre se devem se envolver com as ferramentas de IA e explique os benefícios e limitações potenciais.
Evite usar a IA de maneira a coletar dados pessoais desnecessários ou acompanhar o comportamento do aluno sem consentimento.
Justiça: acesso justo e resultados equitativos
Garanta que os recursos de IA sejam acessíveis a todos os alunos, independentemente do histórico, idioma ou incapacidade.
Evite usar a IA de maneiras que possam reforçar as desigualdades existentes, como beneficiar desproporcionalmente os alunos com maior acesso à tecnologia em casa.
Monitore os pedidos de IA para potencial viés nas recomendações, avaliações ou suggestions e tome medidas corretivas quando necessário.
