Proibir ideias que parecem assustadoras pode confortar, mas faz mais mal do que bem

Em 1818, Mary Shelley inventou uma tecnologia que tem sido usada tanto para o bem como para o mal nos séculos seguintes. É chamado de ficção científica.

Você pode achar que um gênero literário não conta como tecnologia, mas as histórias de ficção científica são há muito tempo ferramentas para prever e criticar a ciência. Shelley Frankensteinconsiderado por muitos como o primeiro verdadeiro romance de ficção científica, foi suficientemente poderoso para que a África do Sul o proibisse em 1955. Estabeleceu a fórmula com uma história que serve ainda hoje como um aviso de consequências não intencionais.

A ciência precisa empregada pelo homônimo Victor Frankenstein em sua criação não é, até onde sabemos, possível. Mas os pesquisadores hoje são capazes de trazer cérebros humanos mortos de volta a algo semelhante à vida. Estão em andamento experimentos para retomar a atividade celular (mas, o que é essential, não a consciência) após a morte, para testar os efeitos de tratamentos para doenças como a doença de Alzheimer (ver “Os tratamentos radicais que trazem as pessoas de volta da beira da morte”).

É difícil não pensar nos muitos contos de ficção científica que tratam de cenários semelhantes e imaginar o que poderá acontecer a seguir. O mesmo se aplica ao trabalho relatado em “Simulações de IA de 1000 pessoas replicam com precisão o seu comportamento”em que pesquisadores estão usando a tecnologia por trás do ChatGPT para replicar os pensamentos e comportamentos de indivíduos específicoscom sucesso surpreendente.

Em ambos os casos, as equipas por trás desta investigação, confundindo os limites do facto, da ficção e do que significa ser humano, estão profundamente conscientes das preocupações éticas envolvidas no seu trabalho, que está a ser conduzido com forte supervisão ética e com os seus detalhes. twister público numa fase inicial. Mas agora que a tecnologia foi demonstrada, não há nada que impeça grupos mais nefastos de tentarem fazer o mesmo, sem supervisão e com potencial para causar grandes danos.

Isso significa que a pesquisa deveria ser banida, como foi o livro de Shelley, por medo de cair em mãos erradas? Longe disso. As preocupações com a tecnologia são melhor tratadas através de regulamentação adequada e baseada em evidências e de punição rápida para os transgressores. Quando os reguladores exageram, perdemos não só a tecnologia, mas também a oportunidade de a criticar e discutir.