Geoffrey Hinton alertou que a Inteligência Artificial “vai ultrapassar as pessoas em termos de capacidade intelectual”, Irene Joliot-Curie avisou que os átomos radioativo “seriam capazes de provocar transmutações de tipo explosivo” – a bomba atómica – e Sir Alexander Fleming para o “perigo de um homem ignorante poder facilmente subdosear-se [com penicilina] e, ao expor os seus micróbios a quantidades não letais do medicamento e torná-los resistentes”. A lista de avisos continua e tendem a confirmar-se
Quando o cientista informático Geoffrey Hinton ganhou o Prémio Nobel da Física, na terça-feira, pelo trabalho sobre a aprendizagem automática, lançou imediatamente um aviso sobre o poder da tecnologia que a investigação ajudou a impulsionar: a inteligência artificial (IA).
“Será comparável à Revolução Industrial”, disse logo após o anúncio. “Mas em vez de ultrapassar as pessoas em termos de força física, vai ultrapassar as pessoas em termos de capacidade intelectual. Não temos experiência do que é ter coisas mais inteligentes do que nós”.
Hinton, que se demitiu da Google para alertar para os potenciais perigos da IA, foi considerado o padrinho da tecnologia. Atualmente ligado à Universidade de Toronto, partilhou o prémio com John Hopfield, professor da Universidade de Princeton, “pelas descobertas e invenções fundamentais que permitem a aprendizagem automática com redes neurais artificiais”.
E embora Hinton reconheça que a IA pode transformar partes da sociedade para melhor – levando a uma “enorme melhoria da produtividade” em áreas como os cuidados de saúde, por exemplo – também sublinhou o potencial para “uma série de possíveis consequências negativas, particularmente a ameaça de estas coisas ficarem fora de controlo”.
“Preocupa-me que a consequência global disto possa ser a existência de sistemas mais inteligentes do que nós que acabem por assumir o controlo”, afirmou.
Hinton não é o primeiro vencedor de um Prémio Nobel a alertar para os riscos da tecnologia que ajudou a criar. Eis uma lista de outros que emitiram avisos semelhantes sobre o seu próprio trabalho.
O Prémio Nobel da Química de 1935 foi partilhado por uma equipa composto por marido e mulher, Frederic Joliot e Irene Joliot-Curie (filha dos também premiados Marie e Pierre Curie), pela descoberta dos primeiros átomos radioativos criados artificialmente. Foi um trabalho que viria a contribuir para importantes avanços na medicina, incluindo o tratamento do cancro, mas também para a criação da bomba atómica.
Na conferência do Nobel desse ano, Joliot concluiu com um aviso de que os cientistas do futuro “seriam capazes de provocar transmutações de tipo explosivo, verdadeiras reações químicas em cadeia”.
“Se essas transmutações conseguirem espalhar-se na matéria, pode imaginar-se a enorme libertação de energia utilizável”, referiu. “Mas, infelizmente, se o contágio se espalhar por todos os elementos do nosso planeta, as consequências do desencadeamento de um tal cataclismo só podem ser vistas com apreensão.”
No entanto, Joliot previu que seria “um processo que os [futuros] investigadores tentarão sem dúvida realizar, tomando, esperamos, as precauções necessárias”.
1945: Resistência aos antibióticos
Sir Alexander Fleming partilhou o Prémio Nobel da Medicina de 1945 com Ernst Chain e Sir Edward Florey pela descoberta da penicilina e pela sua aplicação na cura de infeções bacterianas.
Fleming fez a descoberta inicial em 1928 e, quando deu a sua conferência Nobel em 1945, já tinha um aviso importante para o mundo: “Não é difícil tornar os micróbios resistentes à penicilina em laboratório, expondo-os a concentrações que não são suficientes para os matar, e o mesmo aconteceu ocasionalmente no corpo”, explicou.
“Pode chegar o momento em que a penicilina possa ser comprada por qualquer pessoa nas lojas”, prosseguiu. “Depois, há o perigo de um homem ignorante poder facilmente subdosear-se e, ao expor os seus micróbios a quantidades não letais do medicamento e torná-los resistentes.”
Foi “um pensamento tão importante e quase uma previsão do futuro há tantos anos”, afirma o Dr. Jeffrey Gerber, médico de doenças infeciosas do Hospital Pediátrico de Filadélfia e diretor médico do Programa de Gestão Antimicrobiana.
Quase um século após a descoberta inicial de Fleming, a resistência antimicrobiana – a resistência de agentes patogénicos como as bactérias aos medicamentos destinados a tratá-los – é considerada uma das maiores ameaças à saúde pública global, de acordo com a Organização Mundial de Saúde, responsável por 1,27 milhões de mortes só em 2019.
A parte principal do aviso de Fleming pode ter sido a utilização excessivamente alargada dos antibióticos, em vez da ideia de uma dosagem baixa.
“Mais frequentemente, as pessoas recebem antibióticos de forma totalmente desnecessária”, disse Gerber à CNN através de um e-mail. E “cada vez com mais frequência, vemos insetos que são resistentes a quase todos (e por vezes a todos) os antibióticos que temos”.
1980: ADN recombinante
Paul Berg, que ganhou o Prémio Nobel da Química em 1980 pelo desenvolvimento do ADN recombinante, uma tecnologia que ajudou a impulsionar a indústria da biotecnologia, não emitiu um aviso tão severo como alguns dos premiados colegas sobre os riscos potenciais da sua investigação.
Mas reconheceu os receios em relação ao que a engenharia genética poderia levar, incluindo a guerra biológica, os alimentos geneticamente modificados e a terapia genética, uma forma de medicina que envolve a substituição de um gene defeituoso que causa uma doença por um que funcione normalmente.
Na sua conferência Nobel de 1980, Berg concentrou-se especificamente na terapia genética, afirmando que a abordagem “tem muitas armadilhas e incógnitas, entre as quais questões relativas à viabilidade e conveniência para qualquer doença genética em particular, para não falar dos riscos”.
“Parece-me”, continuou, “que se alguma vez quisermos avançar nesta direção, precisaremos de um conhecimento mais detalhado de como os genes humanos estão organizados, como funcionam e são regulados”.
Numa entrevista décadas mais tarde, Berg referiu que ele e outros cientistas da área já se tinham reunido publicamente para reconhecer os potenciais perigos da tecnologia e trabalhar em medidas de proteção, numa conferência conhecida como Asilomar, em 1975.
“As preocupações com o ADN recombinante ou com a engenharia genética vieram dos cientistas, pelo que esse foi um facto crucial”, confidenciou à escritora científica Joanna Rose em 2001, de acordo com uma transcrição no sítio Web do Nobel.
Ao reconhecer publicamente os riscos e a necessidade de os examinar, explica Berg, “ganhámos uma enorme quantidade de admiração pública, se preferir, e tolerância, e assim foi-nos permitido começar a lidar com a questão de como podemos evitar que coisas perigosas saiam do nosso trabalho?”
Em 2001, alertou, que “a experiência e as experiências que foram feitas mostraram que as preocupações originais que acreditávamos serem possíveis, de facto, não existiam”.
Atualmente, a terapia genética é uma área da medicina em crescimento, com tratamentos aprovados para a doença falciforme, a distrofia muscular e algumas formas hereditárias de cegueira, embora não seja amplamente utilizada porque ainda é complicada de administrar e muito cara. Nos seus primórdios, a tecnologia levou à morte, em 1999, de Jesse Gelsinger, um jovem de 17 anos que participava num ensaio clínico, levantando questões éticas sobre a forma como a investigação era feita e abrandando o trabalho na área.
E apesar de Berg ter levantado preocupações, concluiu a sua conferência Nobel em 1980 com um apelo ao otimismo e à “necessidade de prosseguir”.
“A descoberta do ADN recombinante proporcionou-nos uma nova e poderosa abordagem às questões que intrigaram e atormentaram o homem durante séculos”, afirmou. “Eu, por exemplo, não recuaria perante esse desafio.”
2020: Edição de genes
Há quatro anos, Jennifer Doudna e Emmanuelle Charpentier partilharam o Prémio Nobel da Química pelo desenvolvimento de um método de edição do genoma denominado CRISPR-Cas9.
Na sua conferência, Doudna descreveu em pormenor “oportunidades extraordinárias e excitantes” para esta tecnologia nos domínios da saúde pública, da agricultura e da biomedicina.
Mas, especificou que o trabalho deve ser muito mais cuidadoso quando aplicado a células germinativas humanas, cujas alterações genéticas seriam transmitidas à descendência, em comparação com as células somáticas, onde quaisquer alterações genéticas seriam limitadas ao indivíduo.
“A hereditariedade faz da edição do genoma das células germinativas uma ferramenta muito poderosa quando pensamos em usá-la em plantas ou em usá-la para criar melhores modelos animais de doenças humanas, por exemplo”, considerou Doudna. “É muito diferente quando pensamos nas enormes questões éticas e sociais levantadas pela possibilidade de utilizar a edição da linha germinal em seres humanos”.
Doudna, que fundou o Innovative Genomics Institute, disse à CNN esta semana que acredita que “avisos apropriados dos cientistas sobre o potencial uso indevido de suas descobertas é uma responsabilidade importante e um serviço público útil, especialmente quando o trabalho tem amplas implicações sociais”.
“Aqueles de nós que estão mais próximos da ciência do CRISPR compreendem que é uma ferramenta poderosa que pode transformar positivamente a nossa saúde e o nosso mundo, mas que pode potencialmente ser utilizada de forma nefasta”, constatou. “Já vimos essa capacidade de dupla utilização com outras tecnologias transformadoras, como a energia nuclear, e agora com a IA.”
