Isso pode incomodar alguns dos meus alunos no MIT, mas uma das minhas preocupações é que tem sido predominantemente um grupo de jovens, majoritariamente brancos e do sexo masculino, que estão construindo o núcleo da ciência da computação em torno da IA, e eles se sentem mais à vontade conversando com computadores do que com seres humanos. Muitos deles sentem que, se pudessem simplesmente criar aquela IA generalizada da ficção científica, não precisaríamos nos preocupar com todas as coisas complexas como “política” e “sociedade”. Eles acreditam que as máquinas irão simplesmente descobrir tudo por nós.

— Joi Ito

Pensar que uma super-IA destruiria (ou salvaria) o universo talvez seja presunçoso demais da nossa parte

Neil deGrasse Tyson faz uma conta interessante: geneticamente falando, a diferença entre humanos e seus parentes primatas mais próximos é de aproximadamente 1%. Ainda assim a diferença mental entre nós e um chimpanzé é absurda — por mais que eu fique tentado a jogar aqui uma piada de que certas pessoas por aí me fazem questionar esta afirmação. Imagine então um ser que é 1% mais inteligente que os humanos. Seria tão difícil entender estes seres do que é para um chimpanzé nos entender. (O que também me faz lembrar de todo o papo coach de que devemos tentar ser 1% melhores todo dia, como se este 1% fosse uma coisa fácil de se atingir em 24 horas. Mas tudo bem, 1% é só uma figura de linguagem.)

Então imaginemos (o que, por definição é impossível) imaginar o que uma IA 1% mais inteligente do que nós seria capaz. Dependendo de como você está no espectro otimismo-pessimismo com a IA, você pode ir da solução de todos os problemas do universo até a destruição total da espécie humana. As coisas podem dar muito certo ou muito errado.

Eu gosto da resposta que o Douglas Adams deu para este problema quando criou um personagem que já foi até abertura de um episódio no zoado ano de 2020: Marvin, o Androide Paranoide, na série O Guia do Mochileiro das Galáxias — que eu não posso deixar de citar que nasceu como um podcast, que é como os antigos chamavam os programas de rádio.