Viver

O Fim da Humanidade?

A inteligência artificial já está a ficar com os nossos trabalhos. Irá libertar-nos, escravizar-nos ou exterminar-nos? O Professor Stuart Russell, da Universidade da Califórnia, em Berkeley, acredita que estamos numa encruzilhada perigosa.

Foto: DEPOSIT PHOTOS FOTOBANCO
03 de abril de 2020 | Danny Fortson

Stuart Russell tem uma regra. "Eu não lhe dou uma entrevista até concordar com não lhe pôr um Exterminador", afirma o famoso cientista de computação britânico na sua casa em Berkeley, na Califórnia. "A comunicação social gosta muito de pôr um Exterminador em tudo o que tenha a ver com inteligência artificial." O pedido é um pouco irónico. Afinal de contas, Russell é o homem por detrás de Slaughterbots, uma curta-metragem distópica lançada pelo Future of Life Institute, em 2017. Mostra enxames de minidrones autónomos – suficientemente pequenos para caberem na palma da sua mão e armados com uma carga explosiva mortal – caçando estudantes em manifestações, congressistas e, na verdade, qualquer pessoa, e explodindo nas suas caras. Não era exatamente Arnold Schwarzenegger a mandar pessoas pelos ares, mas ele teria ficado orgulhoso.

Segundo Russel, as armas autónomas são "muito mais perigosas do que as armas nucleares". E já são uma possibilidade. O departamento de defesa suíço construiu o seu próprio "slaughterbot" depois de ter visto o filme, revela Russell, só para ver se conseguia. "O facto de poderem ser lançados milhões [de microdrones autónomos], mesmo que só haja dois homens que o façam dentro de numa carrinha, é um problema real porque é uma arma de destruição maciça. Eu considero que a maioria dos seres humanos concordaria que não deveríamos fazer máquinas capazes de decidir matar pessoas."

O nativo de Portsmouth, de 57 anos, faz muito disto: avisos alarmantes sobre a ameaça existencial representada pela inteligência artificial (IA), embora o faça com um sorriso plácido. "Nós temos de enfrentar o facto de estarmos a planear construir entidades muito mais poderosas do que os seres humanos", declara. "Como asseguraremos que nunca terão poder sobre nós?" Eu quase fico à espera que Russell me ofereça uma chávena de chá para me ajudar a engolir a sensação de desgraça iminente. O que hoje não falta são os apologistas da desgraça. Elon Musk denuncia que estamos a "convocar o demónio". O aviso de Stephen Hawking, segundo o qual a IA poderia "ditar o fim da raça humana", correu mundo. Aparentemente, todos os meses surge um novo relatório que prevê desemprego em massa e agitação social à medida que as máquinas forem substituindo os seres humanos.

Blade Runner (2017)
Blade Runner (2017) Foto: D.R.

As más notícias? No essencial, Stuart Russell concorda com tudo e isto é desconcertante porque ele escreveu, quase literalmente, um livro sobre essa tecnologia. O seu manual, Artificial Intelligence: A Modern Approach, é o mais usado na indústria. Desde que foi escrito, em 1994, em parceria com Peter Norvig, o diretor de investigação da Google, o livro já foi usado para ensinar milhões de estudantes em mais de mil universidades. E agora? O professor da Universidade da Califórnia, em Berkeley, está a escrever uma nova edição onde admite que "interpretaram tudo mal" e acrescenta: "Estamos num autocarro e o autocarro está a andar depressa e ninguém tem planos para o fazer parar." Para onde vai o autocarro? "Pelo precipício abaixo." As boas notícias, porém, são que podemos inverter o sentido do autocarro. Tudo o que é preciso é uma revisão geral, não só da maneira como esta tecnologia poderosa e assustadora é concebida, mas também da maneira como nós, um grupo composto por quase 8 mil milhões de pessoas, nos organizamos, aquilo que valorizamos e a forma como aprendemos.

Do ponto de vista informado de Russell, chegámos a uma encruzilhada. Numa direção fica a "era dourada da humanidade", na qual somos libertos dos trabalhos duros pelas máquinas. A outra direção é, por assim dizer, mais sombria. No seu novo livro, intitulado Human Compatible, Stuart Russell resume as coisas com a expressão "o problema do gorila". Os símios, nossos progenitores genéticos, acabaram por ser superados. E agora? "A espécie deles não tem qualquer futuro para além daquele que lhe permitimos", esclarece Russell. "Não queremos estar numa situação parecida perante máquinas superinteligentes". É bem verdade.

Russell foi para a Califórnia, na década de 1980, para fazer o doutoramento após os seus estudos em Oxford e acabou por ficar por lá. É um insider com a perspetiva de um outsider. Se falarmos com a maioria dos cientistas de computação, eles ridicularizam a ideia que tanto aflige Stuart Russell: a Inteligência Artificial Geral, ou IAG. É uma distinção importante. A maioria da IA do mundo atual funciona com base naquilo que se conhece como "aprendizagem automática". Trata-se de algoritmos que processam volumes de dados inconcebivelmente grandes, que desenham padrões e que depois aplicam esses padrões para fazer previsões. Ao contrário dos episódios de florescimento (e de fracasso) da IA, as reduções dramáticas no custo do armazenamento de dados, juntamente com os saltos na capacidade de processamento, significam que os algoritmos têm, finalmente, potência suficiente e dados em bruto com os quais treinar. O resultado é um aparecimento súbito de ferramentas competentes que, por vezes, também são incrivelmente poderosas. No entanto, costumam ser concebidas para tarefas muito específicas e limitadas.

Ex-Machina (2014)
Ex-Machina (2014) Foto: D.R.

Vejamos, por exemplo, um concurso organizado por várias universidades americanas no ano passado, no qual participaram cinco advogados experientes e uma IA concebida para ler contratos. O objetivo era descobrir qual era o melhor a descobrir subterfúgios. Não foi um dia glorioso para o Homo Sapiens. Não só a IA foi mais eficiente – descobriu 94% das passagens problemáticas, enquanto os seres humanos descobriram 85% – como foi mais rápida. Muito mais rápida. Os advogados precisaram de 92 minutos, em média, para completar a tarefa e a IA fê-la em 26 segundos. No entanto, este algoritmo é completamente incapaz de fazer qualquer outra coisa. Uma "ferramenta de IA" como esta, segundo Russell, "não consegue conceber um plano para sair de um saco de papel". É por isso que a indústria, pelo menos na aparência, se mostra bastante descontraída perante a ameaça, ou perante a possibilidade, sequer, da inteligência geral. Um executivo da Google confidenciou, recentemente, que durante anos a IA da empresa modificava todos os seus e-mails dirigidos ao diretor executivo, Sundar Pichai, de "Caro Sundar" para "Caro Sugar". Isto gerou algumas conversas desconfortáveis entre ambos.

Ainda serão necessárias muitas inovações, admite Russell, para a IA ultrapassar as tarefas simples e conseguir criar máquinas verdadeiramente inteligentes, capazes de lidar com qualquer tarefa que lhes dermos. Em rigor, a possibilidade de uma tecnologia assim tão poderosa alguma vez vir a existir parece de loucos.

Scott Phoenix, fundador da start-up de inteligência artificial Vicarious, de Silicon Valley, explica como poderão ser se (quando?) se tornarem realidade. "Imagine uma pessoa com memória fotográfica que leu todos os documentos alguma vez redigidos por qualquer ser humano. Ela seria capaz de pensar 60 mil anos a cada segundo que passa. Se tivesse um cérebro assim, perguntas que estavam anteriormente fora do alcance das nossas mentes pequeninas – sobre a natureza do universo, como construir um reator de fusão, como construir uma máquina de teletransporte – tornar-se-iam, subitamente, acessíveis."

Fantástico, poderá o leitor pensar. Mas o mesmo se disse, em tempos, sobre a fissão nuclear, salienta Russell. Um dia depois de Lord Rutherford a menosprezar como um "disparate", em 1933, outro físico, Leo Szilard, descobriu como fazê-la. Doze anos mais tarde, Hiroshima e Nagasaki foram arrasadas por bombas atómicas.

Quanto tempo temos, então, até à era das máquinas superinteligentes? Russell reconhece que chegarão "no tempo de vida dos meus filhos". Por outras palavras, nos próximos 70 ou 80 anos. Isto não significa que possamos ficar descansados. Para começar, Stuart Russell admite a probabilidade de estar enganado. Tentar prever saltos tecnológicos é uma atividade fútil. Além disso, quando acontecer não será um evento do tipo "Big Bang", no qual acordamos com o Hal 9000 [personagem da série de ficção Odisseia Espacial, de Arthur C. Clarke, e popularizada pelo filme 2001 – Odisseia no Espaço, de Kubrick] a governar o mundo. Em vez disso, a ascensão das máquinas acontecerá, gradualmente, com uma sucessão constante de avanços. Russell aponta o exemplo de Yann LeCun, o diretor de IA do Facebook. Na década de 1990, enquanto estava na AT&T Labs, LeCun começou a desenvolver um sistema para reconhecer a escrita caligráfica. Foi um sucesso. Mas isto aconteceu só depois de ter resolvido três outros "problemas do tipo Santo Graal" durante o processo: reconhecimento de voz, reconhecimento de objetos e tradução automática. É por isto que, diz Stuart Russell, as pessoas que negam a IA estão, elas próprias, em negação.

Poucas pessoas poderão, efetivamente, estar a trabalhar em inteligência geral, per se, mas os seus avanços ficam todos na mesma taça. "As pessoas falam sobre as ferramentas de IA como se ‘Oh, é completamente seguro e não há nada de mal em ter um programa GO ou algo que reconheça, sei lá, tumores em raio-X’. Dizem que isso não tem nada a ver com a IA geral. Isso é completamente falso", comenta. "A Google foi fundada com a finalidade de atingir IA de nível humano – o motor de busca é apenas a ferramenta através da qual ganha dinheiro para financiar o seu objetivo a longo prazo." É por isso que temos de começar a trabalhar – e já – não só numa maneira de rever a IA, mas a sociedade em si. Vamos conseguir tratar da IA primeiro. A maneira como os algoritmos funcionam atualmente – a forma como Russel ensinou milhares de estudantes a concebê-los – é simples. Especifique um objetivo de busca claro e limitado e a máquina calculará a melhor forma de o alcançar.

Acontece que esta é uma péssima maneira de construir IA. Veja-se o caso das redes sociais. Os algoritmos de seleção de conteúdos do Facebook, YouTube e Twitter, entre outros, povoam o seu feed com posts que consideram ser do seu interesse, mas o seu derradeiro objetivo é outro: maximizar as receitas. Afinal, a melhor forma de o fazer é levando o utilizador a clicar em anúncios e a melhor forma de fazê-lo clicar nesses anúncios é promover, desproporcionalmente, conteúdos incendiários apresentados em paralelo. "Estes simples algoritmos de aprendizagem automática não percebem nada de psicologia humana, mas são superpoderosos porque interagem consigo durante horas por dia, interagem com milhares de milhões de pessoas e, como têm muito contacto consigo, conseguem manipulá-lo", explica Russell. "Conseguem manipular a sua mente e as suas preferências de modo a torná-lo uma pessoa diferente – mais previsível." E isso tem funcionado lindamente. O problema é que esses algoritmos fazem muito mais do que encher os bolsos das empresas tecnológicas de Silicon Valley. Também ajudaram a alimentar "a ressurgência do fascismo, a dissolução do contrato social que vincula as democracias de todo o mundo e, potencialmente, o fim da União Europeia e da NATO", escreve Russell. "Nada mau para algumas parcas linhas de código."

A nossa incapacidade para ver o que está do outro lado da esquina é o nosso grande problema com a IA, diz Russell, mas não é um problema novo. Os seres humanos nunca foram bons a saberem aquilo que querem. Este especialista dá como exemplo a história do rei Midas, a qual remonta há milhares de anos. O governante mítico conseguiu exatamente aquilo que queria: tudo aquilo em que tocava transformava-se em ouro. Mas não estava a contar com o facto de isso incluir o seu vinho, a sua comida e a sua família. O mesmo se pode aplicar à IA. Por mais que tentemos, não podemos definir perfeitamente os objetivos. Existem sempre, nas famosas palavras de Donald Rumsfeld, "desconhecidos desconhecidos". E quando se trata de algo com um alcance potencialmente global não há "repetições" (segundas oportunidades), alerta Russel. Imagine-se, por exemplo, que a era da IA geral chegava e que podíamos pedir-lhe algo previamente impossível: curar o cancro. Uau! Poderíamos pensar que isto assinalaria o início de uma nova idade de ouro da humanidade, mas não é bem assim, afirma Russell.

"No espaço de poucas horas, o sistema de IA leu toda a bibliografia biomédica e conjeturou milhões de compostos químicos potencialmente eficazes, mas nunca testados", escreve Russell. "No espaço de algumas semanas induziu vários tumores de diferentes tipos em todos os seres humanos vivos para realizar testes clínicos desses compostos, pois essa é a maneira mais rápida de descobrir uma cura. Ups." E se lhe pedíssemos para inverter a acidificação dos oceanos? O resultado também não seria dos melhores. "A máquina desenvolve um novo catalisador que facilita uma reação química incrivelmente rápida entre o oceano e a atmosfera e restaura os níveis de PH dos oceanos. Infelizmente, gasta um quarto do oxigénio da atmosfera no decorrer do processo, deixando-nos a asfixiar lenta e dolorosamente. Ups."

Já percebemos a ideia. Mas não nos preocupemos. Russell descobriu uma maneira diferente de construir estas ferramentas. Em vez de lhes dar objetivos limitados e específicos, o ponto de partida seria muito mais vago. "Basta definir o objetivo ‘ser útil para os seres humanos’", comenta. A estratégia seria, evidentemente, menos óbvia, e por isso a IA teria de investigar a melhor forma de a delinear, fazendo perguntas constantes e observando o comportamento humano. Essa mudança subtil, diz Stuart Russell, significa que não haveria tal coisa como uma IA assassina porque toda a sua razão de ser seria servir-nos. Se, de repente, começasse a matar-nos, também se desligaria alegremente a si própria. Pelo menos, é essa a teoria. Russell espera alguma resistência. "Haverá alguma resistência porque estamos, mais ou menos, a dizer às pessoas: ‘OK, achamos que as vossas bases estão erradas.’ O meu palpite é que, daqui a 10 anos, as pessoas digam: ‘É claro que sempre pensámos que as coisas eram mesmo assim.’" Parece implausível, acho eu. Se a IA é tão imensamente superior a nós, podemos mesmo esperar que continue alegremente a trabalhar para nós? Lembre-se de que somos os gorilas neste cenário."

Russell hesita. Presumir que as máquinas vão comportar-se como nós nos comportámos em relação a espécies inferiores é, aparentemente, um salto que só uma mente humana e mesquinha é capaz de dar. "Nós não fazemos a menor ideia do que é a consciência ou de como funciona nos seres humanos", informa Russell. "E ninguém está a investigar como tornar as máquinas conscientes, pelo menos de uma forma que faça qualquer sentido. Se me der um bilião de dólares para construir uma máquina consciente, eu vou devolver-lho porque não faço a menor ideia de por onde começar."

Para alguém que passa tanto tempo a pensar no futuro, seria de esperar que a casa de Russell se parecesse com a de Os Jetson [da série de desenhos animados futurista dos anos 60]. Não é. As paredes estão decoradas com quadros pastorais. Os tapetes são amarelos claros e os cadeirões da sala de estar são robustos e florais. Se não estivesse tão limpa quase pareceria antiquada. E é gélida. No final da entrevista, eu não consigo sentir os dedos dos pés. Russell, com um ar bastante confortável com a sua camisola de fecho éclair, larga descontraidamente bombas sobre o futuro da humanidade entre goles na sua água gaseificada gelada.

Eu penso nas minhas falanges geladas. Se eu fosse um robô, trivialidades como precisar de comer ou usar meias mais grossas não seriam uma preocupação. Eu poderia perfeitamente viver com temperaturas negativas durante horas e, provavelmente, faria perguntas mais interessantes. E é esse o problema. De todas as coisas assustadoras relacionadas com a IA, o fim do trabalho, tal como o conhecemos, é a questão mais premente e entre os políticos é a mais preocupante. O candidato democrata Andrew Yang baseou toda a sua campanha à presidência dos EUA num plano para lidar com a era do desemprego em massa. A questão também está no topo da lista de Boris Johnson, embora este se tenha focado em "robôs prestáveis que limpam e cuidam de uma população envelhecida".

A maioria das pessoas concorda que as máquinas inteligentes estão a acelerar a sua marcha exangue, não só sobre as funções operárias, mas também em áreas como os transportes, o direito e a medicina. A empresa de contabilidade PWC previu, recentemente, que quase um terço dos empregos britânicos será automatizado num espaço de 15 anos. Russell admite que a previsão sombria da PWC pode pecar por defeito. "Se mantivermos o status quo, o mais provável será a maioria das pessoas ficar sem função económica", diz. Stuart Russel afirma que o processo já está em curso. Um estudo recente do Brookings Institution concluiu que, entre 1980 e 2016 ? o período que incluiu a ascensão do computador pessoal e, posteriormente, da Internet ?, 54 milhões de postos de trabalho líquidos foram criados nos EUA. O problema? A maioria destes novos empregos não é tão boa como os anteriores. Não são tão bem pagos, requerem menos capacidades e são menos seguros.

O esvaziamento dos ditos empregos de "capacidades médias" que exigem alguma técnica, mas que envolvem tarefas repetitivas, está a ganhar velocidade. "Temos de conceber uma visão de um futuro desejável, no qual as máquinas façam a maior parte do trabalho que atualmente consideramos trabalho", diz Russell.

Não faltam ideias loucas para lutar contra este futuro. Yang, o candidato-surpresa das eleições presidenciais, propôs um "dividendo de liberdade" – o termo muito americano por ele cunhado para designar um estipêndio mensal de mil dólares atribuído a qualquer pessoa com mais de 18 anos como ajuda para adquirir as coisas essenciais à vida num mundo onde arranjar um emprego decente é cada vez mais raro. Silicon Valley está obcecada com esta ideia, mais amplamente conhecida como Rendimento Básico Universal (UBI). Russell chama-lhe outra coisa: "Admissão do fracasso." Elon Musk está vários passos à frente, claro. A sua ideia é fundir-nos com a IA implantando chips nos nossos crânios, ligando-nos diretamente à matriz. A sua empresa Neuralink inventou um exercício mental que, segundo Musk, nos permitirá "alcançar uma espécie de simbiose com a inteligência artificial". Russell também não gosta dessa ideia. "Se todas as pessoas no mundo precisarem de fazer uma cirurgia ao cérebro para sobreviver é porque cometemos um erro."

Qual é, então, o seu plano para salvar a raça humana? Russell segura o seu iPhone. "Isto representa mil milhões de dólares de investigação e desenvolvimento", diz-me. "Quanto teríamos de investir para fazer as pessoas felizes? A fração desse valor dedicada a compreender a mente e a felicidade, a saber o que torna uma vida gratificante, que, afinal de contas, é o que realmente queremos, tem sido muito pequena."

Stuart tem razão. Num mundo onde o trabalho, tal como o conhecemos, desaparece, onde criações muito superiores a nós tratam de todas as tarefas pesadas da vida, o que nos resta? De onde vem a nossa satisfação? Da nossa autoestima? Do dinheiro? Russell apela à criação de uma nova disciplina: engenharia da felicidade. "Precisamos de aprender a ser melhores enquanto seres humanos", diz. "As pessoas não vão ter meios para ter uma ocupação de valor se não investigarmos essa questão e se não desenvolvermos os sistemas de educação necessários – a formação, as profissões, as credenciais. Se começássemos já, iria demorar décadas e não estamos a começar. Por isso…" Russell cala-se.

Mesmo antes de se encontrar comigo, Stuart Russell tivera uma reunião pelo telefone com um grupo de economistas, investigadores de IA e autores de ficção científica. O objetivo desse estranho conjunto de pessoas era idealizar as melhores soluções para lidar com um mundo que, segundo ele, está a avançar contra nós. "Os economistas são muito pessimistas, mas a economia não é uma disciplina sintética, no sentido em que não inventa novas economias com regularidade. Quanto aos autores de ficção científica, bem, é esse o seu próprio trabalho", declara Russell. "Eu espero que, ao juntar estes grupos, os economistas possam contribuir com o seu realismo e os autores possam imaginar maneiras de as coisas serem diferentes." Coisas como cirurgia ao cérebro eletiva para todos? Slaughterbots a patrulhar os céus? Um mundo no qual ninguém tem de trabalhar? Parece rebuscado, não parece? Uma coisa é certa. Stuart Russell não vai ficar satisfeito com este jornal [o The Sunday Times, em cuja revista este artigo foi publivado]. Uma crítica ao seu livro foi recentemente publicada acompanhada pela imagem de um robô Exterminador. Ups.

Exclusivo The Sunday Times Magazine/Atlântico Press. Tradução: Erica Cunha e Alves

Saiba mais Arnold Schwarzenegger, Fim da Humanidade, Stuart Russell, Exterminador, Berkeley, Stuart Russel, Google, EUA
Relacionadas

Que futuro para Elon Musk?

Ataques no Twitter, consumo de “erva” e a perda de mil milhões de libras em ações da Tesla num só dia… Estará o visionário da Tecnologia a ser inspirado pela queda livre do Homem de Ferro? Um ano depois, recordamos a reportagem de Nick Rufford para antecipar um 2020 que se prevê de grandes mudanças para Musk.

11 Hábitos de quem é super-produtivo

Não interessa o que faz ou onde trabalha, todos nós estamos à procura de formas de ser mais produtivos no nosso dia-a-dia, por isso reunimos 11 formas de o fazer (mas esqueça desde já os litros de café e as pilhas de listas).

12 acontecimentos que vão mudar 2020

Não precisamos de uma bola de cristal para prever que as eleições americanas vão ser ofensivas e muito mal-educadas, mas dava imenso jeito ter uma para acertar no resultado do Euro 2020.

Mais Lidas
Viver Vendas de papel de parede aumentam por causa da Covid-19

O interesse repentino na cor do papel de parede deve-se ao aumento das reuniões em videoconferência. Ou então ao facto das pessoas passarem mais tempo a olhar para as suas paredes. Qualquer que seja a razão, a MUST reúne as melhores opções para a casa.