A próxima onda: inteligência artificial, poder e o maior dilema do século XXI (Rio de Janeiro: Record, 2023), obra escrita por Mustafa Suleyman e Michael Bhaskar deve ser lido com atenção a partir de suas orelhas, bem como pela parte – tão típica das edições best-sellers nos Estados Unidos – dos elogios. Ficamos sabendo ali que o livro foi recomendado por personalidades que muito dificilmente deixariam de ser notadas por conta de seus campos de legitimação, tais como Bill Gates, Yuval Noah Harari, Al Gore, dentre outros CEOs de empresas ligadas ao campo da tecnologia digital. Diga-se que também nos deparamos com nomes de ganhadores de prêmios Nobel e intelectuais remetidos ao estudo da política que se faz no contemporâneo.
Suleyman foi proprietário da DeepMind, uma empresa de tecnologia que iniciou o desenvolvimento de inteligência artificial no ano de 2012. Graças ao sucesso acumulado, a DeepMind foi vendida ao Google por 400 milhões de dólares. Mas Mustafa permaneceu na área da tecnologia e de modo bastante privilegiado. Fundou a Inflection AI. A minibio de Suleyman aponta que, além disso, “ele é um venture partner na Greylock, uma empresa de capital de risco, tendo sido vice-presidente de gestão de produtos e políticas de IA no Google”.
De acordo com o autor, a proposta da obra vem a ser a seguinte:
“Reconhecer e iluminar os contornos da próxima onda. Descobrir se a contenção é possível. Colocar as coisas em contexto histórico e ver o retrato mais amplo ao recuar um pouco do diálogo cotidiano sobre a tecnologia. Meu objetivo é confrontar e entender os processos subjacentes que impulsionam a emergência da ciência e da tecnologia. Quero apresentar essas ideias tão claramente quanto puder, para a maior audiência possível. Escrevi em um espírito de abertura e investigação: fazendo observações, seguindo suas implicações, mas também permanecendo aberto à refutação e a interpretações melhores que as minhas. Não há nada que eu queira mais do que estar errado, do que descobrir que a contenção é possível”. (pp. 29-30)
Para alcançar a sua meta, o autor dividiu o seu livro em quatro partes. Uma primeira, bastante curta, em que trata da relação que historicamente se tem com a tecnologia, isto é, da impossibilidade de vencer o que chama de onda, uma vez que somos tomados pela proliferação dos resultados do sucesso tecnológico. Na segunda parte, trata de definir e caracterizar a próxima onda, ou seja, o avassalador efeito produzido pela entrada em uso dos sistemas de inteligência artificial. A parte três, no conduz aos riscos colocados aos Estados-nações e que se manifestam nas novas formas de violência, desaparecimento de empregos, favorecimento de autoritarismo de toda sorte, entre outros cataclismas. A última parte é voltada para a contenção, o que, segundo o autor, nunca se foi plenamente atingida nas ondas anteriores.
O livro incorre em alguns vícios que nos parecem difíceis de passar desapercebidos. Alguns são relativos à qualidade da escrita. O clima de tensão em relação ao que pode vir a acontecer é uma presença constante na obra. Digamos que se trata de uma narrativa cuja proposta é manter o leitor acuado uma vez que sua única alternativa é acompanhar e dar crédito ao que se está ali escrito. Os argumentos são também antecipados pelo que o autor chama de aversão ao pessimismo, ou seja, qualquer esboço de ceticismo deve ser contido. Tais apontamentos são acompanhados de testemunhos pessoais, em primeira pessoa, buscando a criação de empatia e identificação. É assim que relatos de devoção ao trabalho ou de preocupação com o bem comum e o que possa vir a colocar a humanidade em risco são dispostos em profusão.
Mas, é no último capítulo que a obra revela suas pretensões, uma vez que Suleyman se arvora como proponente de uma solução nunca antes atingida, isto é, a contenção possível. Tratam-se de 10 passos na direção de limitar ou reduzir drasticamente os danos provocados pelo uso indiscriminado dessa tecnologia. Dentre eles, destaco aqui alguns, cuja ênfase recai sobre a necessidade da atuação do autor, inclusive por meio do conhecimento que procurou demonstrar ao longo da obra.
- “Medidas técnicas concretas para aliviar possíveis danos e manter o controle.” Como uma medida dessas pode ser colocada em prática uma vez que se apresenta com um grande nível de generalismo? Como definir o que são danos e qual o controle que deve ser mantido? A proposta parece desconsiderar qualquer tipo de dificuldade de definição de fronteiras entre o Estado e as Big Techs.
- “Uma maneira de assegurar a transparência e a responsabilização da tecnologia.” Quem está por trás da tecnologia? Ela possui moto próprio? O uso da palavra transparência não resolve o problema e nem cria uma falsa expectativa. Como poderíamos supor transparência em uma situação que vem sendo aproximada da Guerra Fria?
- “Garantir que desenvolvedores responsáveis insiram controles apropriados na tecnologia, desde o início.” Como supor que isso seja possível? Quem iria auditar?
- “Apoiar os governos, permitindo que construam tecnologia, regulamentem a tecnologia e implemente medidas de mitigação.” A se crer na reconfiguração, inclusive notada pelo autor, os governos parecem ser somente coadjuvantes na performance das Big Techs escoradas pela inteligência artificial. O apoio mencionado parece somente uma figura retórica.
A sensação que se tem ao final da leitura é que estamos retomando o contexto de suposta diminuição dos riscos de guerra durante as primeiras décadas do século XX, aquele momento em que a Primeira Guerra Mundial estava sendo gestada. Em uma palavra: ao ler esse livro, mantenha o foco naquilo que o autor não nos conta.
Veja a LABÔ Lecture com Fernando Amed:
https://offlattes.com/archives/12447
Entre em contato com a coluna
labo.behavior@gmail.com
