Estado Sentido

No tabuleiro internacional não existem vazios de poder. Os espaços disponíveis são prontamente abarbatados por actores com apetite global. Por outras palavras, o proteccionismo dos E.U.A., de trancas à porta, parece corresponder ao incremento do multilateralismo da República Popular da China (R.P.C.) em diversos sectores — uma espécie de (nova)chamada ao Ocidente, e ao mesmo tempo o desejo da sua ascensão à liderança de uma nova ordem global. E o campo da Inteligência Artificial (IA) não será excepção. Os chineses perceberam que uma organização internacional para a IA ser-lhe-ia proveitosa — mais uma forma de projeção de poder. Paradoxalmente, será difícil conter algo que pela sua natureza exploratória não é passível de ser trancado. A R.P.C. parece prometer o diálogo multilateral para com os parceiros estrangeiros, ao mesmo tempo que pratica o refrear de liberdades dos seus próprios cidadãos. No cerne da questão reside a dúvida existencial — a IA promove a democracia ou avança as causas do autoritarismo? E se a IA ganhar a sua própria consciência ideológica, será que não teremos de lidar com um novo actor político desprovido de território, cultura, que não serve nações ou estados, mas que condiciona tudo e todos? Em quem iremos confiar? E que novas modalidades de crenças serão geradas? Como se pode restringir o ADN mutante da tecnologia que nem sempre anda a par e passo com as aspirações da humanidade? E mais uma vez somos confontados com a noção de que a ética deve imperar, que a mesma deve procurar balançar o justo com o proveitoso. Enfrentamos neste momento da história, como em tantos outros, dilemas. Poderá existir IA que se autoregula? Como pode o homem aspirar a dominar o monstro que está a criar? Talvez possamos invocar as tormentas de 1984 ou afins, mas os arquétipos e os símbolos mais escuros já não servem à caracterização do mundo que se avizinha a passos largos. As amostras do maravilhoso mundo novo são parcas e inconsistentes. A prova parece ser cega. 

Stephen Cave, "Intelligence: a history":

So when we reflect upon how the idea of intelligence has been used to justify privilege and domination throughout more than 2,000 years of history, is it any wonder that the imminent prospect of super-smart robots fills us with dread?

 

From 2001: A Space Odyssey to the Terminator films, writers have fantasised about machines rising up against us. Now we can see why. If we’re used to believing that the top spots in society should go to the brainiest, then of course we should expect to be made redundant by bigger-brained robots and sent to the bottom of the heap. If we’ve absorbed the idea that the more intelligent can colonise the less intelligent as of right, then it’s natural that we’d fear enslavement by our super-smart creations. If we justify our own positions of power and prosperity by virtue of our intellect, it’s understandable that we see superior AI as an existential threat.

(...).

 

We would do better to worry about what humans might do with AI, rather than what it might do by itself. We humans are far more likely to deploy intelligent systems against each other, or to become over-reliant on them. As in the fable of the sorcerer’s apprentice, if AIs do cause harm, it’s more likely to be because we give them well-meaning but ill-thought-through goals – not because they wish to conquer us. Natural stupidity, rather than artificial intelligence, remains the greatest risk.

 

It’s interesting to speculate about how we’d view the rise of AI if we had a different view of intelligence. Plato believed that philosophers would need to be cajoled into becoming kings, since they naturally prefer contemplation to mastery over men. Other traditions, especially those from the East, see the intelligent person as one who scorns the trappings of power as mere vanity, and who removes him or herself from the trivialities and tribulations of quotidian affairs.

 

Imagine if such views were widespread: if we all thought that the most intelligent people were not those who claimed the right to rule, but those who went to meditate in remote places, to free themselves of worldly desires; or if the cleverest of all were those who returned to spread peace and enlightenment. Would we still fear robots smarter than ourselves?

(também publicado aqui.)