Inteligência Artificial Assusta-me

O que está descrito abaixo é filosofia; não é nem pretende ser ciência informática. Se alguém com experiência nessa área quiser apontar para algum facto cientifico que orne o cenário proposto impossível, os comentários estão abertos.

O meu computador desliga-se quando encontra uma situação em que, segundo parâmetros pré-definidos, é mais benéfico para a sua missão que ele se desligue. Por exemplo, quando a ventoinha falha e o processador sobre-aquece.

Quando o volto a ligar, o computador tem uma “memória” fundamental. As configurações mantêm-se, pois estão gravadas numa pilha de lítio. Mas isto, para o computador, é irrelevante – a sua “memória” não é um fator na decisão do que é o melhor ou não. Se eu remover a pilha de lítio, ele procederá da mesma forma, caso necessário.

Imaginemos que criamos uma Inteligência Artificial suprema, capaz de raciocínio e auto-determinação. Capaz de processar e equacionar com conceitos filosóficos e fisiológicos avançados. A sua função é o controlo do mundo, e o seu objectivo é – tal como o meu computador – tomar as melhor es decisões possível para benefício de todos.

Agora a parte séria: aquilo que é melhor para nós não é necessariamente aquilo que queremos. Ao contrário do meu computador, temos uma bias evolutiva; temos uma bias em relação à vida, à sobrevivência.

Parece-me muito provável que, livre dessa bias – como o meu computador – a Inteligência Artificial Suprema note dois factos objectivos:

  1. O sofrimento humano afecta a nossa experiência muito mais do que a felicidade; isto é, quando sofremos, sentimos esse sofrimento com muito mais intensidade, e fica mais marcado na nossa memória, do que sentimos e recordamos experiências de êxtase.
  2. Uma entidade que não existe não sofre. (I.E., sofremos em virtude de existir, de estar vivos; antes de nascer, a nossa não-existência não nos causava qualquer tipo de sofrimento.)

Face a isto, e com o objectivo máximo de tomar decisões por nós, em nosso benefício, para minimizar o nosso sofrimento…

Não é natural que a IA desligue a luz?

Pintura: “A Igreja de Santa Maria degli Angeli perto de Assisi,” por Henri-Edmond Cross