A IA, de Inteligência Artificial, está a ser desenvolvida por cientistas de todo o mundo a um ritmo avassalador. Estes sistemas permitem, por exemplo, gerir e classificar milhões de fotos no Facebook ou ensinar robôs a andar. Vários entendidos, entre os quais Elon Musk ou Stephen Hawking, já alertaram para os perigos destes sistemas se desenvolverem rapidamente e ficarem fora do controlo dos humanos.
A equipa da Deepmind, que desenvolveu o sistema que defrontou o campeão de Go, está a estudar o tema e pondera a criação de um grande botão de pânico que possa ser usado para desativar a ameaça ou pelo menos interrompe-la. A solução não é tão simples quanto carregar no botão de Power ou desligar a máquina da corrente elétrica pois estes sistemas terão baterias ou serão independentes.
De acordo com a Popular Science, o método encontrado passa por conseguir enganar a máquina, ou seja, criar uma “política de interrupção” ao abrigo da qual é enviado código que faça com que o agente mude o seu comportamento voluntariamente. Quando este botão de pânico for ativado, é enviado um sinal ao robô ou ao sistema que o faz perceber que será melhor parar a sua tarefa atual, eliminando a ameaça que tiver sido detetada. A decisão de parar é tomada pelo próprio sistema, embora com os sinais que a induzam sejam injetados por humanos.
Os investigadores alertam que estes sinais só podem ser enviados pelos proprietários da Inteligência Artificial e não podem ser enviados por entidades externas, de forma a minimizar a abertura para sofrer ataques informáticos.
