Google cria “botão vermelho” para IA
Um laboratório de pesquisa de inteligência artificial de Londres, o Google DeepMind, concluiu: a melhor forma de se preparar para o avanço da tecnologia de inteligência artificial (IA) é criar um “botão vermelho” que paralise todas as atividades de agentes de inteligência artificial~ — dispositivos que possuem IA, como computadores e robôs. Segundo o site Business Insider, os pesquisadores criaram uma “estrutura” que permite que um operador humano interrompa as atividades de uma IA, assegurando que a IA não aprenda como prevenir as interrupções.
Em artigo publicado no site do Machine Intelligence Research Institute (MIRI) (https://intelligence.org/research/), Laurent Orseau, Stuart Armstrong e outros pesquisadores do Google DeepMind explicam o porquê. Segundo eles, é improvável que agentes IA funcionem perfeitamente o tempo todo. “Se um agente IA estiver trabalhando em tempo real sob supervisão humana, ocasionalmente será necessário que o operador humano pressione um “botão vermelho” para impedir que o agente IA continue com uma sequência nociva de ações, que podem ser prejudiciais para o agente ou para o meio ambiente”, explicam no artigo.
Para os cientistas, interromper as atividades dos agentes com inteligência artificial de forma segura pode ser útil para assumir o controle de um robô cujo comportamento pode levar a consequências irreversíveis ou para tirá-lo de uma situação delicada. Para exemplificar, o estudo cita o caso de um robô que foi desafiado pelos programadores a vencer uma partida de Tetris. Sozinha, a inteligência artificial do robô descobriu que, se deixasse o jogo em pausa para sempre, nunca perderia o jogo. Esse é o tipo de caso em que um agente humano veria necessidade de desligar um agente IA. A dificuldade para criar esse botão de desligar, por enquanto, é que nem todos os algoritmos utilizados em inteligências artificiais podem ser interrompidos com segurança.
