Segundo relatos, Sam Altman, CEO da OpenAI, falou na semana passada, numa palestra dirigida aos funcionários, de três «pontos de chegada» para fazer avançar a IA em segurança.
As três opções são um organismo internacional de supervisão, a fusão dos principais laboratórios ou a liderança isolada de um único laboratório. Altman terá chamado «pacing 2.0» à fase de escolher um rumo no prazo de um ano e afirmado que o autoaperfeiçoamento da IA precisa de limites de velocidade ou pontos de paragem.
O dia em que as inspeções antes do lançamento deixarão de ser suficientes
A atual abordagem de segurança da OpenAI consiste em disponibilizar um modelo depois de este passar nos testes de segurança e, caso haja alguma preocupação, informar sobre ela. Altman terá chamado a esta abordagem «pacing 1.0». Por analogia com um carro, seria um método que consiste em inspecionar o veículo concluído antes de o entregar e pô-lo na estrada se não houver problemas.
Mas, quando a IA começa a aperfeiçoar-se a si própria, a situação muda. A questão deixa de ser apenas enviar um carro depois de inspecionado e passa a ser como gerir a própria velocidade a que os carros evoluem. A próxima etapa mencionada, «pacing 2.0», incide precisamente sobre este ponto.
Três propostas, três visões completamente distintas da governação
As três propostas distinguem-se claramente quanto a quem controla o desenvolvimento da IA. Vejamos as diferenças.
A primeira proposta consiste em criar um organismo mundial de supervisão, como a Agência Internacional de Energia Atómica (AIEA). Segundo relatos, Altman apoia esta ideia, e a OpenAI defende desde 2023 a necessidade de um quadro deste tipo.
A segunda proposta é designada «Demis plan», em referência a Demis Hassabis, cofundador da DeepMind. Consistiria em reunir os principais laboratórios numa única entidade para realizar investigação em nome dos países participantes, num modelo comparado ao CERN, a organização europeia de investigação em física de partículas.
A terceira proposta é um cenário que toma o nome do investigador de IA Eliezer Yudkowsky. Um único laboratório assumiria a dianteira recorrendo a uma IA capaz de se autoaperfeiçoar, afastando-se tanto dos concorrentes que «derreteria» as GPU das outras empresas. Altman terá classificado este cenário como «terrível».
O que se percebe ao comparar as três propostas
A supervisão pode ser descrita como a opção de «definir as regras a partir do exterior»; a fusão dos laboratórios, como a de «concentrar os recursos de investigação num só lugar»; e a liderança isolada, como a de «deixar a decisão nas mãos do vencedor da corrida». As três procuram um futuro seguro, mas diferem na forma como distribuem o poder.
Pessoalmente, considero preocupante que a terceira proposta possa ser a mais provável de se concretizar. Se a competição continuar sem que nada seja decidido, esse poderá ser o desfecho natural. Talvez seja por isso que Altman usou as palavras mais fortes para a descrever.
A questão é quem define os limites de velocidade
Altman terá dito que é preciso escolher um rumo no prazo de um ano e que essa escolha deve incluir «limites de velocidade» ou pontos de paragem para a IA capaz de se autoaperfeiçoar. É como tentar acrescentar, mais tarde, as instruções para construir travões a um carro que só tem acelerador.
A questão é quem aciona esse travão. Será dado poder ao organismo de supervisão ou serão os laboratórios reunidos numa única entidade? Qualquer que seja a opção, esta não poderá funcionar sem que todos os principais intervenientes se sentem à mesa. A imagem de todos os laboratórios reunidos sob o mesmo teto, como num filme de super-heróis, é apelativa, mas, à semelhança do que aconteceu com os acordos internacionais até agora, conseguir reunir todos os participantes deverá ser o maior obstáculo.
Uma orientação que coincide com as declarações de um concorrente
Na mesma altura, Jack Clark, da Anthropic, terá falado da ideia de estabelecer um limite para a inteligência e dito que o período em que ainda é possível agir em matéria de segurança é de «apenas alguns anos». Dois executivos de empresas concorrentes manifestam, assim, preocupações semelhantes.
Quando concorrentes começam a falar do mesmo problema, o debate pode passar do plano das ideias para o da execução. No entanto, a OpenAI ainda não adotou oficialmente nenhuma das propostas; tudo permanece na fase de conceção. O prazo de um ano será capaz de pôr o debate a mexer em todo o setor? É algo que vale a pena acompanhar.
コメント