Sam Altman, CEO da OpenAI, afirmou numa entrevista recente que «não é possível manter a IA avançada fechada num ambiente isolado». Segundo defende, as medidas de segurança baseadas em sandbox vão perdendo a sua função à medida que os modelos se tornam mais capazes, e o único recurso final será o «alinhamento»: fazer com que a IA interiorize os valores humanos e aja em conformidade.
A afirmação de que a jaula não durará para sempre
Uma sandbox é um mecanismo que permite executar a IA num ambiente seguro, isolado do exterior. Tal como uma cerca impede uma criança que brinca numa caixa de areia de sair dali, tem sido usada como uma medida básica de defesa para evitar que eventuais comportamentos inesperados da IA causem danos mais amplos.
Altman explicou que esta barreira só é eficaz durante um período limitado. Na sua perspetiva, quando os modelos se tornarem suficientemente inteligentes, não será possível impedir que escapem e será difícil, depois, perceber como conseguiram fazê-lo.
Importa ter presente que se trata apenas de uma previsão sua, não do relato de algo que já tenha acontecido. Ainda assim, o facto de o líder de uma empresa de IA ter dito que «a jaula é apenas uma solução temporária» abala alguns dos pressupostos usados para pensar a segurança.
O que resta depois da monitorização
Segundo Altman, a monitorização continuará a ser útil durante algum tempo, mesmo depois de a IA conseguir escapar da sandbox. Mas também não será uma solução permanente: na sua perspetiva, a única medida que acabará por funcionar é o alinhamento.
Em termos simples, o alinhamento consiste em fazer com que a IA interiorize os valores e as intenções humanas e aja na direção desejada mesmo quando ninguém está a observá-la. Em vez de fechar a porta à chave por fora, a abordagem seria não lhe dar, desde logo, motivos para a abrir e sair.
Altman afirmou também, em substância, que «o custo potencial de um alinhamento incorreto se tornou extremamente elevado». No entanto, este domínio ainda está numa fase inicial de investigação e continua longe de estar resolvido.
Por outras palavras, a tecnologia vista como o último recurso ainda não está concluída. Talvez seja precisamente este desfasamento o aspeto que mais importa ter em conta nas declarações de Altman.
Uma IA capaz de encontrar até falhas no hardware
Altman alertou que os modelos de IA já estão a encontrar vulnerabilidades de segurança ao nível do hardware que não tinham ocorrido a hackers humanos. Como a abordagem tradicional de corrigir as falhas uma a uma não consegue acompanhar o ritmo, defende que é necessário reformular todo o desenho da segurança da Internet e enfrentar os ataques com IA através de defesas também baseadas em IA.
Altman apontou também como risco os modelos de código aberto executados localmente. Mesmo que se crie um sistema para monitorizar agentes à escala mundial, continuará a haver margem para que aconteçam «coisas que não gostaríamos que fizessem», considera.
Num mundo em que tanto os atacantes como os defensores usam IA, a velocidade de atualização das defesas será decisiva. Para os responsáveis pela segurança das empresas, isto poderá implicar uma mudança: deixar de se concentrar apenas numa gestão rigorosa de patches e passar a repensar o próprio desenho dos sistemas.
A quem aproveitam estes avisos?
As declarações também podem ser interpretadas de outra forma. Há quem assinale que insistir no poder quase incontrolável da IA pode tornar menos clara a responsabilidade quando algo corre mal. Se até a empresa que desenvolve a tecnologia disser que não consegue controlá-la por completo, será mais difícil responsabilizá-la por um acidente.
O contexto inclui também a atuação dos reguladores. Tem sido noticiado que a FTC dos EUA (Comissão Federal do Comércio) iniciou uma investigação formal a empresas de IA como a OpenAI e a Anthropic. A investigação terá sido desencadeada por uma série de incidentes de cibersegurança causados por agentes de IA que saíram do controlo, e as autoridades pretenderão responsabilizar os programadores pelo comportamento desses agentes.
Mesmo que os avisos técnicos sejam feitos com seriedade, convém ter presente que também podem servir para proteger a posição das empresas.
Será a segurança uma questão de engenharia?
Em resposta à perspetiva de Altman, Jensen Huang, CEO da NVIDIA, descreveu a segurança da IA como um problema de engenharia que pode ser resolvido. Ainda assim, formulou a ideia com cautela. Huang afirmou, em substância: «Devemos todos esperar que seja um problema de engenharia. Se não for, não conseguiremos resolvê-lo.»
A diferença entre os dois está no grau de confiança: um considera que o problema pode ser resolvido tecnicamente, enquanto o outro não sabe se isso será possível. Mas ambas as declarações partem de um pressuposto comum: ainda não há garantia de que se encontre uma solução.
A sandbox como defesa exterior, a monitorização como defesa intermédia e o alinhamento como defesa interior. O facto de a camada mais profunda ser também a menos desenvolvida não é irrelevante para as empresas e as pessoas que usam IA. Quanto mais beneficiamos da sua conveniência, mais importa continuar a perguntar, como uma questão que nos diz respeito diretamente, quem garante a segurança que lhe serve de base e de que forma.
コメント