A norte-americana Meta anunciou na quinta-feira, hora local, o modelo de pesos abertos «Muse Spark Open». Com 816 mil milhões de parâmetros e uma janela de contexto de um milhão de tokens, foi concebido para execução local em computadores Apple. Já começou a ser disponibilizado através de várias plataformas de API.
Funciona em Mac, mas não necessariamente no seu Mac
Ao ouvir falar de «uma IA que funciona em Mac», é fácil imaginar que se pode descarregar o modelo para o portátil que se usa atualmente e experimentá-lo. Mas, neste caso, a realidade não é assim tão simples. Segundo foi noticiado, executar localmente um modelo com 816 mil milhões de parâmetros exige pelo menos 1 TB de memória. Estamos a falar de uma ordem de grandeza diferente da memória de um portátil comum.
A configuração apontada como ideal é um Mac Studio equipado com o chip M5 Ultra. O que a Meta demonstra com este modelo é, mais do que a facilidade de utilização, a possibilidade de lidar com um modelo gigantesco no dispositivo que se tem à secretária, sem o confiar à cloud.
Ainda assim, o facto de existir esta «opção» não é insignificante. Até agora, os modelos de dimensão extraordinária estavam do outro lado dos centros de dados. Agora começam a surgir no universo dos computadores de secretária. Mesmo que os requisitos de execução sejam elevados, é uma evolução que não deve passar despercebida.
Da IA que escreve código à IA que analisa vídeo
O Muse Spark Open tem uma arquitetura multimodal nativa, capaz de processar imagens, entre outros conteúdos, e foi concebido para tarefas complexas de programação e trabalho baseado em agentes. Este tipo de trabalho não consiste em responder a uma pergunta e ficar por aí: a IA organiza várias etapas por si própria e executa as tarefas.
A Meta explica que combinou o modelo com o seu terminal de programação com IA, «Muse Code», e o utilizou em vários fluxos de trabalho baseados em agentes. Um dos exemplos apresentados foi a alteração de um cliente da rede social descentralizada «Mastodon». Segundo a empresa, o modelo tratou de todo o processo: corrigiu falhas, acrescentou novas funcionalidades e compilou o projeto.
O modelo também foi utilizado para operar o software de edição de vídeo «DaVinci Resolve», onde conseguiu inspecionar e recortar os materiais. Do mundo do código às ferramentas profissionais de edição de vídeo: os cenários em que a IA opera aplicações no ecrã estão claramente a expandir-se.
O que pessoalmente acho interessante é que ambos os exemplos dizem respeito a tarefas realizadas num computador de secretária. Da IA que responde numa janela de chat àquela que trabalha ao nosso lado, em frente ao PC. Talvez seja também por isso que a Meta aposta na execução local em Mac.
O valor dos pesos abertos não se mede apenas pelo desempenho
Com base nos resultados de avaliação que publicou, a Meta afirma que o modelo supera outros dos principais modelos de pesos abertos. A empresa apresenta-o como o modelo de pesos abertos com melhor desempenho nos Estados Unidos.
No entanto, a importância dos pesos abertos não se resume a uma tabela classificativa. Como os pesos — ou seja, o próprio conteúdo do modelo já treinado — são disponibilizados, estes modelos tendem a oferecer vantagens de custo em relação aos modelos fechados, além de facilitarem a transparência sobre o seu funcionamento e a flexibilidade na utilização.
Para as empresas, a decisão passa por optar pela facilidade de utilização através de uma API ou por executar o modelo na própria infraestrutura. A primeira opção permite uma implementação rápida; a segunda evita que os dados saiam da empresa. O requisito de 1 TB é uma barreira elevada, mas, em ambientes que lidam com desenvolvimento confidencial ou material de vídeo, algumas organizações poderão considerar que o investimento compensa.
O Muse Spark Open é um modelo que acrescenta mais um elemento a ponderar nessa decisão. Experimentar através de uma API e, se necessário, executá-lo localmente: esta utilização em duas etapas poderá tornar-se a forma habitual de trabalhar com IA de pesos abertos.
コメント