Ética, direito e segurança– category –

A Anthropic afirma ter reforçado as medidas contra a extração em grande escala dirigida ao processo de raciocínio do Claude e reduzido o volume extraído entre 90% e 99%. Analisamos o novo campo de batalha da competição em IA através das defesas adotadas: contas falsas, classificadores e suspensão de contas.

A forma como as capacidades da IA se manifestam varia entre quem a utiliza para pesquisar ou redigir textos e quem lhe confia tarefas de desenvolvimento. Com base na classificação de utilizadores de Karpathy e nas declarações dos criadores do Claude Code, analisamos de que modo a forma de dar instruções gera diferenças na utilização e que medidas de segurança são necessárias para uma IA que funciona durante longos períodos.

A Amazon anunciou que deixará de recorrer a acordos de confidencialidade nas negociações com autarquias sobre centros de dados. Numa altura em que os agentes de IA para consumidores também procuram aceder a informações confidenciais, importa analisar a confiança que sustenta a utilização da IA, tanto do ponto de vista da divulgação de informações como da gestão de permissões.

A australiana Apate usa IA que se faz passar por vítima para prolongar conversas com burlões e recolher informações sobre os seus métodos e os destinatários das transferências. O objetivo é roubar tempo aos burlões. No entanto, a duração das conversas e a eficácia na redução dos prejuízos devem ser avaliadas separadamente.