Ética, derecho y seguridad– category –

OpenAI encontró un dispositivo de grabación en la sala de reuniones de su consejo de administración y denunció ante el FBI al empleado sospechoso de haberlo instalado. Ese mismo día, el Departamento de Justicia anunció que había presentado cargos contra él por presunta interceptación de conversaciones, entre otros delitos. Analizamos cómo se descubrió el dispositivo, el uso de la IA en la investigación y la dificultad de proteger la información confidencial.

Anthropic afirma que ha reforzado las medidas contra la extracción a gran escala dirigida al proceso de razonamiento de Claude y que ha reducido el volumen extraído entre un 90 % y un 99 %. Un análisis del nuevo frente de la competencia en IA a través de las medidas de defensa: cuentas falsas, clasificadores y suspensión de cuentas.

La capacidad de la IA se percibe de manera distinta entre quienes la utilizan para buscar información o redactar textos y quienes le confían tareas de desarrollo. A partir de la clasificación de usuarios de Karpathy y de las declaraciones de los desarrolladores de Claude Code, analizamos cómo las instrucciones que se dan a la IA generan diferencias en su uso y qué medidas de seguridad necesita una IA que trabaja durante largos periodos.

Amazon ha anunciado que dejará de utilizar acuerdos de confidencialidad en las negociaciones con municipios sobre centros de datos. Al mismo tiempo, los agentes de IA para uso personal solicitan acceso a información sensible. Analizamos la confianza necesaria para usar la IA desde dos perspectivas: la divulgación de información y la gestión de permisos.

La australiana Apate alarga las conversaciones con estafadores mediante una IA que se hace pasar por una víctima y recopila información sobre sus métodos y los destinos de las transferencias. Su objetivo es robarles tiempo. Sin embargo, la duración de las conversaciones y su eficacia para reducir los daños deben evaluarse por separado.