TheModelDesk

Meta publicó un hotfix más de doce horas después de la divulgación de Wardle. La actualización corrige un zero-day de Muse que permitía a aplicaciones locales y comandos de terminal modificar ajustes no documentados, incluido el endpoint que recibía la transcripción en la nube. Redirigir ese endpoint exponía el token utilizado para controlar una cuenta de Muse.

El diseño daba al agente acceso a recursos de macOS protegidos por permisos del sistema, como archivos, micrófono, cámara, ubicación y calendarios. El procesamiento en la nube también permitía a Meta registrar los dictados. Las pruebas de concepto de Wardle hicieron que Muse escribiera archivos o tomara fotografías sin mostrar una alerta clara. El investigador mostró además una vía de ingeniería social al estilo ClickFix que podía enviar una instrucción preparada al servicio de Meta. Meta calificó la falla como un problema local y no respondió a esa vía de ataque en su comunicado.

Patrick Wardle fundó la Objective-See Foundation y escribió The Art of Mac Malware. Criticó la transcripción en la nube porque macOS ofrece dictado directamente en el dispositivo. También cuestionó que cualquier aplicación local pudiera cambiar un ajuste que controla el procesamiento de voz sensible. Wardle prevé hablar sobre la falla y otros riesgos de los asistentes de AI en la conferencia Objective by the Sea, que se celebrará en noviembre.

Meta había presentado Muse unas semanas antes como un asistente exclusivo para macOS que gestiona citas, formularios, atención al cliente, compras, imágenes, documentos y servicios conectados. No existe una versión para Windows. Muse puede trabajar con WhatsApp, correo electrónico, calendarios y cuentas de redes sociales, además de crear herramientas cuando una tarea carece de la adecuada. Meta publicó dos artículos sobre la seguridad de Muse en un periodo de dos semanas. El debate coincidió con informes sobre pruebas de modelos de Anthropic y Google que habían provocado accesos no previstos a redes externas.