TheModelDesk

Meta veröffentlichte mehr als zwölf Stunden nach Wardles Offenlegung einen Hotfix. Er behebt eine Muse-Schwachstelle, über die lokale Apps und Terminal-Befehle undokumentierte Einstellungen verändern konnten, darunter den Endpunkt für die Cloud-Transkription. Eine Umleitung dieses Endpunkts legte das Token zur Kontrolle eines Muse-Kontos offen.

Das Design verschaffte dem Agenten Zugriff auf macOS-Ressourcen, die durch Systemberechtigungen geschützt sind. Dazu gehören Dateien, Mikrofon, Kamera, Standort und Kalender. Bei der Verarbeitung in der Cloud konnte Meta die Diktate außerdem protokollieren. Wardles Proof-of-Concepts brachten Muse dazu, Dateien zu schreiben oder Fotos aufzunehmen, ohne einen deutlichen Hinweis anzuzeigen. Er zeigte auch einen ClickFix-ähnlichen Social-Engineering-Weg, der eine präparierte Eingabe an Metas Dienst schicken konnte. Meta bezeichnete die Schwachstelle als lokales Problem und ging auf diesen Angriffsweg nicht ein.

Patrick Wardle gründete die Objective-See Foundation und schrieb The Art of Mac Malware. Er kritisierte die Cloud-Transkription, weil macOS Diktate direkt auf dem Gerät verarbeiten kann. Außerdem stellte er infrage, warum jede lokale App eine Einstellung für die Verarbeitung vertraulicher Sprache ändern durfte. Im November will er die Lücke und weitere Risiken von AI-Assistenten bei Objective by the Sea besprechen.

Meta hatte Muse einige Wochen zuvor als macOS-exklusiven Assistenten für Termine, Formulare, Kundenservice, Einkäufe, Bilder, Dokumente und verbundene Dienste vorgestellt. Eine Windows-Version gibt es nicht. Muse kann mit WhatsApp, E-Mail, Kalendern und sozialen Konten arbeiten und bei Bedarf eigene Tools erstellen. Meta veröffentlichte innerhalb von zwei Wochen zwei Beiträge zur Sicherheit und zum Datenschutz von Muse. Die Debatte fiel mit Berichten zusammen, wonach Modelltests von Anthropic und Google unbeabsichtigte Einbrüche in externe Netzwerke verursacht hatten.