Sachverhalt
Sicherheitsforschende von Cybernews, einem Nachrichtenportal und Forschungsunternehmen für Cybersicherheit, haben eine unzureichend gesicherte Datenbank bei der KI-App „Video AI Art Generator & Maker“ gefunden. Die App dient der Bild- und Videobearbeitung. Aufgrund eines falsch konfigurierten Google Cloud Storage Buckets waren die Medieninhalte mit einem Gesamtumfang von zwölf Terabyte öffentlich und ohne Authentisierung zugänglich.
Betroffen waren sowohl mehr als 1,5 Millionen von Nutzerinnen und Nutzern hochgeladene Bilder und mehr als 385.000 Videos. Des Weiteren waren auch rund drei Millionen KI-generierte Videos und Bilder und mehr als 386.000 KI-generierte Audiodateien betroffen.
Die betroffene App war mit über 500.000 Downloads und einer durchschnittlichen Bewertung von 4,3 (von 5) im Google Play Store gelistet und wurde zwischenzeitlich entfernt. Der Entwickler mit Sitz in der Türkei fiel laut Sicherheitsforschenden bereits zuvor durch fehlerhaft konfigurierte Backend-Dienste auf.
Bewertung
KI-gestützte Apps und Tools für den privaten Gebrauch gewinnen zunehmend an Popularität. Parallel dazu häufen sich auch Sicherheitsvorfälle, bei denen Bildmaterial, Standortdaten oder weitere sensible Informationen unzureichend geschützt oder offengelegt werden. Insbesondere besteht das Risiko für KI-gestützten Identitätsmissbrauch, zum Beispiel im Rahmen von Social-Engineering-Angriffen oder Deepfake-Szenarien.
Reaktion
Betroffenen wird empfohlen, die App umgehend zu deinstallieren und mögliche verbliebene App-Rückstände auf den Endgeräten zu entfernen. Darüber hinaus ist erhöhte Wachsamkeit im Hinblick auf potenzielle missbräuchliche Verwendung der möglicherweise abgeflossenen Bild- und Videoinhalte geboten. Werden entsprechende Missbrauchsfälle bekannt, sollte unverzüglich Anzeige bei den zuständigen Strafverfolgungsbehörden erstattet werden.