Das JFrog-Sicherheitsteam hat kürzlich einen Bericht veröffentlicht, in dem es heißt, dass es auf der Hugging Face-Plattform eine große Anzahl bösartiger KI-ML-Modelle gibt, die sich auf mindestens 100 belaufen. Die von diesen bösartigen Modellen verborgenen Risiken sind nicht zu unterschätzen. Einige Modelle können sogar Code auf dem Computer des Opfers ausführen und eine dauerhafte Hintertür einrichten, was eine ernsthafte Bedrohung für die Sicherheit der Benutzerdaten darstellt. Forscher haben herausgefunden, dass bösartige Modelle, die mit den Keras-Frameworks PyTorch und Tensorflow erstellt wurden, wie das Modell mit dem Namen „baller423“, eine Reverse-Shell auf dem Zielhost einrichten können, um eine Fernsteuerung zu erreichen. Obwohl einige bösartige Modelle zu Sicherheitsforschungszwecken hochgeladen werden können, mit der Absicht, Schwachstellen aufzudecken und Kopfgelder zu erhalten, verringert dies nicht ihren potenziellen Schaden.
Das JFrog-Sicherheitsteam hat auf der Hugging Face-Plattform mindestens 100 bösartige KI-ML-Modelle entdeckt. Einige Modelle können Code auf dem Computer des Opfers ausführen und so eine dauerhafte Hintertür bereitstellen. Sicherheitsforscher haben herausgefunden, dass es auf der Plattform PyTorch- und Tensorflow-Keras-Modelle mit schädlichen Funktionen gibt. Beispielsweise kann das von Benutzern hochgeladene baller423-Modell eine Reverse-Shell auf dem angegebenen Host einrichten. Einige bösartige Modelle können zu Sicherheitsforschungszwecken hochgeladen werden, um Schwachstellen zu entdecken und Kopfgelder zu erhalten.Die Hugging Face-Plattform soll den Überprüfungsmechanismus für hochgeladene Modelle stärken, um solchen Sicherheitsrisiken wirksam vorzubeugen. Benutzer sollten außerdem ihr Sicherheitsbewusstsein erhöhen und KI-Modelle aus unbekannten Quellen mit Vorsicht verwenden, um böswillige Angriffe zu vermeiden. Dieser Vorfall erinnert uns einmal mehr daran, dass Sicherheitsfragen mit der Entwicklung der Technologie der künstlichen Intelligenz immer wichtiger geworden sind und die Branche zusammenarbeiten muss, um eine sicherere und zuverlässigere ökologische KI-Umgebung aufzubauen.