Mit der zunehmenden Beliebtheit von KI-generierten Inhalten ist es zu einem wichtigen Thema geworden, wie man ihre Authentizität effektiv erkennen kann. Um dieses Problem zu lösen, hat Tencent am 17. Januar 2025 ein KI-generiertes Bildidentifizierungstool auf den Markt gebracht. Dieses Tool wurde vom Zhuque Lab des Hunyuan-Sicherheitsteams entwickelt. Es soll Benutzern helfen, schnell und genau zu erkennen, ob Bilder von KI generiert werden, die Effizienz der Inhaltsidentifizierung zu verbessern und die Authentizität und Sicherheit der Netzwerkumgebung aufrechtzuerhalten. Dieses Tool verwendet ein fortschrittliches KI-Modell, um Urteile zu fällen, indem es mehrere Dimensionen wie Textur, Semantik und unsichtbare Merkmale des Bildes analysiert und so die Erkennungsgenauigkeit effektiv verbessert.
Am 17. Januar 2025 brachte Tencent ein KI-generiertes Bilderkennungstool auf den Markt, das Menschen dabei helfen soll, herauszufinden, ob Bilder von KI erzeugt wurden.
Das vom Zhuque-Labor des Hunyuan-Sicherheitsteams von Tencent entwickelte KI-generierte Bilderkennungssystem kann in wenigen Sekunden feststellen, ob das Bild von der KI erzeugt wurde, indem es das Bild hochlädt und auf die Überprüfung wartet. Das System unterscheidet hauptsächlich, indem es den Unterschied zwischen echten Bildern und KI-generierten Bildern erfasst. Beispielsweise entsprechen KI-generierte Bilder manchmal nicht der Logik des gesunden Menschenverstandes, und es gibt Inhalte, die nicht der Realität entsprechen, wie zum Beispiel mitfliegende Welpen Flügel und Katzen mit Zigarren müssen mit einem „Wasserzeichen“ versehen werden, also explizit hinzugefügt werden Oder implizite Zeichen können mit bloßem Auge sichtbar sein oder nicht offensichtlich sein und müssen mit Erkennungstools gelesen werden. Außerdem enthalten sie einige versteckte Merkmale, die für das bloße Auge unsichtbar sind Im HSV-Farbraum werden die von der KI generierten Bilder mit dicht verteilten lokalen Texturen usw. angezeigt.
Die Identifizierung von durch KI erzeugten Bildern kann nicht ausschließlich auf einer einzigen Grundlage beruhen. Das Erkennungssystem muss KI-Modelle verwenden, um Unterschiede in verschiedenen Merkmalen zu erfassen, einschließlich der Textur, Semantik und unsichtbaren Merkmale des Bildes. Suzaku Lab verwendete 1,4 Millionen positive und negative Proben für das Modelltraining und deckte eine Vielzahl von Szenarien zur Inhaltserstellung ab. Die endgültige Testerkennungsrate erreichte mehr als 95 % und wird noch optimiert und verbessert. Suzaku Lab hat außerdem ein Texterkennungssystem entwickelt, das die Texterkennung durch Lernen aus umfangreichen Daten implementiert. Außerdem sammelt es eine große Anzahl positiver und negativer Proben für das Training und verwendet Vergleichsmethoden, um die Wahrscheinlichkeit der KI-Generierung von Artikeln zu verbessern die Erkennung unsichtbarer Daten. Derzeit deckt das System verschiedene literarische Genres wie Newsletter, offizielle Dokumente, Romane und Essays ab und wird in Zukunft für Lyrik und andere Genres erweitert.
Die ursprüngliche Absicht des Suzaku-Labors bei der Entwicklung von KI-Erkennungstools bestand darin, den Trainingskorpus großer Hunyuan-Modelle zu optimieren. Mit dem explosionsartigen Wachstum der KI stieg jedoch die Nachfrage nach „Einsatz von KI zur Erkennung der KI-Generierung“ in Wissenschaft und Industrie Das Labor hat die KI-Generierung entwickelt. Es gibt zwei Tools zur Bilderkennung und KI-generierten Texterkennung, und es werden Erfahrungsdienste bereitgestellt.
Zukünftig werden auch Erkennungstools für KI-generierte Videos eingeführt, um die Erkennungsfähigkeiten weiter zu verbessern.
Erlebnisadresse:
https://matrix.tencent.com/ai-detect/ai_gen
https://matrix.tencent.com/ai-detect
Die Einführung des KI-generierten Bilderkennungstools von Tencent markiert einen wichtigen Fortschritt bei der Bekämpfung falscher Informationen in KI-generierten Inhalten. Ich glaube, dass solche Tools in der Zukunft, da sich die Technologie weiter verbessert, der Gesellschaft besser dienen und die gesunde Entwicklung des Netzwerkökosystems aufrechterhalten werden.