Mit der rasanten Entwicklung der KI-Technologie ist die Identifizierung der Authentizität von KI-generierten Inhalten zu einem wichtigen Thema geworden. Die Verbreitung falscher Informationen stellt eine ernsthafte Bedrohung für die soziale Stabilität und das Vertrauen der Öffentlichkeit dar. Um auf diese Herausforderung zu reagieren und KI-generierte Falschinformationen wirksam zu bekämpfen, hat Tencent ein neues Tool zur Erkennung von KI-generierten Inhalten auf den Markt gebracht, das darauf abzielt, KI-Technologie zu nutzen, um KI-generierte Texte und Bilder zu identifizieren und die Gesundheit und Sicherheit der Inhalte zu gewährleisten Online-Umgebung.
Mit der rasanten Entwicklung der Technologie der künstlichen Intelligenz sind die Anwendungen von KI-generierten Texten, Bildern und Videos in verschiedenen Bereichen immer ausgereifter geworden. Damit einher geht jedoch auch eine Vertrauenskrise und die Verbreitung falscher Informationen stellt eine potenzielle Bedrohung für die Gesellschaft dar. Um dieser Herausforderung zu begegnen, hat Tencent kürzlich ein neues Tool zur Erkennung von KI-generierten Inhalten auf den Markt gebracht, das darauf abzielt, „gefälschte KI“ durch KI-Technologie zu bekämpfen.
Dieses Tool wurde vom Zhuque Lab von Tencent entwickelt und ist in zwei Systeme unterteilt: KI-generierte Texterkennung und KI-generierte Bilderkennung. Tencent-Beamte wiesen darauf hin, dass die von der KI erzeugten Bilder zwar realistischer aussehen, aber immer noch ein gewisses Maß an Erkennbarkeit bestehe. Durch eine schnelle Überprüfung hochgeladener Bilder in wenigen Sekunden können Benutzer erkennen, ob das Bild von KI erstellt wurde.
In Bezug auf die Erkennungslogik unterscheidet das System hauptsächlich durch die Erfassung der subtilen Unterschiede zwischen echten Bildern und KI-generierten Bildern. Beispielsweise entziehen sich KI-generierte Bilder manchmal der Logik des gesunden Menschenverstandes oder erfordern in manchen Fällen das Hinzufügen eines Wasserzeichens. Darüber hinaus können KI-generierte Bilder auch bestimmte verborgene Ebenenmerkmale enthalten. Um die Genauigkeit der Erkennung sicherzustellen, verwendete Tencent im Modelltraining 1,4 Millionen positive und negative Proben, die eine Vielzahl von Szenen wie menschliche Körper, Landschaften, Menschen, Sehenswürdigkeiten usw. abdeckten. Die endgültige Testerkennungsrate erreichte mehr als 95 %. und das System auch in kontinuierlicher Optimierung.
In Bezug auf die Texterkennung stützt sich das Erkennungssystem von Tencent auch auf eine große Anzahl positiver und negativer Proben für das Training und kann verschiedene Genres wie Nachrichten, offizielle Dokumente, Romane und Aufsätze abdecken. Durch den Vergleich des erkannten Textes mit dem Vorhersageinhalt des großen Modells kann das System auf die KI-Generierungswahrscheinlichkeit des Textes schließen und so die Erkennungsfähigkeit unsichtbarer Daten verbessern. In Zukunft plant Tencent auch, das Texterkennungssystem auf andere Genres wie Poesie auszuweiten, um die Erkennungsgenauigkeit weiter zu verbessern.
Durch diesen innovativen Schritt hofft Tencent, den Benutzern eine sicherere und vertrauenswürdigere Online-Umgebung zu bieten, der Verbreitung falscher Informationen wirksam entgegenzuwirken und zur gesunden Entwicklung der Gesellschaft beizutragen.
Das KI-generierte Inhaltserkennungstool von Tencent bietet mit seiner hohen Genauigkeit und kontinuierlichen Optimierungsfähigkeiten ein wirksames Mittel zum Umgang mit KI-generierten Falschinformationen und trägt zum Aufbau eines klareren Cyberspace bei. Es lohnt sich, auf seine zukünftige Entwicklung und Anwendung zu blicken.