Eine MCN-Organisation nutzt Programme der künstlichen Intelligenz, um täglich Tausende gefälschter Nachrichten zu produzieren, was dazu führt, dass sich eine große Menge falscher Informationen im Internet viral verbreitet. Ein neuartiges Plattformkonto verlässt sich auf die „Erstellung“ von KI, um mehr als ein Dutzend E-Books zu aktualisieren jeden Tag, aber das Schreiben ist unlogisch und rhetorisch. Medizinische Dokumente wurden aufgrund der Verwendung falscher, von KI erzeugter Illustrationen zurückgezogen … Gegenwärtig kommt es immer häufiger vor, dass KI Texte generiert, fälscht oder manipuliert , Bilder, Audio und Video sowie eine große Menge schäbiger „Informationen, bei denen es schwierig ist, zwischen wahr und falsch zu unterscheiden“ Müll, was Diskussionen über „KI-Verschmutzung“ auslöst.
Seit letztem Jahr hat die generative künstliche Intelligenz eine Welle nach der anderen auf der ganzen Welt für Aufsehen gesorgt, und ihre bahnbrechenden Anwendungen haben vielen Branchen und Internetnutzern zugute gekommen. Eine Medaille hat jedoch zwei Seiten, und es gibt auch einige negative Probleme, die mit der generativen künstlichen Intelligenz einhergehen. Die „KI-Verschmutzung“ durch „Informationsmüll“ tritt immer stärker in den Vordergrund.
Ein im April dieses Jahres vom New Media Research Center der School of Journalism and Communication der Tsinghua-Universität veröffentlichter Forschungsbericht zeigte, dass die Zahl der Gerüchte über wirtschaftliche und unternehmensbezogene KI im vergangenen Jahr um 99,91 % gestiegen ist. Die US-Ermittlungsbehörde „News Guard“ gab an, dass die Zahl der Websites, die falsche Artikel generieren, seit Mai 2023 um mehr als 1.000 % gestiegen sei, und zwar in 15 Sprachen. Einige Experten glauben, dass der von KI erzeugte „Informationsmüll“ riesig, schwer zu identifizieren und kostspielig zu überprüfen ist.
Der durch „KI-Verschmutzung“ verursachte Schaden ist offensichtlich. „KI-Verschmutzung“ wird dazu führen, dass Internetnutzer in kognitive Halluzinationen verfallen. Auf einer bestimmten Wissensaustauschplattform generiert die KI, die scheinbar „oben Astronomie und unten Geographie kennt“, Inhalte, die hohl und unverblümt sind. Ohne kritisches Denken kann das von der KI schnell verwobene „Wissenssystem“ einerseits die Fähigkeit der Menschen zum kritischen Denken beeinträchtigen und andererseits auch dazu führen, dass Menschen in kognitive Illusionen verfallen, was zu kognitiver Verwirrung in der Öffentlichkeit führt , und damit die Öffentlichkeit verzerren. Das kollektive Verständnis der Realität und der wissenschaftliche Konsens führen letztendlich dazu, dass Menschen von der KI „geführt“ werden. Besonders für die jüngere Generation, die mit dem Internet aufgewachsen ist, werden die Folgen verheerend sein, wenn ihre Wahrnehmung erst einmal von „Informationsmüll“ geprägt ist.
„KI-Verschmutzung“ wird sich negativ auf die Entwicklung der KI-Industrie auswirken. Wie wir alle wissen, hängt die Genauigkeit von KI-Modellen weitgehend von der Qualität der Trainingsdaten ab. Wenn von KI generierte falsche und Spam-Inhalte ins Internet „zurückfließen“ und zu neuen Daten für das Training von KI-Modellen werden, kann dieses „Müll rein, Müll raus“-Zyklusmodell dazu führen, dass die Ausgabequalität der KI stark abstürzt, was nicht förderlich ist zur Entwicklung der gesamten KI-Branche beitragen. Beispielsweise nutzte ein Internetunternehmen Suchmaschinenoptimierung, um KI-generierte Artikel in den Suchergebnissen zu priorisieren, was es für Nutzer schwierig machte, qualitativ hochwertige Informationen abzurufen, und bei Nutzern breite Kritik auslöste.
Darüber hinaus betrifft die „KI-Verschmutzung“ auch viele Themen wie Recht, Ethik und sogar soziale Stabilität. Von KI erzeugte falsche Inhalte können geistige Eigentumsrechte verletzen, Urheberrechtsbestimmungen erschüttern, die Privatsphäre verletzen, Identitätsinformationen preisgeben und das Risiko eines Missbrauchs bergen, der die öffentliche Meinung stören und manipulieren kann. Illegale Handlungen, die von KI erzeugt werden, werden auch die soziale Governance verstärken schwierig.
Es zeigt sich, dass es zwingend erforderlich ist, die „KI-Verschmutzung“ des Internets zu beseitigen. Laut dem 54. „Statistischen Bericht über Chinas Internetentwicklung“, der vom China Internet Information Center veröffentlicht wurde, betrug die Zahl der Internetnutzer in meinem Land im Juni dieses Jahres fast 1,1 Milliarden. Das Internet schafft ein neues Zuhause für die menschliche Existenz, und die jüngere Generation ist zu den „Ureinwohnern“ des Internets geworden. Man kann sagen, dass die Beseitigung der „KI-Verschmutzung“ eine notwendige Maßnahme ist, um einen klaren Cyberspace zu schaffen und ein gutes Leben zu gewährleisten jeder Internetnutzer.
Erstens sollte die Quellenverwaltung der KI-Lern- und Generierungsmechanismen gestärkt werden. Klären Sie die Verantwortung der KI-Plattform für die Kontrolle von Quellmaterialien und die Überwachung generierter Inhalte, verbessern Sie die Regeln für die Generierung von KI-Inhalten, erzwingen Sie die Kennzeichnung von KI-generierten Inhalten mit auffälligen Etiketten und verbessern Sie die Transparenz und Erklärbarkeit der KI-Technologie.
Zweitens: Stärkung der Überprüfung und Überwachung von KI-generierten Inhalten. Relevante Abteilungen und Unternehmen müssen ihre Aufsicht auf die Überprüfung und Überprüfung von KI-generierten Inhalten konzentrieren. Sie können relevante Überprüfungsalgorithmen entwickeln, den Fluss und die Verbreitung generierter Inhalte im Bereich der öffentlichen Meinung standardisieren und minderwertige Inhalte umgehend entdecken und löschen Falscher Inhalt.
Drittens: Verbessern Sie die Fähigkeit der Benutzer, KI-generierte Inhalte zu identifizieren. Internetnutzer sollten mit Internetinformationen rational umgehen, das Präventionsbewusstsein und die Identifizierungsfähigkeiten verbessern. Sie können Reverse-Suchtools verwenden, um die Quell- und Autoreninformationen des Inhalts zu überprüfen und die sprachlichen und strukturellen Merkmale des Inhalts zu analysieren, um „gefälschte“ und „gefälschte“ Inhalte zu identifizieren „minderwertig“.
Der Cyberspace ist keine mit Müll übersäte „Müllkippe“. Die Bekämpfung der „KI-Verschmutzung“ und die Schaffung eines sauberen und sicheren Netzwerkheims erfordern die gemeinsame Leitung aller Abteilungen und die Beteiligung der gesamten Gesellschaft.