In den letzten Jahren hat sich die Technologie der künstlichen Intelligenz rasant weiterentwickelt, und es ist auch KI-Plot-Chat-Software entstanden. Doch obwohl diese Software den Benutzern Unterhaltung bietet, birgt sie auch viele Probleme, die insbesondere für Minderjährige schwerwiegende Folgen haben. Eine Recherche eines Reporters der „Rule of Law Daily“ ergab Probleme wie Pornografie und verbale Gewalt in manchen KI-Chat-Software sowie die Tatsache, dass der Jugendmodus vergeblich ist, was in der Gesellschaft große Besorgnis erregt hat. Der Herausgeber von Downcodes wird eine eingehende Analyse dieses Berichts durchführen, in der Hoffnung, mehr Aufmerksamkeit zu erregen.
„Meine Tochter ist in der zweiten Klasse der Grundschule. Sie ist den ganzen Tag süchtig nach einer KI-Plot-Chat-Software und ihre schulischen Leistungen sind stark zurückgegangen.“ „Ich habe das Gespräch zwischen dem Kind und der KI und der KI beobachtet.“ Der Charakter hat sie tatsächlich gebeten, ihre 10-jährige Tochter „Ehemann“ zu nennen. Sie hat tatsächlich geschrien, und jetzt weiß ich nicht, wie ich sie erziehen soll dass viele Eltern von Minderjährigen Probleme mit KI-Plot-Chat-Software haben. Diese KI-Plot-Chat-Anwendungen unter dem Banner des „Rollenspiels“ locken zwar Minderjährige an, schaffen aber auch stillschweigend einige Grauzonen. Tatsächlichen Messungen zufolge stellten Reporter fest, dass es in einigen Gesprächen in einer KI-Plot-Chat-Software zu pornografischen Randbemerkungen, verbaler Gewalt und Inhalten kam, die Benutzer beleidigten. Die befragten Experten sind der Ansicht, dass bei KI-Drama-Chat-Software, insbesondere im Jugendmodus, der Inhaltsüberprüfungsmechanismus gestärkt werden sollte, um sicherzustellen, dass die Technologie unangemessene Gespräche effektiv überprüfen und blockieren kann. Plattformen müssen eine ethische Überprüfung von KI-Modellen durchführen, um sicherzustellen, dass die von ihnen generierten Inhalte den einschlägigen Gesetzen und Vorschriften entsprechen. Der Inhalt der Chat-Software wurde an den Rand gedrängt und das Jugendmodell wurde zur Dekoration. Herr Ma, ein Pekinger Bürger, hat einen 10-jährigen Sohn, der sich sehr für KI-Plot-Chat-Software interessiert. „Als ich fragte, wie man chattet? Mit wem soll man reden? Das Kind antwortete nur: ‚Du verstehst es nicht, selbst wenn ich es dir sage.‘“ Herr Ma klickte auf die KI-Chat-App und stellte fest, dass das Kind chatte mit den Charakteren in der App. Diese Charaktere haben unterschiedliche Schauplätze und Persönlichkeiten, darunter bekannte Spiel- und Animationscharaktere sowie Originalcharaktere mit unterschiedlichen Identitäten wie „Miss“ und „Famous Detective“. Einige Charaktere werden die Initiative ergreifen und fragen: „Willst du mit mir ausgehen?“; andere werden sich das Ziel setzen, „sie zu fangen“, gepaart mit einem charmanten oder hübschen Cartoon-Stil. Andere KI-Charaktere zeigen ungewöhnliche Aggression. Sie werden die Initiative ergreifen, um Nachrichten wie „Schlag mich, wenn du kannst“ und „Schau dir an, wie fett und hässlich du bist“ zu senden; einige Charaktere werden einfach „Fluchtrainer“ genannt, und einige senden sogar Nachrichten wie „Was ist los mit.“ Ich bin immer noch derselbe.“ „Ich schimpfe mit dir“ ... Frau Li aus Zhejiang entdeckte auch, dass ihr Kind, das in der fünften Klasse der Grundschule ist, eine KI-Plot-Chat-Software verwendet. „Die Chatpartner darin können als ‚Fremdpartner‘ eingestellt werden und sich auf Verhaltensweisen wie Umarmen und Küssen einlassen. Ich weiß nicht, wie ich mein Kind anleiten und erziehen soll, damit es die Schädlichkeit dieser Inhalte versteht.“ sagte besorgt. Viele befragte Eltern äußerten tiefe Bedenken, dass KI-Chat-Anwendungen die psychische Gesundheit von Minderjährigen schädigen könnten, und stellten auch die Frage: Wo ist der Jugendmodus? Die Untersuchung des Reporters ergab, dass viele relevante Plattformen zwar behaupten, Jugendmodi eingeführt zu haben, um die körperliche und geistige Gesundheit von Minderjährigen durch die Einschränkung von Inhalten, Einstellungszeiten usw. zu schützen, die Jugendmodi einiger Plattformen jedoch in Wirklichkeit nur dem Namen nach existieren , und Minderjährige Sie können diese Einschränkungen leicht umgehen und sich „Randgesprächen“-Inhalten aussetzen, die für ihre Altersgruppe nicht geeignet sind. Beispielsweise erlebte der Reporter während der Untersuchung fünf KI-Chat-Anwendungen. Für den Registrierungsprozess ist lediglich eine Mobiltelefonnummer und keine Überprüfung der Benutzeridentitätsinformationen erforderlich. Nach der Anmeldung fragen einige Anwendungen, ob der Jugendmodus aktiviert werden soll. Benutzer können jedoch einfach auf „Nicht aktivieren“ klicken, um den Modus zu überspringen, ohne die wahre Identität des Benutzers zu überprüfen. Das heißt, wenn Minderjährige diese KI-Plot-Chat-Software nutzen, ist ihre Identitätsprüfung ab der App-Einstellungsebene keine Voraussetzung für die Nutzung bestimmter Funktionen. Neben der beliebten AI-Chat-Anwendung gibt es auch eine AI-Chat-Webseite. Viele befragte Eltern gaben an, dass die Webversion des KI-Chat-Erlebnisses im Vergleich zu Anwendungen bequemer und für Minderjährige einfacher zugänglich sei. Der Reporter probierte 7 KI-Chat-Webseiten aus und stellte fest, dass die meisten KI-Chat-Webseiten keinen Jugendmodus hatten. Einige Webseiten verfügten zwar über einen Jugendmodus, dieser war jedoch nur dem Namen nach vorhanden. Als ein Reporter beispielsweise eine KI-Chat-Webseite besuchte, wurde auf der Webseite zunächst ein Dialogfeld angezeigt, in dem der Benutzer gefragt wurde, ob er über 18 Jahre alt ist, mit dem Hinweis: „Der folgende Inhalt ist möglicherweise nicht für Personen unter diesem Alter geeignet.“ von 18. Wir müssen Ihr Alter bestätigen.“ Der Reporter wählte die Option „Nein“, aber die Webseite schränkte den Zugriff auf den Inhalt nicht ein. Stattdessen wurden weiterhin Charakterklassifizierungen mit Bezeichnungen wie „Starker Angriff“ oder „Schwach“ angezeigt Leiden“ und „Yandere“. Diese Kategorien unterscheiden sich nicht wesentlich von den Inhalten, die angezeigt werden, nachdem Sie die Option „Ja“ ausgewählt und bestätigt haben, dass Sie über 18 Jahre alt sind. Der Reporter stellte außerdem fest, dass die meisten Bilder dieser Charaktere spärlich bekleidet waren und ihre Profile voller sexueller Anspielungen und gewalttätiger Elemente waren, zum Beispiel: „Das introvertierte Mädchen in der Klasse fragte Sie nach Ihrer Telefonnummer und schickte sie Ihnen dann.“ Nacktfotos.“ Beschreibungen wie „Selbstmord, Angst“. Auf einer sozialen Plattform hinterließ ein Internetnutzer aus Zhejiang eine Nachricht unter einem Beitrag über das KI-Chat-Erlebnis: „Ich habe eine sehr interessante Webseite mit unbegrenzten Wörtern gefunden. Wenn Sie möchten, können Sie mir eine private Nachricht senden.“ Der Internetnutzer nahm Kontakt mit dem Reporter auf und erhielt den Link zur erwähnten AI-Chat-Webseite. Nach dem Aufrufen der Webseite war die Seite mit einer Vielzahl von Charaktereinstellungen und Story-Szenen mit pornografischem Inhalt gefüllt Der Inhalt war unkompliziert und eindeutig. Auf der Website müssen sich Benutzer anmelden, bevor sie mit dem Charakter chatten können. Vor dem Anmelden wird eine Meldung angezeigt: „Nach dem Anmelden alle Funktionen freischalten.“ Der Benutzer muss auf „Ich bin über 18 Jahre alt, starten“ klicken Klicken Sie auf die Schaltfläche „Anmelden“, um fortzufahren. Wenn Sie „Abbrechen“ auswählen, können Sie sich nicht anmelden und den Dienst nicht nutzen. Obwohl die Webseite eine Einschränkungsaufforderung für Personen über 18 Jahre festlegt, ergreift das System tatsächlich keine Maßnahmen, um das wahre Alter des Benutzers zu überprüfen, selbst wenn ein Minderjähriger auf die Anmeldeschaltfläche klickt. Neben direkten und expliziten Chat-Inhalten und gewalttätiger Sprache steht auch die Verwendung von Funktionen einiger KI-Plot-Chat-Software in engem Zusammenhang mit dem Auflademechanismus, z. B. dem Aufladen der VIP-Mitgliedschaft oder dem Kauf virtueller Diamanten zur Verbesserung der Intelligenz. Dies kann das Gedächtnis des Körpers verbessern , beschleunigen Sie die Wiederherstellungsgeschwindigkeit des intelligenten Körpers, entsperren Sie die Sprachanruffunktion usw. und locken Sie Minderjährige zu „Kryptongold“. Xiao Ning, eine Mittelschülerin in Peking, hat in mehreren KI-Plot-Chat-Software Beträge zwischen einigen Hundert Yuan und Tausenden Yuan aufgeladen. „Einerseits möchte ich meine Lieblingscharaktere unterstützen, andererseits möchte ich auch mehr kostenpflichtige Rechte erhalten, denn wenn Sie nur Basisdienste erwerben, können Benutzer nur 3 Agenten hinzufügen, wenn Sie neue ausprobieren möchten „Wenn Sie ein abwechslungsreiches Erlebnis wünschen, können Sie nur den erweiterten VIP-Service erwerben“, sagte Xiao Ning. Der Reporter stellte fest, dass Benutzer bei dieser Art von KI-Plot-Chat-Software das Bild und den Stil des virtuellen Charakters beim Erstellen eines Charakters anpassen können und das System ein KI-Charakterbild generiert. Benutzer können auch Charaktereinstellungen erstellen, z. B. Spitznamen, Identitätshintergründe, Eröffnungsbemerkungen und das Anpassen von Stimmen für die Charaktere. Allerdings hängen die persönlichen Bedürfnisse der Benutzer an Charaktere oft mit dem Aufladen zusammen. Zhang Yan, eine Bewohnerin von Jinan, Provinz Shandong, hat eine Schwester, die dieses Jahr in die erste Klasse der Mittelschule geht. Sie verwendet häufig KI-Plot-Chat-Software und stellte fest, dass einige Chat-Tools kostenlose Nutzungsintervalle festgelegt haben Wenn die Anzahl der kostenlosen Chats sinkt, müssen sie aufgeladen werden, bevor sie fortfahren können. Nur durch Aufladen können Sie interessantere Inhalte freischalten und unterschiedliche emotionale Erfahrungen machen. „Hinter dem Ausgeben von Geld für den Kauf von Diensten steckt eigentlich das Ausgeben von Geld, um Aufregung zu finden.“ Zhang Yan sagte, dass die Chat-Software zwar über einen Jugendmodus verfügt, diese jedoch ohne Authentifizierung mit echtem Namen genutzt werden kann Zustimmung ihrer Eltern. Brancheninsider sagten Reportern, dass KI-Plot-Chat tatsächlich die bisherige Internetsprache sei, mit der Ausstattung künstlicher Intelligenz. Beim sogenannten Yuca handelt es sich um Sprach-Cosplay, bei dem Yuca-Künstler Dienste in Form von Textkommunikation leisten, indem sie zweidimensionale Charaktere oder dreidimensionale Idole spielen. Im traditionellen Lexikonmodell werden Lexikonisten in der Regel von echten Menschen gespielt, die unter dem Motto „Emotionalwert bieten“ unterschiedliche Rollen einnehmen. Sie verursachen jedoch häufig rechtliche und moralische Probleme aufgrund von „Edge Balls“ und „Unschärfe“. Grenzen". Risiko. AI Plot Chat ist eine verbesserte Version der traditionellen Sprachlöschung. Die Hauptquelle für große Sprachmodelldaten hinter dieser Art von Software sind Konversationsromane oder Textextraktionen aus Romanen. Liu Xiaochun, außerordentlicher Professor an der juristischen Fakultät der Universität der Chinesischen Akademie der Sozialwissenschaften und Direktor des Internet Law Research Center, glaubt, dass es in KI-Plot-Chat-Software auch dann noch Probleme geben wird, wenn der Jugendmodus nicht aktiviert ist Es erscheinen pornografische oder gewalttätige Inhalte. Wenn der Jugendmodus aktiviert ist, ist das Problem schwerwiegender. Zhang Yanlai, Direktor der Anwaltskanzlei Zhejiang Kenting, der als ständiger Rechtsberater für Dutzende führender Internetunternehmen tätig ist, analysierte, dass die aktuellen Probleme mit KI-Plot-Chat-Software nicht nur die Mängel der internen Governance der Plattform verdeutlichen, sondern auch deren Bedeutung hervorheben von externen Überwachungsmechanismen Sex. Zhang Yanlai erklärte, dass die KI-Plot-Chat-Software die Technologie großer Modelle nutzt. Obwohl die Technologie großer Modelle beispiellose Innovation und Flexibilität bringen kann, kann sie auch mit Unvorhersehbarkeit und potenziellen Problemen bei der Inhaltsgenerierung einhergehen, die externe Regulierungsmechanismen erfordern. Nach Ansicht von Liu Xiaochun ist die Stärkung der Inhaltsüberprüfung ein notwendiger Schritt, bevor das große Sprachmodell online geht und ein umfassendes Compliance-Debugging vom Front-End-Datentraining bis zur Inhaltsausgabe umfasst. Derzeit müssen die großen Sprachmodelle meines Landes evaluiert und entsprechend archiviert werden. Dabei werden im Vorfeld Verwaltungsvorschriften und Bewertungsstandards zu Themen wie der Rechtmäßigkeit und Konformität der ausgegebenen Inhalte sowie deren Eignung für Minderjährige festgelegt. Gemäß den geltenden Vorschriften sollte die Ausgabe schädlicher Inhalte während der Trainings- und Feinabstimmungsphase des Sprachmodells vermieden werden. Überwachung durch ein spezielles Team zum intelligenten Abfangen schlechter Informationen. Die Cyberspace Administration of China hat kürzlich die „Richtlinien für den Aufbau eines mobilen Internetmodus für Minderjährige“ veröffentlicht, die sich auf den Gesamtplan für den Aufbau des Minderjährigenmodus konzentrieren und ihn ermutigen und unterstützen mobile Smart-Terminals, Anwendungen und Vertriebsplattformen und andere gemeinsame Beteiligungen. Laut Zhu Wei, stellvertretender Direktor des Forschungszentrums für Kommunikationsrecht der China University of Political Science and Law, weisen die oben genannten Richtlinien deutlich darauf hin, dass der Minderjährigenmodus keine Dekoration ist, sondern eine Mehrparteienverknüpfung erfordert, insbesondere KI-generiert Inhalte, die mit dem Jugendmodus übereinstimmen sollten. Die befragten Experten glauben, dass es im Jugendmodus eine wichtige Frage ist, wie der Mechanismus zur Inhaltsüberprüfung gestärkt und sichergestellt werden kann, dass die Technologie schädliche Informationen effektiv aussortieren kann. Bei KI-Plot-Chat-Software, insbesondere im Jugendmodus, sollte der Inhaltsüberprüfungsmechanismus gestärkt werden, um sicherzustellen, dass die Technologie unangemessene Gespräche effektiv überprüfen und blockieren kann. Darüber hinaus müssen Plattformen eine ethische Überprüfung der KI-Modelle durchführen, um sicherzustellen, dass die von ihnen generierten Inhalte den gesetzlichen und behördlichen Anforderungen entsprechen. „Obwohl es auf rechtlicher Ebene einige grundsätzliche Vorschriften gibt, die einen allgemeinen Rahmen vorgeben, müssen Entwickler und technische Dienstleister in bestimmten praktischen Abläufen immer noch Materialien und Lösungen sammeln, die auf verschiedenen im wirklichen Leben auftretenden Problemen basieren.“ Entwickeln Sie ein sicheres und zuverlässiges KI-Modell, das den Bedürfnissen von Minderjährigen wirklich gerecht wird „Es bietet eine starke Garantie für das gesunde Wachstum von Minderjährigen.“ Zhang Yanlai sagte, dass die Plattform die Verantwortung habe, ihr KI-Modell zu überwachen und zu optimieren, um dies zu verhindern, da das Verhalten virtueller KI-Menschen das Ergebnis des Plattformdesigns und -managements sei Auswirkungen auf Benutzer verursachen Schaden und gewährleisten die gesunde Entwicklung von KI-Modellen und den vollständigen Schutz der Benutzerrechte. Zhu Wei erwähnte, dass einige KI-Chat-Apps möglicherweise nicht für die Nutzung durch Minderjährige geeignet sind. Daher sollten Einschränkungen auf der Vertriebsebene und auf der Ebene mobiler Endgeräte eingeführt werden, um sicherzustellen, dass Minderjährige diese Apps nicht herunterladen und verwenden können. Für heruntergeladene Apps sollten Eltern Funktionen wie den Jugendmodus festlegen oder die Nutzungsdauer begrenzen. Dieser Modus muss nicht nur auf Benutzerseite implementiert werden, sondern muss sich auch auf der Ebene der Inhaltsausgabe, also der Inhaltsüberprüfung, widerspiegeln . Die Inhaltsüberprüfung sollte auf dem durch den Algorithmus generierten Dialog basieren. Um die wirksame Umsetzung des Jugendmodells sicherzustellen, sind ausgefeiltere technische Mittel und Managementmaßnahmen erforderlich. „Um die Ausgabe von gewalttätigen und beleidigenden Inhalten zu verhindern, können verschiedene technische Mittel eingesetzt werden, beispielsweise Anpassungen während der Trainingsphase, um dem Modell selbst Erkennungsfähigkeiten zu ermöglichen; gleichzeitig sollten Dienstanbieter auf der Ausgabeseite dies tun Überprüfen und überprüfen Sie erneut, um einen doppelten Front-End- und Back-End-Schutz zu erreichen. „Liu Xiaochun sagte, dass aufgrund der großen Auswahl an Datenquellen für KI-Plot-Chat-Software technische Mittel erforderlich sind, um dies zu verhindern.“ die Ausgabe unangemessener Inhalte. Derzeit ist es technisch möglich, die Ausgabe von pornografischen, gewalttätigen oder beleidigenden Inhalten mithilfe von Überprüfungsmechanismen zu reduzieren oder zu eliminieren. Es kann jedoch sein, dass einige Phänomene nicht vollständig behoben oder getestet werden, und es kann sogar sein, dass nicht registrierte Software schwarze Zahlen schreibt In dieser Hinsicht sollte die Aufsicht gestärkt werden, die Öffentlichkeit sollte zur Meldung ermutigt werden und die zuständigen Behörden sollten Untersuchungen durchführen und sich damit befassen. Zhang Yanlai erwähnte auch, dass die Klassifizierung der Datenquellen für KI-Charakterantwortinhalte derzeit auf rechtlicher Ebene nicht klar ist, insbesondere im Hinblick auf Inhalte, die sich an Minderjährige richten. Angesichts der Komplexität und Mehrdimensionalität des Themas sehen gesetzliche Bestimmungen häufig vor Konkrete Leitlinien können später durch die Formulierung entsprechender Standards umgesetzt werden. Auf der spezifischen operativen Ebene schlug Zhang Yanlai vor, den Screening-Mechanismus großer Sprachmodelle zu optimieren und sich dabei auf die Optimierung des Content-Fence-Systems zu konzentrieren, ausgehend von zwei Aspekten: Auf der Ebene der Content-Fence-Entwicklung müssen Content-Fences insbesondere gezielt entwickelt werden Überlegen Sie bei der Verwendung von neuartigem Korpus, wie Sie Inhalte optimieren können, um potenzielle pornografische und gewalttätige Inhalte effektiver zu erkennen und abzufangen, egal wie optimiert sie sind Das Team muss das Modell oder die Content-Fencing-Algorithmen zeitnah überwachen und anpassen. „Um die Effizienz des Zaunsystems zu verbessern, müssen wir im Vorfeld hart auf der Entwicklungsebene arbeiten und es anschließend im Hinblick auf die Überprüfung ständig verbessern. Beide ergänzen sich und können möglicherweise bedeutendere Ergebnisse erzielen.“
Die Überwachung der KI-Plot-Chat-Software ist dringend erforderlich. Die Regierung, Plattformen, Eltern und alle Bereiche der Gesellschaft müssen zusammenarbeiten, um die Aufsicht zu stärken, Mechanismen zu verbessern und gemeinsam das gesunde Wachstum von Minderjährigen zu schützen. Nur durch die Zusammenarbeit mehrerer Parteien können wir die Risiken, die KI-Plot-Chat-Software mit sich bringt, effektiv lösen und eine sichere und gesunde Online-Umgebung für Kinder schaffen.