A Hitachi Manufacturing Co., Ltd. desenvolveu uma nova tecnologia que pode identificar com eficácia artigos criados por IA generativa. Essa tecnologia analisa os padrões de uso de palavras em artigos para determinar sua origem, o que tem importante valor de aplicação. No contexto do rápido desenvolvimento da tecnologia de IA generativa, como distinguir o conteúdo gerado pela IA do conteúdo criado artificialmente e evitar eficazmente os riscos causados tornou-se o foco da atenção global. Esta tecnologia pode não só ajudar as empresas e instituições a evitar riscos legais, como a violação de direitos de autor, mas também prevenir eficazmente a propagação de informações falsas e manter a segurança da informação.
Recentemente, a Hitachi Manufacturing Co., Ltd. desenvolveu uma poderosa tecnologia independente que pode determinar se um artigo é criado por IA generativa.
Essa tecnologia não é simples, ela se baseia nos padrões de uso das palavras do artigo. Por que precisamos desenvolver tal tecnologia? Isso porque ela será de grande utilidade no futuro! Não só pode impedir que a desinformação criada pela IA generativa se espalhe por toda parte, mas também pode ajudar empresas e agências administrativas a escrever documentos importantes. para evitar riscos como violação de direitos autorais.
Agora, em torno da IA generativa, a União Europeia, os Estados Unidos e o Japão não estão ociosos. Estão gradualmente a melhorar as leis e regulamentos e a continuar a ter discussões relevantes. Eles acreditam que as empresas que desenvolvem modelos de linguagem em larga escala (LLM) devem indicar que os vídeos, imagens e artigos são derivados de IA generativa.
Esta tecnologia recém-desenvolvida pela Hitachi será incorporada à tecnologia de criação de artigos baseada em LLM de empresas de desenvolvimento de IA. Também estabelece a regra de que mesmo que haja muitos sinônimos, palavras específicas devem ser usadas. Se um artigo usar um grande número de palavras com base nesta regra, será considerado criado pela IA. Ouvi dizer que a Hitachi também desenvolveu uma tecnologia que pode combinar várias regras de seleção de palavras, o que melhora muito a precisão do julgamento.
Falando em IA generativa, há um problema incômodo: ela vai gerar conteúdo inconsistente com os fatos, que é a chamada “ilusão”. Mas se for possível identificar antecipadamente que um artigo foi criado por IA generativa, o risco de propagação de informações falsas pode ser reduzido!
Destaques:
A tecnologia da Hitachi fornece novas soluções para os desafios colocados pela IA generativa, e vale a pena esperar pelo seu papel na prevenção da propagação de informações falsas e na salvaguarda dos direitos de propriedade intelectual. À medida que a tecnologia continua a melhorar, acredito que surgirão mais tecnologias semelhantes no futuro para nos ajudar a fazer melhor uso da IA, evitando ao mesmo tempo os seus riscos potenciais.