O modelo de IA de texto para vídeo da OpenAI, Sora, gerou polêmica. Um grupo de artistas que participou dos primeiros testes do Sora ficou insatisfeito com o uso do OpenAI e vazou o acesso antecipado ao modelo, e publicou uma carta aberta na plataforma Hugging Face para protestar. Eles acusaram a OpenAI de usar artistas como ferramentas gratuitas de pesquisa e desenvolvimento e relações públicas, usando sua criatividade para realizar trabalho não remunerado, e expressaram insatisfação com o rigoroso sistema de revisão de conteúdo da OpenAI. O incidente gerou discussões sobre os direitos dos artistas no desenvolvimento de modelos de IA.
Desde que a OpenAI apresentou pela primeira vez seu modelo de IA de texto para vídeo, Sora, em fevereiro deste ano, ela não forneceu nenhuma atualização específica. Recentemente, um grupo de artistas de teste que participaram do novo modelo de IA de texto para vídeo da OpenAI, Sora, vazou o acesso antecipado ao modelo devido à insatisfação com a empresa.
Eles lançaram um projeto relacionado à API Sora por meio da plataforma de desenvolvimento de IA Hugging Face, usando tokens de autenticação de acesso antecipado para criar uma interface front-end que permite aos usuários gerar vídeos. Através deste front-end, qualquer usuário pode inserir um breve texto descritivo e gerar um vídeo de até 10 segundos em resolução de até 1080p.
Posteriormente, muitos usuários compartilharam exemplos dos vídeos gerados nas redes sociais, muitos dos quais tinham a marca d’água visual da OpenAI. No entanto, depois de ficar aberta por cerca de uma hora, a interface front-end parou de funcionar. Especula-se que OpenAI e Hugging Face podem ter revogado os direitos de acesso.
Caso gerado por internautas: palavra imediata "adolescente jogando basquete em sua garagem na Flórida. Tarde ensolarada"
Caso gerado pelo internauta: "0": "Um close de um gatinho fofo com impressionantes olhos azuis sentado em um travesseiro macio de cor creme. O gatinho inclina a cabeça ligeiramente para o lado, as orelhas levantadas atentamente. O fundo é uma sala aconchegante e suavemente iluminada com dicas
Os artistas publicaram sua carta de protesto no Hugging Face, uma plataforma pública de modelos de IA, alegando que foram usados pela empresa durante o processo de teste e se tornaram “ferramentas gratuitas de pesquisa e desenvolvimento e relações públicas”.
Na carta aberta, os artistas disseram: "Caros Enterprise AI Lords, Quando tivemos acesso ao Sora, prometemos que seríamos os primeiros testadores e parceiros criativos. No entanto, acreditamos que fomos simplesmente atraídos para uma 'arte'". de branquear e promover Sora." Eles enfatizaram que o artista não é o "testador de bugs gratuito, ferramenta promocional, dados de treinamento ou token de verificação" da empresa.
Estes artistas não se opõem à utilização da tecnologia de IA como ferramenta para a criação artística, mas estão insatisfeitos com o programa de acesso antecipado da OpenAI, que acreditam explorar a criatividade dos artistas para trabalho não remunerado.
Eles criticaram a OpenAI por lhes fornecer “crédito artístico” em projetos sem retribuir o trabalho. Em particular, eles se opuseram aos requisitos de moderação da OpenAI para o conteúdo de Sora, dizendo que cada conteúdo gerado precisava ser aprovado pela equipe da OpenAI antes de poder ser compartilhado.
Contactada pela mídia, a OpenAI não confirmou a autenticidade do vazamento do Sora, mas enfatizou que os artistas participantes da “prévia da pesquisa” eram voluntários e não eram obrigados a fornecer feedback ou usar a ferramenta. Um porta-voz da OpenAI disse: “Sora ainda está em fase de pesquisa e estamos trabalhando duro para equilibrar a criatividade com medidas de segurança. A participação de centenas de artistas nos ajuda a priorizar novos recursos e salvaguardas. a empresa por meio de bolsas, eventos e Apoiar os artistas participantes de outras formas.
Anteriormente, Mira Murati, ex-diretora de tecnologia da OpenAI, disse que o Sora deverá ser lançado antes do final do ano, mas não lançará nada que não esteja confiante no impacto do modelo.
Em uma recente sessão de perguntas e respostas no Reddit, o diretor de produto Kevin Weil mencionou que o motivo pelo qual Sora ainda não foi lançado é a necessidade de expandir suas capacidades e garantir a segurança e evitar problemas com impostores.
Destaque:
Artistas protestaram contra o uso gratuito deles pela OpenAI vazando o modelo Sora.
Eles criticaram o programa inicial de testes da OpenAI, dizendo que a empresa estava usando sua criatividade para publicidade.
A OpenAI respondeu que a participação no teste era voluntária e se comprometeu a continuar apoiando os artistas.
Este incidente destacou os desafios da ética e dos direitos no desenvolvimento da tecnologia de IA e também desencadeou a reflexão das pessoas sobre o modelo de cooperação entre empresas e artistas de IA. Como equilibrar o progresso tecnológico e os interesses dos artistas tornar-se-á uma questão que precisa de ser seriamente considerada no futuro desenvolvimento da IA. Embora a resposta da OpenAI afirme que continuará a apoiar os artistas, as suas medidas e efeitos específicos ainda não foram vistos.