A Anthropic lançou recentemente os prompts do sistema para seus modelos da série Claude, mas causou polêmica devido à falta de descrição dos artefatos de recurso mais recentes. Os pesquisadores observam que esta falta afeta a compreensão completa do comportamento do modelo. A Anthropic respondeu que a função Artefatos foi lançada depois do prompt do sistema, portanto não foi incluída, e prometeu adicionar informações completas nas próximas semanas. Este incidente destaca a importância da divulgação dos prompts do sistema do modelo de IA e os desafios que os desenvolvedores enfrentam em termos de transparência.
Na semana passada, a Anthropic divulgou os prompts do sistema para os modelos da série Claude, que são as instruções de operação do modelo, mas esta versão está incompleta. Em resposta a este problema, a Anthropic prometeu anunciar avisos do sistema para seu recurso mais recente, Artefatos, nas próximas semanas. Anteriormente, os pesquisadores apontaram que dicas relacionadas aos Artefatos não foram incluídas na versão mais recente.
Um porta-voz da Anthropic confirmou que eles irão “adicionar mais detalhes sobre os prompts do sistema, incluindo informações sobre artefatos, nas próximas semanas”. Vale ressaltar que o recurso Artefatos foi aberto para todos os usuários do Claude na semana passada, o que permite aos usuários executar trechos de código próximos à interface de chat do Claude.
O lançamento do prompt do sistema Claude pela Anthropic foi elogiado pela mídia como uma empresa que está na vanguarda da transparência, mas pesquisadores como Mohammed Sahli acreditam que a declaração da empresa carece de integridade, principalmente porque o prompt do sistema da Artifacts foi excluído.
A Anthropic explicou que o prompt do sistema para artefatos não apareceu no lançamento da semana passada, principalmente porque o recurso não estava disponível para todos os usuários do Claude antes da semana passada. Na verdade, os artefatos foram tornados públicos depois que o sistema gerou um anúncio.
Então, qual a importância dos prompts do sistema?
Embora os desenvolvedores de modelos de IA não sejam obrigados a publicar prompts de sistema para modelos de linguagem grandes, a divulgação dessas instruções operacionais tornou-se "divertida" para muitos entusiastas de IA. Isso não apenas ajuda os desenvolvedores a entender melhor o comportamento esperado do modelo, mas também permite que os usuários entendam por que o modelo rejeita determinadas solicitações.
De acordo com o arquivo de prompt do sistema divulgado pela Anthropic, Claude3.5Sonnet é a versão mais avançada da série, enfatizando precisão e simplicidade no atendimento às perguntas. O modelo não rotula explicitamente as informações como confidenciais e evita o uso de palavras de preenchimento redundantes ou desculpas.
Claude3Opus é um modelo maior com uma base de conhecimento atualizada até agosto de 2023 que permite a discussão de temas polêmicos e fornece múltiplas perspectivas, mas evita estereótipos e garante um equilíbrio de perspectivas. A versão menor, Claude3Haiku, foca na velocidade e não possui orientação comportamental como Claude3.5Sonnet.
Quanto ao prompt do sistema de Artefatos, o conteúdo específico ainda não é conhecido. Sahli mencionou em sua postagem no Medium que o recurso pode ser direcionado para resolver problemas complexos de forma sistemática e focar em respostas concisas.
Destaque:
- ?A Anthropic promete lançar um prompt do sistema de Artefatos para o modelo Claude nas próximas semanas para responder às dúvidas dos pesquisadores.
- ?O recurso Artefatos, que permite aos usuários executar trechos de código próximos à interface de bate-papo de Claude, foi disponibilizado para todos os usuários na semana passada.
- ?A divulgação dos prompts do sistema ajuda os usuários a compreender o comportamento do modelo e incentiva os desenvolvedores de IA a serem transparentes.
Em suma, este incidente reflete a importância da divulgação de prompts de sistemas de modelos de linguagem em grande escala e também reflete as questões de transparência e responsabilidade no campo de P&D de IA. As ações subsequentes da Anthropic terão um impacto significativo em sua reputação e na confiança dos usuários. Esperamos completar as informações o mais rápido possível e continuar a manter sua posição de liderança em transparência no campo da IA.