Anthropic은 최근 Claude 시리즈 모델에 대한 시스템 프롬프트를 출시했지만 최신 기능인 Artifacts에 대한 설명이 부족하여 논란을 불러일으켰습니다. 연구자들은 이러한 부족함이 모델의 행동을 완전히 이해하는 데 영향을 미친다는 점에 주목합니다. Anthropic은 Artifacts 기능이 시스템 프롬프트보다 늦게 시작되었으므로 포함되지 않았으며 앞으로 몇 주 안에 완전한 정보를 추가하겠다고 약속했습니다. 이번 사건은 AI 모델 시스템 프롬프트 공개의 중요성과 투명성 측면에서 개발자가 직면한 과제를 강조합니다.
지난주 Anthropic은 모델의 작동 지침인 Claude 시리즈 모델에 대한 시스템 프롬프트를 출시했지만 이번 릴리스는 불완전합니다. 이 문제에 대응하여 Anthropic은 앞으로 몇 주 안에 최신 기능인 Artifacts에 대한 시스템 프롬프트를 발표하겠다고 약속했습니다. 이전에 연구원들은 최신 릴리스에는 Artifacts와 관련된 팁이 포함되지 않았다고 지적했습니다.
Anthropic 대변인은 "향후 몇 주 안에 유물에 대한 정보를 포함하여 시스템 프롬프트에 대한 자세한 내용을 추가할 것"이라고 확인했습니다. Artifacts 기능은 지난 주 모든 Claude 사용자에게 공개되었으며, 이를 통해 사용자는 Claude의 채팅 인터페이스 옆에서 코드 조각을 실행할 수 있습니다.
Anthropic의 Claude 시스템 프롬프트 출시는 투명성의 최전선에 있는 회사로 언론으로부터 칭찬을 받았지만 Mohammed Sahli와 같은 연구자들은 주로 Artifacts의 시스템 프롬프트가 제외되었기 때문에 회사의 진술이 완전성이 부족하다고 믿습니다.
Anthropic은 Artifacts에 대한 시스템 프롬프트가 지난주 릴리스에 나타나지 않았다고 설명했습니다. 주로 지난주 이전에는 모든 Claude 사용자가 이 기능을 사용할 수 없었기 때문입니다. 실제로 Artifacts는 시스템이 발표를 촉발한 후에 공개되었습니다.
그렇다면 시스템 프롬프트는 얼마나 중요합니까?
AI 모델 개발자는 대규모 언어 모델에 대한 시스템 프롬프트를 게시할 필요가 없지만 이러한 운영 지침을 공개하는 것은 많은 AI 애호가에게 "재미"가 되었습니다. 이를 통해 개발자는 모델의 예상 동작을 더 잘 이해할 수 있을 뿐만 아니라 사용자가 모델이 특정 요청을 거부하는 이유를 이해할 수 있습니다.
Anthropic이 공개한 시스템 프롬프트 파일에 따르면 Claude3.5Sonnet은 시리즈 중 가장 진보된 버전으로, 질문에 대한 답변의 정확성과 단순성을 강조합니다. 이 모델은 정보에 민감한 정보를 명시적으로 표시하지 않으며 중복된 필러 단어나 사과의 사용을 피합니다.
Claude3Opus는 2023년 8월까지 업데이트된 지식 기반을 갖춘 대규모 모델로, 논쟁의 여지가 있는 주제에 대한 토론을 허용하고 다양한 관점을 제공하지만 고정관념을 피하고 관점의 균형을 보장합니다. 가장 작은 버전인 Claude3Haiku는 속도에 중점을 두고 Claude3.5Sonnet과 같은 행동 지침이 없습니다.
아티팩트의 시스템 프롬프트는 아직 구체적인 내용이 알려지지 않았습니다. Sahli는 자신의 Medium 게시물에서 이 기능이 복잡한 문제를 체계적인 방식으로 해결하고 간결한 답변에 초점을 맞추도록 지시될 수 있다고 언급했습니다.
가장 밝은 부분:
- Anthropic은 연구원들의 질문에 응답하기 위해 앞으로 몇 주 안에 Claude 모델에 대한 Artifacts 시스템 프롬프트를 출시할 것을 약속합니다.
- ? 사용자가 Claude의 채팅 인터페이스 옆에서 코드 조각을 실행할 수 있는 Artifacts 기능이 지난 주에 모든 사용자에게 제공되었습니다.
- ? 시스템 프롬프트를 공개하면 사용자가 모델의 동작을 이해하는 데 도움이 되고 AI 개발자가 투명성을 갖도록 독려합니다.
전체적으로 이번 사건은 대규모 언어 모델 시스템 프롬프트 공개의 중요성을 반영하는 동시에 AI R&D 분야의 투명성과 책임 문제도 반영합니다. Anthropic의 후속 조치는 Anthropic의 평판과 사용자 신뢰에 상당한 영향을 미칠 것입니다. 최대한 빠른 시일 내에 정보를 완성해 AI 분야 투명성에 있어서 선도적인 위치를 계속해서 유지할 수 있기를 기대합니다.