comet sdk extensions
Version 2.2.17
_________ ____ ___ ___ / /__ __
/ ___/ __ / __ `__ / _ / __/ |/_/
/ /__/ /_/ / / / / / / __/ /__> <
___/____/_/ /_/ /_/___/__/_/|_|
Comet SDK용 오픈 소스 확장입니다.
이러한 확장은 커뮤니티에서 생성 및 지원되며 Comet ML의 공식 프로젝트가 아닙니다. 우리는 기여를 환영합니다!
pip install cometx
이러한 명령줄 기능을 사용하려면 다음 두 가지 방법 중 하나로 Comet API 키를 설정해야 합니다.
이 방법 중 하나:
export COMET_API_KEY="YOUR-COMET-API-KEY"
또는 이 방법으로:
[comet]
api_key = YOUR-COMET-API-KEY
Comet 온프레미스 사용자인 경우 COMET_URL_OVERRIDE 환경 변수를 설정하거나 아래와 같이 ~/.comet.config 파일에 추가해야 합니다.
이 방법 중 하나:
export COMET_API_KEY="YOUR-COMET-API-KEY"
export COMET_URL_OVERRIDE="https://your-companys-comet.com/clientlib/"
또는 이 방법으로:
[comet]
api_key = YOUR-COMET-API-KEY
url_override = https://your-companys-comet.com/clientlib/
cometx 는 독립적으로 유용하고 함께 사용하여 ML 관리를 위한 정교한 도구를 만들 수 있는 일련의 하위 명령으로 구성됩니다.
이 섹션에서는 몇 가지 일반적인 용도를 살펴보고 각 하위 명령을 더 자세히 살펴보겠습니다.
이 섹션에서는 몇 가지 일반적인 시나리오를 살펴보겠습니다.
유용한 관용구는 하위 명령 줄에서 Comet 환경 변수를 설정하는 것입니다. 이러한 방식으로 다양한 설치에 대해 COMET_URL_OVERRIDE 및 COMET_API_KEY 설정할 수 있습니다.
물론 동일한 Comet 설치에서 실험을 복사하는 경우 환경 변수를 설정할 필요가 없습니다.
http://comet.a.com의 WORKSPACE/PROJECT에서 실험을 다운로드하는 방법은 다음과 같습니다.
COMET_URL_OVERRIDE=http://comet.a.com/clientlib
COMET_API_KEY=A-KEY
cometx download WORKSPACE/PROJECT cometx download 하위 명령은 모든 Comet 실험 데이터를 로컬 파일로 다운로드합니다. WORKSPACE/PROJECT는 http://comet.a.com의 작업 공간과 프로젝트를 나타냅니다.
그런 다음 비슷한 명령을 사용하여 다운로드한 실험 데이터를 복사할 수 있습니다.
COMET_URL_OVERRIDE=http://comet.b.com/clientlib
COMET_API_KEY=B-KEY
cometx copy WORKSPACE/PROJECT NEW-WORKSPACE/NEW-PROJECT이제 WORKSPACE/PROJECT는 디렉토리를 참조하고 NEW-WORKSPACE/NEW-PROJECT는 http://comet.b.com의 작업공간 및 프로젝트를 참조합니다.
마찬가지로, 먼저 다운로드하여 모든 프로젝트를 복사할 수 있습니다.
COMET_URL_OVERRIDE=http://comet.a.com/clientlib
COMET_API_KEY=A-KEY
cometx download WORKSPACE그런 다음 복사합니다.
COMET_URL_OVERRIDE=http://comet.b.com/clientlib
COMET_API_KEY=B-KEY
cometx copy WORKSPACE NEW-WORKSPACE마찬가지로, 먼저 다운로드한 단일 실험을 복사할 수 있습니다.
COMET_URL_OVERRIDE=http://comet.a.com/clientlib
COMET_API_KEY=A-KEY
cometx download WORKSPACE/PROJECT/EXPERIMENT-NAME-OR-ID그런 다음 복사합니다.
COMET_URL_OVERRIDE=http://comet.b.com/clientlib
COMET_API_KEY=B-KEY
cometx copy WORKSPACE/PROJECT/EXPERIMENT-NAME-OR-ID NEW-WORKSPACE/NEW-PROJECT 모든 하위 명령에 대해 --help 플래그를 사용하면 추가 정보를 얻을 수 있습니다.
이 명령은 다음 용도로 사용됩니다.
Cometx 목록 예:
cometx list WORKSPACE/PROJECT/EXPERIMENT-KEY-OR-NAME
cometx list WORKSPACE/PROJECT
cometx list WORKSPACE
cometx list
--query - 다운로드할 실험을 제한하는 데 사용합니다(자세한 내용은 Experiment.api.query() 참조).-u , --use-name - 실험 폴더 및 목록에 실험 이름을 사용합니다. 자세한 내용은 cometx list --help 참조하세요.
이 명령은 다음 용도로 사용됩니다.
혜성 복사 예:
cometx SOURCE DESTINATION
cometx --symlink SOURCE DESTINATION
여기서 소스는 다음과 같습니다.
--symlink , "WORKSPACE/PROJECT/EXPERIMENT", "WORKSPACE/PROJECT/ " 또는 "WORKSPACE/ /*" 폴더(따옴표 사용)--symlink 인 경우 작업 공간 또는 작업 공간/프로젝트에 대한 Comet 경로입니다.여기서 DESTINATION은 다음과 같습니다.
모든 조합이 가능한 것은 아닙니다.
| 목적지 → 출처 ↓ | 작업 공간 | 작업공간/프로젝트 |
|---|---|---|
WORKSPACE/*/* | 모든 프로젝트를 복사합니다. | 해당 없음 |
WORKSPACE/PROJ/* | 해당 없음 | 모든 실험을 복사합니다. |
WORKSPACE/PROJ/EXP | 해당 없음 | 실험 복사 |
자세한 내용은 cometx copy --help 참조하세요.
이 명령은 다음 용도로 사용됩니다.
Cometx 다운로드 예:
cometx download WORKSPACE/PROJECT/EXPERIMENT-KEY-OR-NAME [RESOURCE ...] [FLAGS ...]
cometx download WORKSPACE/PROJECT [RESOURCE ...] [FLAGS ...]
cometx download WORKSPACE [RESOURCE ...] [FLAGS ...]
cometx download [RESOURCE ...] [FLAGS ...]
여기서 [RESOURCE ...]는 다음 이름 중 0개 이상입니다.
리소스가 제공되지 않으면 리소스를 모두 다운로드합니다.
--query - 다운로드할 실험을 제한하는 데 사용합니다(자세한 내용은 Experiment.api.query() 참조).--list - 사용 가능한 작업 공간, 프로젝트, 실험, 아티팩트 또는 모델을 나열하는 데 사용합니다( cometx list 와 동일).--output - 현재 폴더가 아닌 폴더에 리소스 다운로드--flat - 다운로드한 항목에 일반 계층 구조를 사용하지 않습니다.--use-name - 폴더 및 목록에 실험 이름을 사용합니다.--ignore - 다음 리소스를 다운로드하지 않습니다(위에서 하나 이상의 리소스 이름 사용).--asset-type - 일치시킬 자산 유형, 모두 일치시키려면 생략--filename - 일치시킬 파일 이름, 모두 일치하려면 생략하세요.--overwrite - 기존 파일을 덮어씁니다.--force - 다운로드를 요청하지 말고 그냥 하세요.--help - 이 메시지아티팩트를 다운로드하려면:
cometx download WORKSPACE/artifacts/NAME [FLAGS ...]
cometx download WORKSPACE/artifacts/NAME/VERSION-OR-ALIAS [FLAGS ...]
모델 레지스트리에서 모델을 다운로드하려면:
cometx download WORKSPACE/model-registry/NAME [FLAGS ...]
cometx download WORKSPACE/model-registry/NAME/VERSION-OR-STAGE [FLAGS ...]
자세한 내용은 cometx download --help 참조하세요.
이 명령은 특정 실험에 대한 리소스(메트릭, 매개변수, 자산 등) 파일을 기록하는 데 사용됩니다.
Cometx 로그 예:
cometx log WORKSPACE/PROJECT/EXPERIMENT-KEY-OR-NAME [--type TYPE] FILENAME.EXT
여기서 TYPE은 파일 이름의 자산 유형입니다. 파일 이름 확장자(FILENAME.EXT)를 알고 있으면 TYPE이 필요하지 않습니다.
알려진 확장자:
알려진 유형:
다른 키를 설정하는 예:값:
cometx log WORKSPACE/PROJECT --type other --set "key:value"
cometx log WORKSPACE/PROJECT/EXPERIMENT-KEY-OR-NAME --type other --set "key:value"
첫 번째 버전은 프로젝트의 모든 실험에서 다른 키:값을 설정하고, 두 번째 버전은 실험에서 다른 키:값을 설정합니다.
모든 항목을 기록하는 예:
cometx log WORKSPACE/PROJECT PATH-TO-DOWNLOAD --type all
cometx log WORKSPACE/PROJECT/EXPERIMENT-KEY-OR-NAME PATH-TO-DOWNLOAD --type all
첫 번째 버전은 실험을 생성하고 두 번째 버전은 모든 것을 기존 실험에 기록합니다.
--query - 다운로드할 실험을 제한하는 데 사용합니다(자세한 내용은 Experiment.api.query() 참조).--type - 기록할 항목의 유형--set - 기록할 "키:값" 자세한 내용은 cometx log --help 참조하세요.
실험 자산을 삭제하려면 다음을 수행하세요.
cometx delete-assets WORKSPACE/PROJECT --type=image
cometx delete-assets WORKSPACE/PROJECT/EXPERIMENT --type=all
유형은 다음을 포함하여 유효한 자산 튜브일 수 있습니다.
자세한 내용은 cometx delete-assets --help 참조하세요.
cometx reproduce [-h] [--run] [--executable EXECUTABLE] COMET_PATH OUTPUT_DIR
자세한 내용은 cometx reproduce --help 참조하세요.
경고: 달리 설정하지 않은 경우 테스트를 실행하면 기본 작업 공간에 실험, 모델, 자산 등이 생성됩니다.
테스트를 실행하려면 환경에서 다음 항목을 모두 내보낼 수 있습니다.
$ export COMET_USER= " <USERNAME> "
$ export COMET_WORKSPACE= " <WORKSPACE> "
$ export COMET_API_KEY= " <API-KEY> "
$ pytest tests 또는 ~/.comet.config 파일에 workspace 과 api_key 정의하세요.
$ export COMET_USER= " <USERNAME> "
$ pytest tests
