モンゴライザー

MongoDB ホット バックアップ

メンテナンスされていません。代わりに https://github.com/utilitywarehouse/streaming-mongo-burs/ を使用してください。

このツールは、DB が AWS S3 との間で実行されているときに、MongoDB コレクションをバックアップまたは復元できます。

インストール

 go get -u github.com/utilitywarehouse/mongolizer

ランニング

 mongolizer --help

スケジュールに従ってバックアップを実行する

スケジュールに従ってバックアップを実行する Docker コンテナをデプロイできます (デフォルトは毎日午前 10 時 30 分)。

バックアップの状態は、 /var/data/mongolizer/state.dbにあるboltdb ファイルに保存されます。

正常性エンドポイントは0.0.0.0:8080/__/healthで利用可能で、過去 13 時間以内にバックアップが成功した場合は正常であると報告されます。

インストルメンテーション エンドポイントは0.0.0.0:8080/__/metricsで利用でき、prom ゲージが公開されます。ここでは、 mongolizer_statusゲージの値は、前のバックアップの結果に応じて 1 または 0 になります。ゲージにはdatabaseとコレクションlabelsが付けられます。

過去 13 時間以内にバックアップが見つからなかった場合、初期バックアップが実行されます。

使用法

/) ($MONGODB_COLLECTIONS) Options: --cron="30 10 * * *" Cron expression for when to run ($CRON) --dbPath="/var/data/mongolizer/state.db" Path to store boltdb file ($DBPATH) --run=true Run backups on startup? ($RUN)">

 # docker run --rm mongolizer /mongolizer scheduled-backup --help

Usage: mongolizer scheduled-backup [OPTIONS] COLLECTIONS

backup a set of mongodb collections

Arguments:
  COLLECTIONS="foo/content,foo/bar"   Collections to process (comma separated /) ($MONGODB_COLLECTIONS)

Options:
  --cron="30 10 * * *"                       Cron expression for when to run ($CRON)
  --dbPath="/var/data/mongolizer/state.db"   Path to store boltdb file ($DBPATH)
  --run=true                                 Run backups on startup? ($RUN)

Kubernetes マニフェストの例

永続ボリュームを使用したローリング mongo + メトリクス スクレイピングを使用した mongolizer の完全な例

 # A headless service to create DNS records
apiVersion: v1
kind: Service
metadata:
  annotations:
    service.alpha.kubernetes.io/tolerate-unready-endpoints: "true"
    prometheus.io/scrape: 'true'
    prometheus.io/path:   /__/metrics
    prometheus.io/port:   '8080'
  name: mongo
  labels:
    app: mongo
spec:
  ports:
  - port: 8080
    targetPort: 8080
    name: mongolizer
  - port: 27017
    targetPort: 27017
    name: client
  clusterIP: None
  selector:
    app: mongo
---
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
  name: mongo
spec:
  replicas: 1
  template:
    metadata:
      name: mongo
      labels:
        app: mongo
    spec:
      imagePullSecrets:
      - name: dockerhub-key
      containers:
      - name: mongolizer
        image: registry.uw.systems/system/mongolizer:latest
        imagePullPolicy: Always
        ports:
        - containerPort: 8080
        volumeMounts:
        - name: data
          mountPath: "/var/data/mongolizer/"
          subPath: "mongolizer"
        env:
        - name: MONGODB_COLLECTIONS
          value: "db/collection,db/collection2"
        - name: MONGODB
          value: "mongo:27017"
        - name: AWS_ACCESS_KEY_ID
          value: ""
        - name: AWS_SECRET_ACCESS_KEY
          value: ""
        - name: S3_BUCKET
          value: "backup-bucket"
        - name: S3_DIR
          value: "/"
      - name: mongo
        image: mongo
        ports:
        - containerPort: 27017
        volumeMounts:
        - name: data
          mountPath: /data/db
          subPath: "mongodb"
      volumes:
        - name: data
          persistentVolumeClaim:
            claimName: mongo-ebs-pvc
---
kind: PersistentVolumeClaim
apiVersion: v1
metadata:
  name: mongo-ebs-pvc
  annotations:
    volume.beta.kubernetes.io/storage-class: ebs-gp2
spec:
  accessModes:
    - ReadWriteOnce
  resources:
    requests:
      storage: 20Gi

復元中

/) ($MONGODB_COLLECTIONS) --date="2006-01-02T15-04-05" Date to restore backup from">

 # docker run --rm mongolizer /mongolizer restore --help

Usage: mongolizer restore [OPTIONS]

restore a set of mongodb collections

Options:
  --collections="foo/content,foo/bar"   Collections to process (comma separated /) ($MONGODB_COLLECTIONS)
  --date="2006-01-02T15-04-05"          Date to restore backup from

プロムとアラート

メトリクスを取得するには、次のようなクエリを使用できます。

 1 - avg(mongolizer_status{kubernetes_namespace="default"}) by (app, database, collection) < bool 1

アラートの例