монголизатор

Горячее резервное копирование MongoDB

Не поддерживается, вместо этого используйте https://github.com/utilitywarehouse/streaming-mongo-burs/.

Этот инструмент может выполнять резервное копирование или восстановление коллекций MongoDB, пока БД работает в AWS S3 или из него.

Установка

 go get -u github.com/utilitywarehouse/mongolizer

Бег

 mongolizer --help

Резервное копирование по расписанию

Вы можете развернуть Docker-контейнер, который будет выполнять резервное копирование по расписанию (по умолчанию в 10:30 каждый день).

Состояние резервных копий хранится в файле Boltdb по адресу /var/data/mongolizer/state.db

Конечная точка работоспособности доступна по адресу 0.0.0.0:8080/__/health и сообщит о работоспособности, если за последние 13 часов было выполнено успешное резервное копирование.

Конечная точка инструментария доступна по адресу 0.0.0.0:8080/__/metrics , отображается индикатор prom, где значение датчика mongolizer_status равно 1 или 0 в зависимости от результата предыдущей резервной копии. Датчик помечен labels database и коллекции.

Первоначальное резервное копирование будет запущено, если за последние 13 часов не было найдено резервной копии.

Использование

/) ($MONGODB_COLLECTIONS) Options: --cron="30 10 * * *" Cron expression for when to run ($CRON) --dbPath="/var/data/mongolizer/state.db" Path to store boltdb file ($DBPATH) --run=true Run backups on startup? ($RUN)">

 # docker run --rm mongolizer /mongolizer scheduled-backup --help

Usage: mongolizer scheduled-backup [OPTIONS] COLLECTIONS

backup a set of mongodb collections

Arguments:
  COLLECTIONS="foo/content,foo/bar"   Collections to process (comma separated /) ($MONGODB_COLLECTIONS)

Options:
  --cron="30 10 * * *"                       Cron expression for when to run ($CRON)
  --dbPath="/var/data/mongolizer/state.db"   Path to store boltdb file ($DBPATH)
  --run=true                                 Run backups on startup? ($RUN)

Пример манифеста Kubernetes

Полный пример прокатки mongo с постоянным объемом + mongolizer со очисткой метрик

 # A headless service to create DNS records
apiVersion: v1
kind: Service
metadata:
  annotations:
    service.alpha.kubernetes.io/tolerate-unready-endpoints: "true"
    prometheus.io/scrape: 'true'
    prometheus.io/path:   /__/metrics
    prometheus.io/port:   '8080'
  name: mongo
  labels:
    app: mongo
spec:
  ports:
  - port: 8080
    targetPort: 8080
    name: mongolizer
  - port: 27017
    targetPort: 27017
    name: client
  clusterIP: None
  selector:
    app: mongo
---
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
  name: mongo
spec:
  replicas: 1
  template:
    metadata:
      name: mongo
      labels:
        app: mongo
    spec:
      imagePullSecrets:
      - name: dockerhub-key
      containers:
      - name: mongolizer
        image: registry.uw.systems/system/mongolizer:latest
        imagePullPolicy: Always
        ports:
        - containerPort: 8080
        volumeMounts:
        - name: data
          mountPath: "/var/data/mongolizer/"
          subPath: "mongolizer"
        env:
        - name: MONGODB_COLLECTIONS
          value: "db/collection,db/collection2"
        - name: MONGODB
          value: "mongo:27017"
        - name: AWS_ACCESS_KEY_ID
          value: ""
        - name: AWS_SECRET_ACCESS_KEY
          value: ""
        - name: S3_BUCKET
          value: "backup-bucket"
        - name: S3_DIR
          value: "/"
      - name: mongo
        image: mongo
        ports:
        - containerPort: 27017
        volumeMounts:
        - name: data
          mountPath: /data/db
          subPath: "mongodb"
      volumes:
        - name: data
          persistentVolumeClaim:
            claimName: mongo-ebs-pvc
---
kind: PersistentVolumeClaim
apiVersion: v1
metadata:
  name: mongo-ebs-pvc
  annotations:
    volume.beta.kubernetes.io/storage-class: ebs-gp2
spec:
  accessModes:
    - ReadWriteOnce
  resources:
    requests:
      storage: 20Gi

Восстановление

/) ($MONGODB_COLLECTIONS) --date="2006-01-02T15-04-05" Date to restore backup from">

 # docker run --rm mongolizer /mongolizer restore --help

Usage: mongolizer restore [OPTIONS]

restore a set of mongodb collections

Options:
  --collections="foo/content,foo/bar"   Collections to process (comma separated /) ($MONGODB_COLLECTIONS)
  --date="2006-01-02T15-04-05"          Date to restore backup from

Выпускной и оповещения

Чтобы получить метрики, вы можете использовать запрос, аналогичный

 1 - avg(mongolizer_status{kubernetes_namespace="default"}) by (app, database, collection) < bool 1

Пример оповещения