mongolizador

Backup dinâmico do MongoDB

Não mantido, use https://github.com/utilitywarehouse/streaming-mongo-burs/

Esta ferramenta pode fazer backup ou restaurar coleções do MongoDB enquanto o banco de dados está sendo executado de/para AWS S3.

Instalação

 go get -u github.com/utilitywarehouse/mongolizer

Correndo

 mongolizer --help

Executando backups dentro do cronograma

Você pode implantar um contêiner docker que executará backups dentro do cronograma (padrão às 10h30 todos os dias)

O estado dos backups é mantido em um arquivo boltdb em /var/data/mongolizer/state.db

O endpoint de integridade está disponível em 0.0.0.0:8080/__/health e reportará integridade se houver um backup bem-sucedido nas últimas 13h.

O endpoint de instrumentação está disponível em 0.0.0.0:8080/__/metrics , um medidor de baile é exposto onde o valor do medidor mongolizer_status é 1 ou 0, dependendo do resultado do backup anterior. O medidor é rotulado com labels database e de coleção.

Um backup inicial será executado se nenhum backup for encontrado nas últimas 13h.

Uso

/) ($MONGODB_COLLECTIONS) Options: --cron="30 10 * * *" Cron expression for when to run ($CRON) --dbPath="/var/data/mongolizer/state.db" Path to store boltdb file ($DBPATH) --run=true Run backups on startup? ($RUN)">

 # docker run --rm mongolizer /mongolizer scheduled-backup --help

Usage: mongolizer scheduled-backup [OPTIONS] COLLECTIONS

backup a set of mongodb collections

Arguments:
  COLLECTIONS="foo/content,foo/bar"   Collections to process (comma separated /) ($MONGODB_COLLECTIONS)

Options:
  --cron="30 10 * * *"                       Cron expression for when to run ($CRON)
  --dbPath="/var/data/mongolizer/state.db"   Path to store boltdb file ($DBPATH)
  --run=true                                 Run backups on startup? ($RUN)

Exemplo de manifesto do Kubernetes

Exemplo completo de roll mongo com volume persistente + mongolizer com raspagem de métricas

 # A headless service to create DNS records
apiVersion: v1
kind: Service
metadata:
  annotations:
    service.alpha.kubernetes.io/tolerate-unready-endpoints: "true"
    prometheus.io/scrape: 'true'
    prometheus.io/path:   /__/metrics
    prometheus.io/port:   '8080'
  name: mongo
  labels:
    app: mongo
spec:
  ports:
  - port: 8080
    targetPort: 8080
    name: mongolizer
  - port: 27017
    targetPort: 27017
    name: client
  clusterIP: None
  selector:
    app: mongo
---
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
  name: mongo
spec:
  replicas: 1
  template:
    metadata:
      name: mongo
      labels:
        app: mongo
    spec:
      imagePullSecrets:
      - name: dockerhub-key
      containers:
      - name: mongolizer
        image: registry.uw.systems/system/mongolizer:latest
        imagePullPolicy: Always
        ports:
        - containerPort: 8080
        volumeMounts:
        - name: data
          mountPath: "/var/data/mongolizer/"
          subPath: "mongolizer"
        env:
        - name: MONGODB_COLLECTIONS
          value: "db/collection,db/collection2"
        - name: MONGODB
          value: "mongo:27017"
        - name: AWS_ACCESS_KEY_ID
          value: ""
        - name: AWS_SECRET_ACCESS_KEY
          value: ""
        - name: S3_BUCKET
          value: "backup-bucket"
        - name: S3_DIR
          value: "/"
      - name: mongo
        image: mongo
        ports:
        - containerPort: 27017
        volumeMounts:
        - name: data
          mountPath: /data/db
          subPath: "mongodb"
      volumes:
        - name: data
          persistentVolumeClaim:
            claimName: mongo-ebs-pvc
---
kind: PersistentVolumeClaim
apiVersion: v1
metadata:
  name: mongo-ebs-pvc
  annotations:
    volume.beta.kubernetes.io/storage-class: ebs-gp2
spec:
  accessModes:
    - ReadWriteOnce
  resources:
    requests:
      storage: 20Gi

Restaurando

/) ($MONGODB_COLLECTIONS) --date="2006-01-02T15-04-05" Date to restore backup from">

 # docker run --rm mongolizer /mongolizer restore --help

Usage: mongolizer restore [OPTIONS]

restore a set of mongodb collections

Options:
  --collections="foo/content,foo/bar"   Collections to process (comma separated /) ($MONGODB_COLLECTIONS)
  --date="2006-01-02T15-04-05"          Date to restore backup from

Baile de formatura e alertas

Para obter métricas, você pode usar uma consulta semelhante a

 1 - avg(mongolizer_status{kubernetes_namespace="default"}) by (app, database, collection) < bool 1

Alerta de exemplo