Répliquer les données d'un bucket MinIO vers un bucket Scaleway
Quand on stocke des données, en l'occurrence des fichiers, on souhaite pouvoir conserver une sauvegarde de ces données sur un autre serveur, idéalement hébergé via une solution tierce, dans un datacenter différent. On minimise ainsi le risque de perte des données en cas d'incident : mauvaise manipulation utilisateur, bug logiciel, incident serveur, désastre physique etc. On se souviendra de l'incendie du datacenter OVH à Strasbourg...
Suivant les serveurs et solutions utilisés, il existe des outils qui permettent de faciliter la tâche.
MinIO offre la possibilité de répliquer les données automatiquement d'un bucket vers un autre bucket. Nous allons voir comment configurer MinIO pour répliquer les données vers la solution d'Object Storage de Scaleway.
Qu'est-ce que MinIO ?
Minio est un serveur de stockage en objets open-source qui permet de stocker et de gérer des données de manière distribuée. Il est conçu pour être simple à utiliser et à déployer, et peut être utilisé pour construire un système de stockage distribué à grande échelle qui peut être utilisé pour stocker des objets tels que des fichiers, des images, des vidéos et d'autres types de données. Minio prend en charge divers protocoles de stockage tels que S3, Swift et NFS, et peut être utilisé avec de nombreux langages de programmation et outils différents.
Qu'est-ce que l'Object Storage de Scaleway ?
Object Storage Scaleway est un service de stockage en objets proposé par Scaleway, une entreprise de cloud computing basée en France. Il s'agit d'un système de stockage distribué conçu pour stocker et gérer de grandes quantités de données non structurées de manière efficace et à moindre coût. Object Storage Scaleway est basé sur la technologie de stockage en objets, qui consiste à stocker des données sous forme d'objets individuels dans un système de stockage distribué. Chaque objet est associé à un identifiant unique et peut être téléchargé ou téléchargé à partir du système à tout moment. Object Storage Scaleway est compatible avec le protocole de stockage en objets S3 d'Amazon, ce qui le rend facile à utiliser avec de nombreux outils et services différents.
Répliquer les données de MinIO vers Scaleway
Pourquoi répliquer les données dans MinIO ?
La réplication dans Minio est une fonctionnalité qui permet de copier automatiquement les données d'un bucket Minio vers un autre bucket, soit sur le même serveur Minio, soit sur un autre serveur Minio situé dans un emplacement différent. La réplication peut être utilisée dans plusieurs cas :
Pour créer une sauvegarde de données : la réplication peut être utilisée pour créer une copie de sauvegarde des données stockées dans un bucket Minio, de manière à pouvoir restaurer ces données en cas de perte ou de corruption des données originales.
Pour augmenter la disponibilité des données : en répliquant les données sur plusieurs serveurs Minio dans des emplacements différents, vous pouvez augmenter la disponibilité des données et éviter les temps d'arrêt en cas de panne d'un serveur ou de problèmes de réseau.
Pour répartir la charge de travail : en répliquant les données sur plusieurs serveurs Minio, vous pouvez répartir la charge de travail entre ces serveurs et ainsi améliorer les performances de votre système de stockage.
En résumé, l'utilisation de la réplication dans Minio peut être bénéfique dans différentes situations où il est nécessaire de sécuriser et de gérer les données de manière efficace.
Pourquoi utiliser Scaleway ?
Pour stocker et gérer de grandes quantités de données non structurées : Object Storage Scaleway est conçu pour stocker et gérer de grandes quantités de données non structurées de manière efficace. Il est particulièrement adapté pour stocker des fichiers volumineux tels que des images, des vidéos et des enregistrements audio.
Pour bénéficier de tarifs compétitifs : Scaleway propose des tarifs compétitifs pour son service Object Storage, ce qui le rend intéressant pour ceux qui cherchent à stocker de grandes quantités de données à moindre coût.
Pour bénéficier d'une grande disponibilité et d'une haute tolérance aux pannes : Object Storage Scaleway est conçu pour offrir une grande disponibilité et une haute tolérance aux pannes, ce qui signifie qu'il est peu probable que les données stockées dans le service soient perdues ou indisponibles en cas de problème technique.
Pour utiliser un service compatible avec le protocole S3 : Object Storage Scaleway est compatible avec le protocole S3 d'Amazon, ce qui le rend facile à utiliser avec de nombreux outils et services qui prennent en charge ce protocole.
En résumé, Object Storage Scaleway est un service de stockage en objets de qualité qui peut être utile pour ceux qui cherchent à stocker et à gérer de grandes quantités de données non structurées de manière efficace et à moindre coût.
Prérequis
- Créer un bucket depuis le service Object Storage, par exemple
kalixys_backup
- Activer le versionning dans les réglages du bucket
- Générer et récupérer la paire de clés publique / privée depuis l'onglet
identifiants
sousOrganisation
Ajout d'une règle de réplication dans Minio
Se connecter à Minio et depuis la liste des buckets, cliquer sur manage
.
Le versioning doit être activé. Si ce n'est pas le cas, activez l'option.
Dans Replication
, on peut ajouter une nouvelle règle.
Il suffit dès lors d'ajouter la configuration de connexion à notre bucket Scaleway, par exemple :
- Target URL : s3.fr-par.scw.cloud
- Acces Key : XXXXXXXXX
- Secret Key : XXXXXXXXX
- Target Bucket : kalixys_backup
Et puis de sauvegarder la configuration.
Vérification de la règle de réplication
Pour tester votre nouvelle règle de réplication, ajoutez un fichier dans MinIO, vous le verrez apparaître automatiquement dans votre bucket Scaleway.