Système de fichiers distribués de Qumulo

Le magasin de blocs évolutif Qumulo (SBS)

Le système de fichiers Qumulo repose sur un puissant système de gestion de données à la pointe de la technologie appelé le Qumulo Scalable Block Store (SBS). SBS utilise les principes des bases de données distribuées massivement évolutives et est optimisé pour les besoins spécialisés des données basées sur des fichiers.

Le stockage de blocs évolutif est la couche de blocage du système de fichiers Qumulo, ce qui rend ce système de fichiers plus simple à mettre en œuvre et extrêmement robuste. SBS donne également le système de fichiers une évolutivité massive, performances optimisées et protection des données.

Voici un aperçu de ce que contient SBS: 

SBS fournit une couche virtuelle transactionnelle de blocs de stockage protégés. Au lieu d'un système où chaque fichier doit déterminer sa protection, la protection des données existe sous le système de fichiers, au niveau du bloc.

La protection par bloc de Qumulo, telle que mise en œuvre par SBS, offre des performances exceptionnelles dans les environnements dotés de plusieurs pétaoctets de données et de charges de travail avec des tailles de fichiers variées. SBS présente de nombreux avantages, notamment:

• Temps de reconstruction rapide en cas d'échec du lecteur de disque
• La possibilité de continuer les opérations de fichiers normales pendant les opérations de reconstruction
• Aucune dégradation des performances due à un conflit entre les écritures de fichier normales et les écritures de reconstruction
• Efficacité de stockage égale pour les petits fichiers et les gros fichiers
• Rapport précis de l'espace utilisable
• Transactions efficaces permettant aux grappes Qumulo de s’adapter à plusieurs centaines de nœuds
• Une hiérarchisation intégrée des données chaudes / froides qui fournit des performances Flash aux prix des archives.

Pour comprendre comment SBS obtient ces avantages, nous devons examiner son fonctionnement.

Blocs virtuels protégés

La capacité de stockage totale d'un cluster Qumulo est organisée de manière conceptuelle en un seul espace d'adressage virtuel protégé, illustré ci-dessous:

Chaque adresse protégée dans cet espace stocke un bloc d'octets 4K. Par «protégé», nous entendons que tous les blocs sont récupérables même en cas de défaillance de plusieurs disques. L'ensemble du système de fichiers est stocké dans l'espace d'adressage virtuel protégé fourni par SBS, y compris la structure de répertoires, les données utilisateur, les métadonnées de fichier, les analyses et les informations de configuration.

En d'autres termes, le magasin protégé agit en tant qu'interface entre le système de fichiers et les données en mode bloc enregistrées sur des périphériques en mode bloc connectés. Ces périphériques peuvent être des disques virtuels formés en combinant des disques SSD et des disques durs, ou des ressources de stockage de blocs dans le cloud.

Notez que les blocs de l'espace d'adressage protégé sont répartis sur tous les nœuds (ou instances) du cluster Qumulo. Cependant, le système de fichiers Qumulo ne voit qu’un tableau linéaire de blocs entièrement protégés.

Transactions

Dans le stockage de blocs évolutif, les lectures et les écritures dans l'espace d'adressage virtuel protégé sont transactionnelles.

Cela signifie que, par exemple, lorsqu'une opération de système de fichiers nécessite une opération d'écriture impliquant plusieurs blocs, l'opération écrira tous les blocs pertinents ou aucun d'entre eux.

Les opérations de lecture et d'écriture atomiques sont essentielles à la cohérence des données et à la mise en œuvre correcte des protocoles de fichiers tels que SMB et NFS. Pour des performances optimales, SBS utilise des techniques qui optimisent le parallélisme et l'informatique distribuée tout en maintenant la cohérence transactionnelle des opérations d'E / S. Par exemple, SBS est conçu pour éviter les goulots d'étranglement en série, dans lesquels les opérations se dérouleraient dans une séquence plutôt qu'en parallèle. Le système de transaction de SBS utilise les principes de l'algorithme ARIES pour les transactions non bloquantes, y compris la journalisation à écriture anticipée, la répétition de l'historique lors des actions d'annulation et la journalisation des actions annulées.

Toutefois, la mise en œuvre des transactions par SBS présente plusieurs différences importantes par rapport à ARIES. SBS tire parti du fait que les transactions initiées par le système de fichiers Qumulo sont de courte durée, contrairement aux bases de données à usage général dans lesquelles les transactions peuvent être de longue durée. Un modèle d'utilisation avec des transactions de courte durée permet à SBS de supprimer fréquemment le journal des transactions pour plus d'efficacité. Les transactions de courte durée permettent une commande d'engagement plus rapide.

De plus, les transactions de SBS sont hautement distribuées et ne nécessitent pas de commande globale définie globalement, avec des numéros de séquence de type ARIES pour chaque entrée du journal des transactions. Au lieu de cela, les journaux de transactions sont localement séquentiellement localisés dans chacun des magasins de stockage et coordonnés au niveau mondial à l'aide d'un schéma de classement partiel qui prend en compte les contraintes de classement des engagements.

Qumulo DB utilise un protocole de verrouillage à deux phases (2PL) pour implémenter la sérialisabilité pour une commande d'engagement cohérente. Les opérations sérialisables sont effectuées par des unités de traitement distribuées (bstores) et ont la propriété de pouvoir reconstruire ultérieurement la séquence prévue des opérations.

L'approche de SBS présente l'avantage que la quantité minimale absolue de verrouillage est utilisée pour les opérations d'E / S transactionnelles, ce qui permet aux grappes Qumulo de s'adapter à plusieurs centaines de nœuds.