Traffic Distributor : vue d’ensemble
L'un des problèmes les plus courants auxquels vous pouvez être confronté lors de la croissance de votre projet est la nécessité de maintenir des environnements multiples. Cela peut être nécessaire pour obtenir une capacité suffisante (pour servir tous les clients) ou, par exemple, pour gérer différentes versions d'applications. Dans cette situation, vous rencontrerez très probablement le problème de la bonne répartition du trafic entre ces copies de projet, y compris un certain nombre d'aspects comme la définition d'une méthode appropriée pour l’acheminement des demandes, les taux de chargement des serveurs, etc. La résolution de tous ces problèmes peut devenir un défi, même pour les développeurs expérimentés.
Ainsi, afin de faciliter la résolution de ces problèmes, RAGNARØKKR propose une solution totalement gratuite et facile à utiliser, basée sur l'équilibreur de charge configuré automatiquement. Elle est livrée sous la forme d'un add-on spécial : le Traffic Distributor (Distributeur de trafic), qui est disponible pour une installation rapide en un clic sur RAGNARØKKR Marketplace et fournit un acheminement intelligent du trafic en fonction de vos besoins.
Cette solution vous permet de définir un équilibrage intelligent des charges de travail entre deux hôtes et de bénéficier des fonctionnalités et possibilités suivantes qu'elle offre :
- Haute disponibilité et basculement (failover) avancé : partagent la charge entre deux copies de votre application, qui pourraient être situées sur des matériels différents pour obtenir une meilleure protection contre les défaillances
- Déploiement de l'application Blue-Green (Zero Downtime) : redirige toutes les demandes entrantes vers un seul backend pendant qu'une autre est en cours de maintenance
- Tests A/B en cours : acheminement du trafic entrant entre deux versions différentes d'une application et comparaison de leurs performances et de leurs taux d'UX pour choisir la meilleure pour la production
- UI intuitive : le formulaire de configuration permet de définir tous les principaux paramètres de votre distributeur de trafic (soit lors de sa création, soit lors de son ajustement ultérieur), y compris la possibilité de choisir parmi trois types d’acheminement différents pour répondre au mieux à vos besoins : Round Robin, Sessions permanentes (Sticky Sessions) et Failover
- Bilan de santé : les deux backends sont automatiquement vérifiés pour une réponse normale (c'est-à-dire pour le renvoi du code de statut 200, qui indique que la demande a été satisfaite) en fonction des paramètres configurables (fréquence, délai d'attente, etc.)
- Flexibilité et extensibilité : outre les principaux paramètres de distribution, disponibles au moyen de l'interface graphique de l'add-on, vous pouvez également appliquer manuellement tout réglage supplémentaire nécessaire (par exemple pour mettre en place la mise en cache, le mappage TCP, le SNI, etc) via les fichiers de configuration NGINX, aucune limitation n'est appliquée
Généralement, par rapport à un serveur unique, le distributeur de trafic permet d'accélérer le traitement des demandes, de réduire le délai de réponse de l'utilisateur et, en général, de traiter un plus grand nombre de threads simultanés sans défaillance.
Méthodes d’acheminement
Avec la solution Traffic Distributor de RAGNARØKKR, vous pouvez choisir parmi trois méthodes d’acheminement différentes afin d'obtenir celle qui répondra le mieux à vos besoins. Chacune des options disponibles a ses propres spécificités et objectifs d'utilisation, qui doivent être pris en compte lors de la sélection :
- Round Robin : la méthode d’acheminement la plus simple et la plus souvent utilisée, qui permet de répartir le trafic de manière égale entre vos environnements, en dirigeant chaque demande vers eux à tour de rôle (c'est-à-dire une par une) en raison des priorités du backend établies.
Notez que pour utiliser cette option, vous devez fournir un contenu identique sur vos deux backends (puisque les données demandées par les utilisateurs vont être chargées à partir des deux).
- Sessions permanentes (Sticky Sessions) : ce type d’acheminement est basé sur le suivi d’une session particulière à un backend spécifique (en fonction des poids des serveurs), qui traitera toutes leurs requêtes jusqu'à l'expiration de la session utilisateur correspondante, créée lors de la première visite de l'application.
- Failover : ce type d’acheminement du trafic permet de mettre en place la copie de sauvegarde de votre serveur principal et de la garder en veille (c'est-à-dire en réserve) jusqu'à la panne du premier. Et si un problème survient avec le backend principal, toutes les demandes seront automatiquement redirigées vers le serveur en fonctionnement, de sorte que vos utilisateurs ne remarqueront probablement même pas d'interruption dans le fonctionnement de l'application.
Implémentation du Traffic Distributor
Pour obtenir votre propre distributeur de trafic, il vous suffit de remplir le formulaire avec un certain nombre de paramètres principaux (comme la sélection des hôtes entre lesquels les demandes doivent être acheminées, le type d’acheminement, le ratio de trafic, etc) et de démarrer l'installation avec un seul bouton. Une fois créé, le Traffic Distributor représentera un environnement séparé avec un équilibreur de charge NGINX (avec un nombre prédéfini de nœuds) et un add-on spécial installé par-dessus.
Ainsi, lors de l'installation, vous définissez également un point d'entrée pour celui-ci, c'est-à-dire que vous définissez les demandes à traiter soit par l'équilibreur de charge partagé, soit par la ou les adresses IP publiques, attachées à chacun des nœuds de l'équilibreur.
Conseil : le Traffic Distributor fonctionne au moyen des protocoles http et https couramment utilisés, mais il convient également à tout autre protocole qui fonctionne sur eux (y compris les websockets). Ainsi, l'équilibrage de charge lui-même n'est effectué que pendant l'opération de poignée de main http, après quoi la connexion continue des websockets au backend sera établie.
De cette façon, vous pouvez obtenir un outil de distribution de trafic (Traffic Distributor de RAGNARØKKR) extrêmement flexible, destiné à vous aider à atteindre divers objectifs, à commencer par un simple acheminement pour obtenir un chargement uniforme des serveurs, jusqu'à des scénarios beaucoup plus complexes comme l'application d'un déploiement Blue-Green pour installer des mises à jour d'applications sans aucun temps d'arrêt (Zero Downtime), l'exécution de tests A/B continus, l'application d'une protection de basculement (failover) avancé, etc.
