Agents et routines
Agents
Les agents Qalita sont des travailleurs pour la plateforme et les sources, ils les connectent ensemble et calculent les analyses puis les envoient sur la plateforme.
Enregistrement d'un agent
Si vous avez le rôle data engineer ou admin vous pouvez enregistrer un agent sur la plateforme. Pour cela vous pourrez apercevoir un bouton Configuration de l'agent dans la barre de navigation.
Bouton contenant les instructions pour la configuration de l'agent
Il vous suffira de suivre les instructions pour enregistrer votre agent.
- Commande
- Résultat
qalita agent -n admin login
Found existing agent file: /home/aleopold/.qalita/.env-admin
Qalita Platform Version : 0.0.0-dev
Qalita CLI Version : 1.5.0
Make sure you are using compatible versions for the platform and the cli,
> check compatibility matrix on the documentation <
Agent Authenticated
Agent Registered
Agent Fetched Registry
Vous verrez alors votre agent dans la liste des agents de la plateforme.
Modes de fonctionnement de l'agent
L'agent a 2 modes de fonctionnement :
Job
Le mode Job peut être utile lorsque vous développez vos propres packs.
Afin d'exécuter un pack en mode job, vous aurez besoin de :
- Une source enregistrée sur la plateforme
- Un pack enregistré sur la plateforme
Vous devrez obtenir leur id avec :
qalita source list
et
qalita pack list
Enfin, vous pouvez lancer un job localement avec votre agent avec :
qalita agent -m job run -s <source_id> -p <pack_id>
Cela lancera votre pack avec votre source avec votre agent local.
Worker
Le mode worker permet de lancer un agent en tant que travailleur pour la plateforme. Il permet de lancer des tâches et des routines. Cet agent restera en ligne en attente de tâches à exécuter.
Les agents en mode worker lanceront uniquement des tâches sur les sources dont ils disposent dans leur configuration ~/.qalita/qalita-conf.yaml
si la source n'est pas présente dans la configuration de l'agent, il ne pourra pas lancer de tâches sur cette source.
Pensez à vérifier que votre agent en mode worker possède bien la configuration des sources sur lesquelles vous souhaitez lancer des tâches. Et qu'il y a bien un id
de source.
Suivre les exécutions de tâches
Vous pouvez suivre directement les exécutions de tâches sur la plateforme.
- Visualiser l'état des tâches
- Visualiser les logs des tâches
- De quel pack sur quelle source
Routines
Créer des routines
Les routines sont des tâches planifiées qui s'exécutent automatiquement à une fréquence donnée.
Vous pouvez créer des routines à partir de la page de détail d'un pack.
Depuis la liste des packs | Depuis la page d'un pack |
---|---|
Depuis la page d'une source | |
Le panneau de création d'une routine permet de selectionner le pack à utiliser, la périodicité d'execution de la routine, la date de début de la routine, une fois le pack selectionné, la configuration par défaut est chargée, vous pourrez ensuite surcharger la configuration par défaut du pack spécifiquement pour cette routine. |
Suivre l'exécutions des routines
Vous pouvez suivre les exécutions des routines sur la plateforme.
- Visualiser l'état des tâches
- Activer ou désactiver une routine
- Modifier la configuration d'une routine
- Supprimer une routine