Introduction
Bienvenue dans le premier volet de notre série de trois articles de blog consacrée aux plans d'expériences à remplissage d'espace (DOE). À l'heure où l'apprentissage automatique, l'expérimentation informatique et la simulation jouent un rôle de plus en plus crucial en recherche et développement, les approches traditionnelles de conception expérimentale peinent parfois à explorer efficacement des espaces de facteurs complexes et continus. C'est là que les plans à remplissage d'espace révèlent tout leur potentiel.
Que sont les designs qui remplissent l'espace ?
Les plans d'expériences à remplissage d'espace sont un type de plan d'expériences indépendant du modèle, visant à répartir uniformément les points de conception dans la région expérimentale. Ils maximisent la distance entre deux points quelconques et la couverture de l'espace de conception avec un nombre limité d'essais. L'analyse des résultats fait souvent appel à des modèles d'apprentissage automatique simples (tels que les processus gaussiens, les machines à vecteurs de support et les forêts aléatoires) capables de modéliser et d'approximer des réponses complexes et non linéaires.
Les plans d'expériences à remplissage d'espace sont initialement utilisés pour les expériences numériques, dans des domaines où les expériences sont impossibles, complexes, coûteuses et/ou chronophages. Par conséquent, les phénomènes sont souvent étudiés par simulations numériques, mais le temps de calcul peut être très long en raison de la complexité et de la précision croissantes des modèles. Afin d'éviter des simulations aléatoires et d'assurer une bonne couverture de l'espace de simulation, les plans d'expériences à remplissage d'espace permettent de répartir uniformément les calculs dans l'espace étudié. Ces plans ne comportent généralement pas de réplicats, car les simulations numériques sont déterministes et produisent des résultats identiques pour des entrées identiques, éliminant ainsi le besoin de répétitions pour estimer la variabilité. On retrouve ces plans d'expériences dans divers secteurs industriels, tels que le pétrole, l'astronomie, l'optique, le nucléaire, etc.
Grâce aux modèles d'optimisation de l'espace et d'apprentissage automatique, une approximation précise des modèles de simulation (appelée « modèle de substitution » ou métamodélisation) peut être réalisée rapidement. Les modèles de substitution servent à représenter et à approximer les résultats de modèles de simulation complexes et, comparés à ces derniers, sont plus simples, plus compacts et généralement moins gourmands en ressources de calcul. Comme ils approchent le comportement de systèmes plus complexes, ils permettent d'explorer l'espace de conception d'un système complexe, d'en acquérir une meilleure compréhension, de l'optimiser et d'effectuer des simulations de validation beaucoup plus rapidement.
Caractéristiques principales
Les plans d'aménagement spatial offrent des caractéristiques clés concernant la répartition des points et leur utilisation prévue :
- Répartition uniforme des points dans l'espace de conception.
- Aucune hypothèse concernant la forme du modèle sous-jacent.
- Parfaitement adapté aux applications prédictives dans les expériences à faible bruit et les expériences informatiques.
- Optimal pour les réponses complexes et non linéaires.
Pourquoi choisir des plans d'expériences remplissant l'espace plutôt que des plans d'expériences classiques ?
Figure 1 : Approches de conception d'expériences
Limitations traditionnelles du DOE
- Suppose des termes de modèle spécifiques (effets principaux, interactions, effets quadratiques, etc.).
- Peut laisser de vastes pans de l'espace de conception inexplorés.
- Optimisé pour des objectifs statistiques spécifiques (dépistage et analyse quantitative par estimation des effets, prédiction par modèle de surface de réponse polynomiale).
avantages de remplissage d'espace
- Exploration indépendante du modèle.
- Meilleure compréhension et prédiction globales des comportements de réponse complexes.
- Idéal pour les simulations informatiques, la métamodélisation et la modélisation prédictive (apprentissage automatique).
Cependant, les plans d'expériences remplissant l'espace nécessitent souvent un nombre de points plus élevé que les plans d'expériences basés sur un modèle afin d'obtenir un modèle pertinent et prédictif.
Aperçu des types courants de conception de remplissage d'espace
La plateforme de conception d'espacement propose plusieurs types de conception pour différentes situations et divers types de facteurs. Pour les facteurs continus, les conceptions d'espacement ont deux objectifs :
- Maximiser la distance entre deux points de conception quelconques.
- Espacer les points uniformément.
Les modèles de remplissage d'espace peuvent être trouvés dans JMP à DOE>Special Purpose>Space Filling Design (Figure 2).
Figure 2 : Menu de conception de remplissage d'espace
Les options de conception de remplissage d'espace comprennent l'empilement de sphères, l'hypercube latin, l'uniforme, le potentiel minimum, l'entropie maximale, le processus gaussien IMSE optimal et le remplissage flexible rapide.
| Modèles |
Uniforme |
Empilement de sphères (Maximin) |
Hypercube latin |
Remplissage rapide et flexible |
| Points forts |
Excellente couverture spatiale, uniformité mathématiquement optimale |
Séparation optimale des points |
Bonnes projections unidimensionnelles, faciles à générer |
Équilibre entre la couverture spatiale et les propriétés de projection |
| Faiblesses |
Temps de calcul |
Propriétés de projection médiocres |
Gestion des contraintes nulle |
Compromis entre la couverture spatiale et les propriétés de projection |
| Idéal pour |
Exploration spatiale de précision |
Espaces factoriels continus avec réponses bruitées |
Sélection initiale, expériences informatiques |
Types de facteurs mixtes, exploration équilibrée, gestion des contraintes |
| Type de facteurs |
Seuls les facteurs numériques continus |
Seuls les facteurs numériques continus |
Seuls les facteurs numériques continus |
facteurs numériques continus et discrets, catégoriels et mixtes |
Pour évaluer dans quelle mesure les points de conception couvrent de manière homogène l'espace des paramètres, la métrique d'écart compare leur distribution à une distribution uniforme théorique.
Qu'est-ce qu'une distribution uniforme ?
Une distribution uniforme signifie une probabilité égale pour toutes les valeurs possibles dans une plage donnée.
Dans une distribution uniforme entre 0 et 1, chaque valeur a exactement la même probabilité d'apparaître : il n'y a pas de régions ou de groupes privilégiés. Graphiquement, cela se traduit par une forme rectangulaire plate où la densité de probabilité reste constante (figure 3).
Figure 3 : Distribution uniforme aléatoire générée avec 1000 points
Plus le nombre de points est élevé, plus il est facile d'approximer une distribution uniforme.
Pour les plans d'expériences de remplissage d'espace, une distribution uniforme garantit que les points sont répartis de manière homogène dans tout l'espace des paramètres. Ceci évite les regroupements dans certaines régions tout en laissant d'autres inexplorées, maximisant ainsi la couverture d'informations avec un minimum de calculs. L'utilisation de cette distribution assure un échantillonnage non biaisé : chaque emplacement dans l'espace de conception a une chance égale d'être sélectionné, ce qui permet une exploration systématique et efficace du domaine du problème.
Types courants de modèles de remplissage d'espace
-
Modèles d'uniformes
PrincipeLe principe de base consiste à concevoir un plan d'expérience où la distribution des points de chaque facteur suit au mieux une loi uniforme. Ce plan minimise l'écart entre les points du plan (qui suivent une loi uniforme empirique) et une loi uniforme théorique. Cet écart est appelé divergence.
- Points fortsExcellente couverture spatiale, uniformité mathématiquement optimale.
- FaiblesseTemps de calcul.
- Idéal pourExploration spatiale de précision.
Figure 4 : Représentation d'un plan uniforme pour deux facteurs avec 20 essais.
Remarquez comment la répartition des points crée une distribution uniforme des points pour chaque facteur.
Figure 5 : Diagnostic de conception d'une conception uniforme.
La distance minimale entre deux points voisins est hétérogène. L'écart est faible et la métrique MaxPro (projection maximale) est élevée avec cette conception.
-
Modèles d'empilement de sphères (également appelés modèles maximin)
PrincipeCe procédé crée un motif qui maximise la distance minimale entre les paires de points du motif. Cette maximisation a pour effet de répartir les points au maximum à l'intérieur de la zone du motif. Visuellement, cela correspond au problème de l'empilement optimal de sphères de même volume dans un volume donné.
- ForceSéparation optimale des points.
- Faiblesse: Mauvaises propriétés de projection.
- Idéal pour : Espaces à facteurs continus avec réponse bruyante.
Figure 6 : Représentation de la conception d'empilement de sphères pour deux facteurs avec 20 essais.
Notez comment la répartition des points répartit les points de conception avec une distance constante entre les points voisins.
Figure 7 : Diagnostic de conception de l'empilement de sphères.
La distance minimale entre deux points voisins est maximisée et similaire. Aucune évaluation métrique MaxPro n'est disponible avec cette conception, car les points peuvent avoir des valeurs identiques pour une dimension.
-
Modèles d'hypercubes latins (LHD)
PrincipeLe principe de base consiste à créer un nombre de classes égal au nombre d'essais et à s'assurer que chaque point du plan d'expériences appartient à une seule classe pour chaque facteur. Étant donné le grand nombre de combinaisons possibles, un critère supplémentaire (MaxPro) est appliqué afin de garantir que la répartition des points n'entraîne pas de corrélations entre les facteurs et d'assurer de bonnes propriétés de projection. Ce critère crée un plan d'expériences qui maximise la distance minimale entre les points tout en exigeant un espacement régulier des niveaux de chaque facteur. Chaque facteur possède autant de niveaux qu'il y a d'essais dans le plan. Cette méthode produit des plans d'expériences qui imitent une distribution uniforme. La méthode LHD représente un compromis entre la méthode d'empilement de sphères et la méthode de plan d'expériences uniforme.
- Points fortsBonnes projections unidimensionnelles, faciles à générer.
- Faiblesse: Aucun.
- Idéal pour: Sélection initiale, expériences informatiques.
Figure 8 : Représentation d'un plan hypercube latin pour deux facteurs avec 20 essais.
Notez comment la répartition des points crée 20 intervalles équidistants, approximant une distribution uniforme des points pour chaque facteur.
Figure 9 : Diagnostic de conception d'un hypercube latin.
La distance minimale entre deux points voisins est similaire. L'écart est faible et la métrique MaxPro est élevée avec cette conception.
-
Conceptions de remplissage rapides et flexibles
Principe : Ce programme crée un plan d’expériences à l’aide de l’algorithme de remplissage flexible rapide (FFF). L’algorithme commence par générer un grand nombre de points aléatoires dans la région du plan d’expériences spécifiée. Ces points sont ensuite regroupés en clusters par un algorithme de Ward rapide, en un nombre de clusters égal au nombre d’itérations spécifié. Les points du plan d’expériences final peuvent être obtenus en utilisant le critère d’optimalité MaxPro par défaut ou en sélectionnant le critère du centroïde.
- Force: Équilibre entre la couverture spatiale et les propriétés de projection.
- Faiblesse : Compromis entre la couverture spatiale et les propriétés de projection.
- Idéal pourTypes de facteurs mixtes, exploration équilibrée, gestion des contraintes.
Cela vous semble complexe ? N'ayez crainte, une explication étape par étape de l'algorithme FFF est présentée plus loin !
Figure 10 : Représentation de la conception de remplissage rapide et flexible pour deux facteurs avec 20 essais.
Figure 11 : Diagnostic de conception d'un système de remplissage rapide et flexible.
La distance minimale entre deux points voisins est hétérogène. L'évaluation métrique MaxPro est très élevée avec cette conception.
BONUS : Présentation détaillée de l’algorithme de remplissage rapide et flexible
Dans cette section, nous reproduisons les étapes de l'algorithme de remplissage rapide et flexible afin de mieux comprendre ses mécanismes.
- Création de colonnes pour les facteurs : Dans cet exemple, nous créons deux colonnes pour les deux facteurs continus, chacune avec 100 000 lignes et une distribution de formule uniforme aléatoire (Figure 12).
Figure 12 : Création des colonnes de facteurs.
L'espace de conception doit être entièrement couvert par les points uniformes aléatoires créés avec la formule (Figure 13).
Figure 13 : Espace de conception couvert par 100 000 points uniformes aléatoires.
- Clustering : Dans Analyser > Clustering , nous choisissons la plateforme de clustering hiérarchique , spécifions les deux facteurs X1 et X2 dans Y et sélectionnons Service rapide comme méthode (Figure 14).
Figure 14 : Fenêtre de lancement du cluster hiérarchique
Dans le triangle rouge situé à côté de « Clustering hiérarchique », cliquez sur « Nombre de clusters » et indiquez 20 (20 est le nombre de points recommandé par JMP pour tout plan d'expérience de remplissage d'espace avec deux facteurs numériques continus). Ensuite, dans le même triangle rouge, après avoir sélectionné « Enregistrer les moyennes des clusters » (Figure 15) , un nouveau tableau s'affiche avec les moyennes des 20 clusters.
Figure 15 : Option de clustering hiérarchique pour l'enregistrement des moyennes de cluster.
Nous pouvons également enregistrer les clusters dans notre tableau d'origine et ajouter les lignes des moyennes de cluster provenant du tableau « Méthodes de cluster ». Nous pouvons ensuite visualiser notre espace de conception divisé par clusters (figure 16).
Figure 16 : Espace de conception divisé en 20 groupes.
- Filtration:Ensuite, éliminez les points aléatoires et ne conservez que les points moyens des clusters. Notre méthode de remplissage rapide et flexible (avec critère de centroïde) est terminée !
Nous pouvons alors comparer la génération de conception suivant ces étapes avec le résultat que nous obtiendrions en générant directement une conception de remplissage flexible rapide à 20 essais avec critère de centroïde (Figure 17).
Figure 17 : Comparaison des conceptions de remplissage flexibles rapides créées manuellement avec le flux de travail (à gauche) et de celle créée par JMP avec le critère du centroïde (à droite).
Les deux modèles se ressemblent beaucoup !
Il serait possible de créer un modèle de remplissage rapide et flexible avec le critère MaxPro par défaut en utilisant le même flux de travail, mais la sélection des points représentatifs des clusters ne serait pas la moyenne des clusters ; il s’agirait de points appartenant à chaque cluster et maximisant le critère MaxPro :Détails de conception du remplissage rapide et flexible
Critères de sélection de conception
Lors du choix d'un modèle occupant tout l'espace, tenez compte des éléments suivants :
- Objectif:En fonction de l'objectif (dépistage, exploration, modélisation prédictive précise, etc.) et de l'accent mis sur la génération géométrique/distributive, certains modèles peuvent être préférés.
- Dimensionalité de l'espace de conception :La génération de certains motifs remplissant l'espace (comme les motifs uniformes) peut nécessiter un temps de calcul important pour les grandes dimensions.
- Types de facteurs :Si vous n'avez que des facteurs continus, vous pouvez choisir un plan d'expérience approprié en fonction de votre objectif et de la dimensionnalité des variables. En revanche, si vous utilisez d'autres types de facteurs (numériques discrets, catégoriels, mélanges, etc.), vous n'aurez d'autre choix que d'opter pour un plan d'expérience à remplissage rapide et flexible.
- Caractéristiques de réponseet intégration avec les approches de modélisation : En fonction du bruit attendu dans la réponse, ainsi que des approches de modélisation utilisées (processus gaussien, SVM, modèles arborescents, etc.), différentes configurations de conception peuvent être adaptées.
- Nombre de courses disponibles :En fonction de l'objectif, des réponses à analyser et du budget expérimental disponible, vous pouvez choisir un plan d'expérience adapté à vos contraintes. Par exemple, si vous souhaitez explorer de manière homogène un espace expérimental de grande dimension en utilisant uniquement des facteurs continus et en tenant compte d'une réponse potentiellement bruitée, un plan d'empilement de sphères (maximin) peut s'avérer pertinent.
- Complexité computationnelle de la génération de conception :Selon le nombre d'itérations et la dimensionnalité, vous pourriez opter pour un plan d'expérience moins complexe à générer. Les plans d'empilement uniforme et sphérique sont généralement plus complexes à générer que les plans de remplissage flexible rapide et les plans d'hypercube latin.
- stratégies d'augmentationpour l'expérimentation séquentielle : N'importe quelaugmentation de la conceptionL'utilisation d'une approche de remplissage d'espace sera réalisée à l'aide de la méthodologie de remplissage rapide et flexible.
À suivre
Dans notre prochain article, nous établirons le cadre de comparaison de ces conceptions de remplissage d'espace. Nous définirons des réponses, des facteurs et des indicateurs d'évaluation spécifiques afin d'évaluer systématiquement la performance des différentes approches de remplissage d'espace dans divers scénarios.
Il s'agit du premier volet d'une série en trois parties sur les plans d'expériences optimisant l'espace :
- Introduction aux types courants de conception de remplissage d'espace(ce message)
- Cadre comparatif et indicateurs d'évaluation
- Résultats, analyse et lignes directrices pour la sélection de la conception
