Chez Waters, nous avons discuté avec des scientifiques et des ingénieurs de laboratoires de bioprocédés et leur avons exprimé leur intérêt pour l'utilisation d'analyses avancées afin d'obtenir des informations utiles au développement de ces bioprocédés. Le principal obstacle qu'ils nous ont signalé est le temps nécessaire pour obtenir les données et les informations issues de ces analyses avancées. Lorsque nous parlons de bioprocédés, nous nous concentrons principalement sur les bioprocédés en amont et comprenons que de nombreux participants ne connaissent pas bien ce domaine. J'ai pensé à quelques photos pour illustrer le type de laboratoires dont nous parlons et les activités qui génèrent les échantillons.
Les types de laboratoires, qu'il s'agisse de laboratoires de développement de bioprocédés en amont ou de laboratoires de sélection de clones, utilisent généralement des bioréacteurs automatisés (voir la photo en haut à gauche) ou des bioréacteurs de paillasse, d'une capacité de quelques litres, parfois cinq litres. La journée d'un ingénieur en bioprocédés chargé de ces expériences se déroule généralement pendant la réalisation des expériences. En général, la durée des expériences est d'environ deux semaines. Chaque matin, il vient prélever des échantillons dans ces bioréacteurs, comme vous pouvez le voir sur ces photos, puis les analyser.
Les analyses de routine, comme les analyses chimiques de base comme le pH, les ions métalliques, etc., sont réalisées immédiatement par l'ingénieur en bioprocédés lui-même. En revanche, les analyses avancées sont généralement confiées à un laboratoire d'analyse spécialisé. Il faut alors compter plusieurs semaines de délai avant de recevoir les résultats et les données, comme nous l'avons mentionné. Cela ne correspond pas vraiment au rythme de conception de nouvelles expériences.
Chez Waters, nous cherchons à améliorer cette situation afin que les analyses avancées puissent être réalisées par l'ingénieur procédé lui-même, idéalement pendant la culture cellulaire. Il pourra ainsi exploiter les informations obtenues pour concevoir l'expérience suivante et en tirer profit. Chez Waters, nous développons de nouveaux systèmes LC-MS utilisables par des non-analystes, comme des ingénieurs, des chimistes, etc. Le système LC-MS BioAccord, que nous pensons particulièrement adapté aux laboratoires de bioprocédés, peut être utilisé par un non-analyste.
En réalisant cela dans un laboratoire de bioprocédés, ils obtiendront une vision beaucoup plus complète du déroulement de leurs expériences. Outre les analyses chimiques et les mesures cellulaires de routine, ils obtiendront également beaucoup plus d'informations sur le fonctionnement des cellules, dans les bioréacteurs : ce qu'elles consomment en grande quantité, ce qu'elles consomment en faible quantité, les métabolites et les sous-produits produits, ainsi que sur les produits et leur qualité pendant le processus de culture cellulaire.
Ils pourront obtenir une quantité importante de données supplémentaires, que nous considérons comme très précieuses. L'inconvénient, cependant, est que plus ils utilisent d'instruments et de méthodes différents, plus ils doivent nettoyer et agréger de données avant d'en tirer des enseignements. Je cède la parole à mon collègue de CSL.
Bonjour, je m'appelle Lalit. Je fais partie de CSL Seqirus et je travaille au sein de l'équipe amont en tant que scientifique. Nous utilisons BioAccord comme utilisateur et j'aimerais partager mon expérience. Chez CSL, nous utilisons une approche pilotée par les données (approche DoE) pour nos expériences. Nous utilisons principalement l'Amber 15 et l'Amber 250, deux instruments à haut débit. L'Amber 15 dispose de 48 bioréacteurs d'un volume utile de 15 ml, tandis que l'Amber 250 de 24 réacteurs d'un volume utile de 200 ml. Grâce à ces conceptions DoE, nous générons de nombreuses données qui sont transmises au LC-MS BioAccord. Ce système est très pratique pour l'identification et la quantification des composants, permettant de détecter plus de 200 composants dans sa bibliothèque. Il est donc beaucoup plus simple de ne pas utiliser d'autres instruments.
Parallèlement, la quantité de données obtenues avec le BioAccord LC-MS peut s'avérer complexe. Ce dernier est très utile et permet d'examiner toutes les données, mais il est très difficile de tirer des conclusions à partir du volume. C'est là que le module complémentaire Waters JMP s'avère très utile. Il permet d'intégrer les données et de séparer les métabolites en fonction des voies de signalisation. Il facilite ainsi l'analyse de chacun de ces composants et leur corrélation avec les paramètres du processus DoE, ce qui permet d'améliorer ou d'optimiser le procédé. De manière générale, si l'on considère l'intérêt du BioAccord LC-MS et du module complémentaire JMP Waters, il est très utile pour les scientifiques en amont.
La visualisation et l'analyse des données que mes collègues de JMP vous présenteront ont été générées lors d'une expérience dont nous avons donné un aperçu général ici. Les expériences de culture cellulaire ont été réalisées sur le système Amber 250, dont je vous ai montré une photo plus tôt. Il s'agissait d'un système à huit voies, comprenant huit bioréacteurs différents. L'étude a duré 14 jours. Des échantillons ont été prélevés dans chaque bioréacteur chaque matin pour être analysés sur le système Nova BioProfile FLEX2 et le système BioAccord LC-MS.
Le plan expérimental était assez simple. Il consistait à faire varier le débit d'aspersion de gaz, le taux de recouvrement d'air et la concentration du tampon. L'alimentation de la structure du bioréacteur était identique pour chaque bioréacteur ; seuls les facteurs suivants ont été modifiés : le recouvrement d'aspersion et le tampon. Le système Amber 250 est équipé de capteurs intégrés pour la température, le gaz et le pH en ligne. Le système FLEX2 permet de mesurer des paramètres tels que le nombre et la viabilité cellulaires, l'ammoniac, le pH, etc. Le système BioAccord permet également de mesurer le titre, la méthode de référence étant la chromatographie sur protéine A. Les agrégats sont des impuretés de haut et de bas poids moléculaire.
Les glycoprofils nous ont permis d'observer les glycoformes produites lors de l'expérience de culture cellulaire. J'aurais dû préciser qu'il s'agissait d'une lignée cellulaire CHO conçue pour exprimer un anticorps monoclonal. Différentes glycoformes de cet anticorps seraient des critères de qualité importants. Ensuite, le milieu usé, qui entoure les cellules et contient les nutriments et les métabolites excrétés par les cellules, est analysé. Nous y mesurons des éléments tels que les acides aminés, les vitamines, les métabolites du TCA, c'est-à-dire les métabolites du cycle de Krebs, ainsi que d'autres métabolites des voies métaboliques. Ce sont ces données que nos collègues du JMP vous présenteront en cours d'analyse et de visualisation.
Afin de faciliter l'analyse et la visualisation des données, nous avons développé, avec l'aide de nos collègues de JMP, un module complémentaire de surveillance des bioprocédés pour JMP, disponible sur la marketplace. Ce module permet d'importer les fichiers de données des différents analyseurs. Il ajoute automatiquement les métadonnées, nettoie les données et les agrège dans une table unique permettant ensuite de créer des visualisations.
Le module complémentaire crée des visualisations pour vous aider à démarrer, sous forme de graphiques à barres et de graphiques en courbes. Enfin, pour vous préparer à l'analyse multivariée, il crée un tableau MVA, remodelé pour une analyse MVA optimisée avec une colonne par analyte. Je passe maintenant la parole à mon collègue de JMP.
Merci, Pat. Je m'appelle Greg Flexman. Je suis ingénieur système chez JMP et je vais commencer le processus de pilotage de JMP. Le moniteur de processus Waters Biopress est disponible sur la place de marché JMP et propose un ensemble complet de documents PDF expliquant comment importer des données et créer des fichiers. Pat a réalisé une vidéo très pratique, mais je la reprendrai en cours de route.
Après avoir importé toutes les données, vous obtenez une série de rapports. Si vous préférez le format graphique à barres ou le format linéaire, ils sont tous deux disponibles. C'est là que la vaste gamme d'analytes que ce BioAccord peut mesurer prend tout son sens, car nous disposons d'un plan d'expérience avec huit bioréacteurs. Nous pouvons visualiser non seulement le titre à chaque instant, mais aussi tous les paramètres qui contribuent à la productivité des cellules.
Nous pouvons voir les fragments et les agrégats, ainsi que les cellules principales. Nous pouvons observer tous ces différents cycles, la synthèse de l'ADN et les glycosylates. C'est très utile pour parcourir vos données. Comme vous le voyez, elles étaient dans un format de données volumineux. Voyons cela très rapidement. 12 000 lignes, beaucoup moins de colonnes, et cela ressemble à une base de données LIMS. Cette table regroupe une grande variété d'analytes mesurés et leurs valeurs.
Le module complémentaire génère également un tableau complet appelé analyse multivariée. Le script se termine par ce tableau. Cela vous permet de créer des nuages de points, par exemple pour analyser le titre en fonction du stress métabolique et explorer certaines des relations présentes dans nos données. C'est également un excellent point de départ pour des analyses plus approfondies.
Je vais commencer avec ce grand tableau, et j'ai déjà approfondi le sujet en ajoutant des colonnes de formules. Nous pouvons commencer à représenter cela sous forme graphique. Nous pourrions examiner le titre au fil du temps. Encore une fois, c'est là que nous cherchons à comprendre ces relations. J'ai calculé une valeur pour le titre incrémental. Il s'agit de la part de croissance journalière ; nous voyons donc une croissance jusqu'à 80 %, puis, plus tard, une croissance d'environ 10 %, soit 1,1 par jour.
J'ai remarqué une grosse erreur le septième jour. Pour le fun, je vais définir une phase précoce et une phase tardive. Je vais également calculer l'augmentation relative du titre par rapport au temps, en faisant la moyenne de tous ces points temporels. Prenons l'exemple de notre bioréacteur le moins performant, bien inférieur aux autres en phase précoce et également faible en phase tardive.
Notre meilleure performance : on voit qu'elle a plutôt bien fonctionné au début, c'est là qu'elle s'est vraiment manifestée. Puis, elle s'est rapprochée du centre du peloton plus tard, mais cette V7 est assez intéressante. Elle se montre très forte au début, puis a chuté par la suite. Je me demande quel aurait été son potentiel si les conditions avaient été réunies pour permettre à ces cellules de continuer à produire.
JMP nous offre de nombreux outils pour comprendre ces différentes conditions de processus. Nous pouvons effectuer un ajustement selon l'axe des ordonnées, mais les paramètres sont très nombreux. Nous allons appliquer un outil de filtrage, appelé filtrage des réponses. Je vais d'abord vous montrer sur quoi il repose, puis nous utiliserons cette plateforme d'analyse. Si nous devions effectuer plusieurs ajustements selon l'axe des ordonnées, je n'en aurais que deux ici, avec une bivariable précoce et tardive. Nous pouvons observer cet acide isocitrique, un r au carré très fort précocement, une significativité très élevée précocement, mais moins tardivement.
Nous pourrions également examiner cet autre nicotinamide, très puissant en phase tardive, avec une significativité statistique très forte en phase tardive, moins en phase précoce. Les valeurs de r au carré et de p nous en disent long sur la force de la relation. Si nous cherchons simplement à comprendre l'influence de ces nombreux paramètres, cela sera très utile. Je vais maintenant exécuter cette plateforme de criblage des réponses, et nous verrons le r au carré et la valeur de p pour bon nombre d'entre eux. Avec autant de comparaisons, nous nous attendons à des résultats erronés.
Il existe un ajustement appelé taux de fausses découvertes. Nous avons ces valeurs p. Comme ces valeurs p sont difficiles à analyser avec des nombres aussi petits, il est pratique d'examiner la valeur logarithmique. Ainsi, en prenant le logarithme, c'est très facile à voir. 0,05 équivaut à deux. Nous pouvons voir la limite entre ce qui est le plus significatif. Il y a cette isocitrique pour les découvertes précoces, et nous pouvons également l'examiner pour les découvertes tardives. Vous remarquerez que les classements pour les découvertes précoces et tardives sont différents. Je vais maintenant préparer un graphique parallèle. Je le ferai avec un script, mais pour vous donner un indice, j'ai créé un tableau de données combinées, puis j'ai effectué une opération de division. Voilà, voici l'essentiel. Nous allons refaire cela ici dans le script. Cela va nous donner un graphique parallèle. J'ai ensuite mis à jour le tableau à partir de notre résumé pour y intégrer la classe d'analytes.
Cela va se poursuivre. Nous pouvons maintenant observer que, pour les phases précoce et tardive, par rapport à ce log de deux, où il y a significativité, le cycle TCA en phase précoce est le plus significatif statistiquement. Le paramètre le plus important, encore une fois, est l'isocitrique. Nous constatons qu'en phase tardive, ces relations changent considérablement. La situation est complètement différente en phase tardive. On y trouve la nicotinamide, ainsi que d'autres vitamines moins importantes. Ceci n'est qu'un exemple d'analyse graphique réalisable.
Je souhaite maintenant introduire un autre concept : je vais utiliser JMP pour accéder à une autre table de données. Celle-ci ne provient pas de BioAccord, mais je vais exécuter rapidement un exemple pédagogique pour une fonctionnalité de JMP Pro appelée « Explorateur de données fonctionnelles ». Imaginez un bioréacteur très simple avec 20 analyses différentes et une analyse de la turbidité au fil du temps. Nous cherchons à comprendre l'évolution de certaines de ces variables ; nous avons peut-être réalisé un plan d'expériences pour le pH et la température. Ces analyses sont réalisées dans différentes conditions de procédé. Vous pouvez voir les lignes en surbrillance bouger, ce qui indique un plan d'expériences. Je vais lancer l'Explorateur de données fonctionnelles, et c'est vraiment génial. Il va analyser toutes ces courbes et utiliser des modèles d'ondelettes pour tenter de décrire une grande partie de la variabilité.
J'ai réduit ce sujet à trois, mais vous pouvez laisser JMP déterminer où il doit être placé. JMP Pro détermine les composantes principales et vous fournit un profileur qui montre comment ces composantes principales affectent la forme du processus. Et voici la conclusion : nous pouvons maintenant voir comment ces variables supplémentaires affectent la forme. C'est une sorte d'introduction à l'explorateur de données fonctionnelles, où nous pouvons voir comment les variables supplémentaires affectent la forme. Je vais m'arrêter ici et laisser la parole à mon ami Ben, qui fait un excellent travail de synthèse.
Je m'appelle Ben Barroso-Ingham. Je suis ingénieur système chez JMP et je participe à ce projet grâce à ma solide expérience des bioprocédés. Je me concentre sur le module complémentaire Waters qui nous permet d'obtenir un grand nombre d'analytes dans un format structuré. Nous travaillons souvent avec des plans d'expérience où nous modifions ces facteurs et ces conditions. Nous voulons observer l'évolution de ces analytes et comment.
Le problème, c'est que si l'on prend l'exemple des nombreux analytes produits par l'équipement, on pourrait en analyser plus de 70. Si l'on adopte un processus très manuel, par exemple en utilisant l'un de nos facteurs de délimitation des expériences, on peut observer ce qui se passe lorsque l'on passe d'un réglage bas à un réglage élevé de ces facteurs et voir si la forme de l'analyte évolue au fil du temps.
Pour ceux qui ne changent pas, nous ne les considérons peut-être pas comme importants. Pour ceux qui changent, ce changement est dû à nos facteurs. Il a peut-être une signification biologique importante. Il peut s'agir d'un élément que nous pourrions intrinsèquement associer à une caractéristique de production importante à plus grande échelle, un élément que nous souhaitons surveiller.
Faire cela à l'œil nu est très long. Avec plus de 70 analytes, il faudra des semaines pour les analyser. J'ai vu cet ensemble de données et j'ai immédiatement réfléchi aux fonctionnalités de JMP Rows avec l'exploration fonctionnelle des données. C'est un moyen très rapide d'examiner les formes, de trouver cette liste et de réduire les changements les plus importants du processus.
Ce que je vais faire, c'est atteindre l'objectif final. Avec autant d'analytes, je recherche deux outils. Premièrement, je veux une liste restreinte des analytes qui ont changé lorsqu'un facteur a été modifié. Deuxièmement, nous voulons simplement examiner ces analytes et leur évolution en termes de forme. Que se passe-t-il lorsque nous modifions les paramètres de ces facteurs au cours du processus ?
Avec JMP Up, nous obtenons un résultat similaire à celui-ci : tous les facteurs de ddE sont affichés en bas. Dans ce cas, le taux de superposition des surfaces, les concentrations de tampon, les interactions de ces effets, puis les analytes qui ont été significativement affectés par ces facteurs. J'ai plus de 70 analytes. Vous pouvez voir ici une liste restreinte indiquant l'ampleur des modifications de forme au cours du processus.
Je pourrais, par exemple, examiner le glucose. Lorsque le taux de recouvrement d'air change, la forme change. On peut survoler et constater que la forme a effectivement changé. On pourrait peut-être examiner l'acide isocitrique. On constate qu'il est affecté à la fois par la concentration du tampon et par le taux de recouvrement d'air.
L'utilisation de l'EDF permet notamment d'obtenir ce type d'analyse et de visualisation, similaire à un graphique log-worth, dans une méthode standard des moindres carrés, pour identifier les facteurs importants. Dans ce cas, il s'agit de la modification de l'amyloïde. En complément, nous pouvons également utiliser un plan d'expérience fonctionnel. Nous connaissons probablement très bien l'outil de profilage. Un profileur permet d'observer les formes et l'évolution temporelle d'un phénomène.
Dans ce cas, j'ai un analyte. Il s'agit d'un acide 2-hydroxyglutarique dont la forme évolue au fil du temps dans des conditions données. À quoi ressemble-t-il lorsque je modifie le taux de superposition ou la concentration du tampon ? Quel est l'effet sur le profil ? Je peux facilement associer cela à la visualisation que j'ai réalisée ici, et je peux me dire : « Voilà, ma glycémie a changé à cause du taux de superposition. »
Je pourrais filtrer une liste de tous les analytes et les afficher ici. J'observe maintenant le glucose. Je peux voir l'impact de mon taux de recouvrement d'air sur ce processus. Je peux également voir quel effet est sans effet. Lorsque je modifie la concentration du tampon, cela n'a aucun effet sur mon glucose.
Le fonctionnement est très similaire à celui que j'ai décrit : nous observons visuellement la modification de forme. JMP Pro utilise les scores FPC, une méthode quantitative de mesure de l'ampleur de la modification d'une forme. Un score FPC de 0, qui passe soudainement à 10, indique une modification de forme. Nous pouvons utiliser JMP et exploiter sa capacité à générer ces scores pour obtenir rapidement une liste des modifications de forme et une idée de ce qui a été affecté lorsque nous avons de nombreux analytes à analyser.
Le principe est le suivant : pour chaque analyte provenant, par exemple, de l'eau, nous utilisons Functional Data Explorer pour ajuster ces formes. Nous extrayons ces scores, la base des scores de forme. Ensuite, nous procédons comme avec un DoE standard : les termes DoE utilisés sont-ils liés aux scores FPC ? Les modifient-ils ? Y a-t-il un effet significatif ?
À titre d'exemple rapide, je viens de choisir l'un des analytes étudiés pour ce bioréacteur. Je vais vous montrer que l'objectif final d'une analyse en flux continu (FDE) est d'ajouter une droite d'ajustement à chaque bioréacteur du processus. Chaque bioréacteur est ajusté au plus près des données issues de ce processus.
Ces valeurs sont ensuite converties en scores FPC. Pour chaque bioréacteur, le score de forme indiqué est de 0, et celui de forme indiqué est de 100 dans ce processus, ou quel qu'il soit. Nous pouvons consulter les résumés de fonctions : le score FPC du premier bioréacteur est de -6 000. L'autre est de 13 000 pour le bioréacteur 2. Il y a une différence de forme.
Nous utilisons ensuite les DoE pour établir un lien et déterminer si cette forme est due aux facteurs utilisés. Par défaut, lorsque nous exécutons un DoE fonctionnel, nous testons si le terme a un effet significatif sur ce FPC. Lorsque je regarde le FPC 1 de cet indicateur et que j'exécute un modèle, un DoE fonctionnel, il me dit qu'il y a effectivement un effet significatif. Le taux de recouvrement de l'air modifie ce score. Ce n'est pas seulement la forme qui change, mais le changement réel est causé par l'un de nos facteurs DoE.
C'est essentiellement ce que j'ai fait au début du processus. Ce tableau, je le fais à chaque fois : je collecte toutes les informations sur les termes actifs dans ce processus, puis je les visualise et je constate qu'ils existent, que s'ils sont présents, ils ont une importance significative. Ensuite, nous obtenons automatiquement une formule de prédiction qui nous permet d'observer, comme je l'ai déjà montré, les effets de chaque facteur sur la forme de chaque analyte.
Toutes ces informations sont collectées pour chaque analyte du processus afin de constituer l'outil final présenté, en examinant une visualisation et le profil de l'outil. En fin de compte, cela permet d'identifier très rapidement les modifications des analytes et de déterminer où ces modifications de facteurs ont entraîné une altération des analytes susceptible d'avoir un impact sur le processus de production.
Nous observons peut-être un changement inattendu dans la relation entre les analytes. Un facteur clé a peut-être modifié l'un de nos analytes, modifiant ainsi nos procédés de production. Cet outil peut nous aider à analyser cela. Le journal, je vais le dire, pourrait être intéressant. Il sera disponible si cela vous intéresse, et vous pourrez y découvrir le processus, ainsi que des détails supplémentaires.
Merci beaucoup. Cet ensemble de données est vraiment riche et contient beaucoup de choses intéressantes. J'aimerais ajouter quelques éléments supplémentaires à notre flux de travail. Nous avons vu comment le module complémentaire Waters permet d'assembler les données de l'instrument et de les présenter sous un format adapté à l'analyse et à JMP. Nous avons également vu quelques méthodes simples pour créer de beaux graphiques et commencer à raconter une histoire, à comprendre ce qui se passe et à identifier les différentes relations entre les variables.
Ben nous a ensuite présenté une approche plus fonctionnelle des courbes, que j'aimerais approfondir encore davantage, notamment en ce qui concerne les relations potentielles, notamment entre les facteurs du domaine d'expérience et tout ce que nous mesurons. Pour conclure, je souhaitais présenter quelques éléments supplémentaires que je trouve extrêmement puissants dans le cadre JMP et qui pourraient s'avérer très utiles pour comprendre l'évolution du système et prendre des décisions clés, par exemple en modifiant certains facteurs ou en réalisant des prévisions, et éventuellement en interdisant certains points clés du processus.
Commençons par… Voici le tableau issu de l'analyse de Waters. Un point important que je voulais souligner, et qui constitue mon premier sujet principal, est le nombre de lignes dans ce tableau : 120. Notez également la variable de regroupement : le bioréacteur. Les 15 premières lignes que je viens de surligner proviennent toutes du premier bioréacteur. C'est ce qu'on appelle en statistique un plan en parcelles divisées, car les facteurs du degré d'expérience (DdE), ici, sont le taux de recouvrement d'air et le taux d'aspersion au-dessus de la concentration.
Elles sont constantes sur l'ensemble du bioréacteur. Elles sont fixées pour toute la durée, et les 15 points correspondent à 15 jours. On pourrait aussi l'envisager sous l'angle des séries chronologiques. C'est ce que Ben voulait dire avec les courbes. Mais d'un point de vue purement expérimental, il faut être prudent quant à la structure du plan lors de la modélisation statistique.
JMP est particulièrement performant et, comme le veut la tradition SAS depuis de nombreuses années, nous utilisons ce que l'on appelle un modèle mixte. Il s'agit d'un modèle à effets fixes et aléatoires. Nous n'avons pas le temps aujourd'hui d'approfondir la théorie des modèles mixtes, mais l'essentiel est que le bioréacteur est notre modèle mixte, à effets aléatoires, notre scénario dit « parcelle entière dans une parcelle divisée », également appelé facteur difficile à modifier dans nos plateformes DoE.
Le concept est le suivant : si nous voulons tirer des conclusions, par exemple des inférences causales, sur ces facteurs du domaine d'expérience, il est essentiel d'utiliser un modèle mixte afin de garantir que les conclusions statistiques reflètent correctement le plan expérimental. C'est simple. Mais il y a un piège facile à éviter. Imaginons que vous ignoriez cela et que vous commenciez par exemple une simple ANOVA sur les facteurs du domaine d'expérience par rapport à un résultat plus strict ou tout autre résultat pertinent, et que vous réalisiez une ANOVA unidirectionnelle naïve, par exemple, ou factorielle.
Les inférences qui en découlent sont statistiquement biaisées, car on n'a pas tenu compte du fait que tous ces groupes de mesures sont corrélés ou regroupés, car ils se produisent dans le même bioréacteur. La meilleure façon de gérer ce problème est d'utiliser le modèle mixte. Encore une fois, c'est un sujet assez complexe, mais nous allons nous contenter d'une approche très simple aujourd'hui.
Pour plus d'informations, il existe un excellent livre intitulé JMP pour les modèles mixtes, que je recommande si vous souhaitez vraiment vous y intéresser. Il est très pratique et, une fois qu'on commence à le constater, les modèles mixtes ont tendance à surgir partout, car les données et les expériences ne se résument pas aux observations indépendantes classiques que nous supposons en statistique de base. Il y a généralement des facteurs de clustering, comme ici avec le bioréacteur.
Pour configurer cela, partons d'une idée très simple : un modèle mixte et JMP. Vous pouvez l'intégrer dans JMP ou JMP Pro. Prenons la version Pro. La plateforme Pro offre quelques fonctionnalités supplémentaires. Nous allons ajuster le modèle. Modélisons plus précisément comme réponse, puis nous intégrons les facteurs que nous voulons utiliser comme effets fixes. Ajoutons ensuite des termes factoriels. Nous allons traiter tous les effets principaux, puis toutes les interactions bidirectionnelles.
Voici l'essentiel. Pour passer en mode modèle mixte, choisissez la personnalité du modèle mixte. Notez que cela déclenche ces onglets supplémentaires. Il existe deux types de modèles mixtes : celui que nous allons utiliser aujourd'hui, qui utilise des effets aléatoires, et une autre classe, qui utilise des mesures répétées avec différentes structures. Nous n'aborderons pas ce dernier type aujourd'hui, mais vous comprendrez que c'est là que réside une partie de la complexité.
Pour l'instant, utilisons le modèle mixte le plus simple possible, adapté à une configuration en parcelles divisées comme celle-ci. Prenons notre bioréacteur, dont j'ai défini une variable nominale et non continue, et ajoutons-le comme effet aléatoire. Nous disposons de trois effets fixes, ou facteurs DoE, ainsi que de leurs interactions, et de cet effet aléatoire. C'est la configuration idéale pour toute modélisation statistique de données de ce type.
Exécutons ceci. L'exécution est rapide. Pour vous donner une idée des résultats, vous pouvez commencer à le traiter comme une analyse de variance, mais vous remarquerez des éléments de sortie supplémentaires. Par exemple, nous obtenons ici une estimation de la composante de variance du bioréacteur, qui est négative. C'est assez inhabituel, mais cela suggère en réalité un scénario concurrentiel au sein de chaque bioréacteur.
Cela peut sembler logique, car des nutriments sont consommés, et si l'un augmente, l'autre est susceptible de diminuer. Il s'agit d'un scénario fermé fixe, ce qui pourrait être logique. Généralement, ce sera positif si les mesures sont corrélées positivement. C'est une façon de mesurer la corrélation au sein d'un bioréacteur. Ensuite, l'accent sera généralement mis sur les facteurs du domaine d'expérience. Comme ici, nous pouvons commencer à examiner les tests, et dans ce cas, nous n'observons aucune différence significative pour le modèle le plus strict, uniquement pour ce modèle simple.
Mais ce n'est qu'un point de départ. Vous souhaiterez probablement ajouter des covariables supplémentaires et ajuster un modèle plus complet tenant compte du système. Mais aujourd'hui, je voulais simplement souligner l'importance d'utiliser un modèle mixte dans des cas comme celui-ci, où l'on utilise un split plot ou des mesures répétées dans un mécanisme de blocage.
Voilà la première analyse que je souhaite vous présenter. Passons maintenant à un concept plus précis de modélisation prédictive. Vous remarquerez que chaque segment abordé ici répond à des questions légèrement différentes. C'est là toute la puissance et la flexibilité de JMP, et cet ensemble de données est très riche et offre de nombreuses possibilités de réponse.
Nous allons maintenant passer des facteurs de DoE à une idée plus prédictive, et posons une idée de base. Imaginons que nous essayions de prédire. Supposons que nous menions cette expérience en direct, que nous venions de terminer le 13e jour et que nous souhaitions prédire ce qui se passera demain, le 14e jour, mais que nous ne disposions que des données jusqu'à aujourd'hui. Comment pourrions-nous résoudre un tel problème de prédiction ?
La première étape clé de JMP consiste à manipuler les données et à les fractionner. Nous créons une série chronologique pour chaque bioréacteur, puis, en utilisant des tableaux, nous allons fractionner les données. Vous pouvez maintenant créer un tableau large, comme celui-ci, avec seulement huit lignes, une par bioréacteur, et toutes les mesures sont réparties dans différentes colonnes.
Vous pouvez voir ici les tableaux plus précis, avec une colonne par jour, et il en va de même pour toutes les autres variables mesurées. Dans la terminologie des séries chronologiques, on parle de variables de retard. Nous disposons maintenant d'un tableau large, adapté au problème de modélisation prédictive. Avec seulement huit lignes, il faut être très prudent. Il est très facile de sur-ajuster les données comme celles-ci.
En pratique, vous disposerez probablement de beaucoup plus de données que celles présentées ici. Pour ce petit exemple, examinons rapidement quelques points afin de vous montrer comment je recommande de réaliser une modélisation prédictive. Il existe de nombreuses façons de procéder, des séries chronologiques classiques aux autres plateformes prédictives de JMP. Je souhaite vous présenter ce que je considère comme la méthode de prédiction la plus moderne et la plus performante. Cette méthode est le fruit de nombreuses années de participation aux compétitions Kaggle, qui sont généralement toutes prédictives par nature. On apprend parfois à ses dépens en participant à toutes ces compétitions.
Ce que je vais vous montrer aujourd'hui me semble proche, voire même parfaitement, des meilleures pratiques en matière de prédiction. La première étape consiste généralement à configurer des replis. L'idée est de réaliser une validation croisée à K replis, qui consiste à prendre une fraction des lignes de notre table et à les mettre de côté. Ensuite, nous entraînerons un modèle sur une partie des données, puis le testerons sur un autre ensemble.
Comme vous le savez, JMP utilise ce type de fonctionnalité depuis de nombreuses années, même si nous utilisions traditionnellement une séparation en trois étapes avec un test de validation d'apprentissage. Ici, nous allons simplement effectuer une série de séparations en deux étapes, appelées apprentissage et validation. Il faut faire attention aux fuites et éviter que l'algorithme ne prenne en compte les données retenues pendant l'apprentissage, car cela risquerait de biaiser les résultats.
L'idée avec K fold est de prendre cette variable appelée fold A. Nous n'avons que huit lignes. Celle-ci est configurée pour effectuer un quintuplement, où nous attribuons des nombres aléatoires de 1 à 5. Cependant, comme il n'y en a que huit, il y a quelques endroits où une seule ligne est retenue, et les trois autres en ont deux.
Il serait peut-être judicieux de procéder ainsi… Un peu plus simple dans ce cas serait d'utiliser un apprentissage en quatre étapes : il faudrait analyser deux lignes à la fois, puis les parcourir et ajuster le modèle quatre fois. C'est le scénario d'entraînement de base que je recommande, même pour de petits ensembles de données comme celui-ci, surtout parce qu'il faut se protéger très soigneusement et rigoureusement contre le surapprentissage des données, notamment parce que nous allons utiliser ce que je considère comme les deux méthodes les plus puissantes, les arbres boostés, implémentés dans le module complémentaire XGBoost, puis ajuster un réseau neuronal profond moderne à l'aide du module complémentaire d'apprentissage profond Torch. Ces deux modules complémentaires sont disponibles sur la plateforme JMP.
Commençons par examiner XGBoost et sa configuration une fois le module installé. Il devient alors une option du menu. Vous pouvez utiliser cette option pour créer des plis en K. Je l'ai déjà fait, passons donc directement à la plateforme.
Ici, la configuration est similaire à la précédente, mais nous réfléchissons à nouveau à la prédiction. Nous avons des variables de regroupement ici, alors développons-les. Imaginons que nous souhaitions prédire le titre 14, qui est notre Y, et nous avons maintenant de nombreuses options d'entrée. Bien sûr, nous y intégrons nos facteurs DoE, puis prenons-le comme un modèle de décalage très basique. Prenons les valeurs précédentes du titre, dont nous avons 13, et insérons-les comme X. Il existe donc plus de 1 000 prédicteurs potentiels supplémentaires, mais, pour illustrer, restons simples.
Si vous disposez de plus de données, il serait certainement judicieux de les inclure. Vous pourriez les inclure dans votre modèle. Mais avec seulement huit lignes, nous risquons d'avoir des ennuis si nous commençons à trop les amplifier. Généralement, ces variables de retard sont des prédicteurs très puissants, comme vous pouvez l'imaginer. Si vous savez… Si vous savez ce qui s'est passé aujourd'hui, ce sera probablement similaire. Si vous examinez la trajectoire précédente, ces variables sont généralement de très bons prédicteurs. Nous voulons également les comparer à nos facteurs de degré d'expérience. Ensuite, nous introduisons une variable de validation croisée. Nous pouvons utiliser… Utilisons notre variable de repli A. Nous allons faire un quintuple. Encore une fois, vous pourriez faire un quadruple. Cela n'a pas beaucoup d'importance.
Il faut être prudent avec des données aussi petites, mais ne nous attardons pas trop là-dessus. Voici le paramètre de base pour XGBoost. Il existe de nombreux hyperparamètres réglables. Nous n'avons pas le temps de le faire aujourd'hui. Exécutons simplement le modèle par défaut. Souvent, cela fonctionne plutôt bien, puis nous verrons ce qui se passe. Le modèle vient d'être exécuté cinq fois.
Regardez ce qui s'est passé ici. Il s'agit de ce qu'on appelle la perte d'apprentissage. Notez qu'elle a diminué puis augmenté, ce qui est un signe avant-coureur de surapprentissage des données après la cinquième ou sixième itération. Il ne faut pas utiliser ce modèle en pratique. Il faut dire : « Arrêtez ». On peut recommencer. Arrêtons-le après cinq. C'est l'une des solutions les plus simples. »
Une autre idée, si vous souhaitez aller plus loin, consiste à régulariser davantage le modèle ou à effectuer d'autres ajustements pour le rendre plus précis. L'objectif est de prédire le jour 14. Notez que les données d'entraînement sont parfaitement ajustées, ce qui n'est peut-être pas si surprenant. Il n'y a que quelques lignes, mais l'ensemble de validation correspond aux prédictions dites « incomplètes ».
Ces données indiquent le comportement probable du modèle sur les données futures. On voit que le modèle commence à s'y adapter. Il est loin d'être parfait, sauf pour notre carré de 0,3, avec une corrélation de 0,65. Le modèle prend un peu de vitesse, je dirais, et je pense qu'avec quelques ajustements, on peut faire mieux. Mais encore une fois, avec seulement huit lignes, il faut être très prudent. Je le montre simplement à titre d'illustration. Il faut généralement disposer de davantage de données pour obtenir un modèle performant et exploitable ultérieurement.
XGBoost propose également des fonctionnalités supplémentaires très utiles pour vous aider à interpréter, par exemple, l'importance de ces variables. Nous constatons ici que notre taux de superposition d'air s'avère être l'un de nos meilleurs prédicteurs, même en cas de décalage du titre lui-même. C'est intéressant, car cela nous permet de commencer à tirer des conclusions indirectes sur nos facteurs de degré d'expérience. Mais encore une fois, nous nous concentrons ici sur la prédiction, et non sur l'inférence statistique directe.
Pour un modèle alternatif, créons un réseau neuronal avec le module complémentaire Torch. La configuration est identique, il vous faudra donc… Installer le module complémentaire, puis lancer la plateforme. Nous allons donc utiliser exactement les mêmes variables dans chaque emplacement. Nous voulons prédire le jour 14 en utilisant nos facteurs DoE et nos titres de retard, puis plier A. Là encore, nous allons utiliser le modèle quintuple. Exécutons simplement la valeur par défaut. Le modèle perceptron multicouche est un modèle à deux couches. On voit ici que ce modèle ne fonctionne pas très bien. En fait, il a un RSquare négatif. XGBoost, prêt à l'emploi, fonctionne un peu mieux, je dirais.
Mais j'ai constaté qu'avec un peu d'optimisation, ils ont tendance à… Leurs performances sont souvent similaires et ils se complètent plutôt bien. Si vous voulez vraiment obtenir les meilleures prédictions, une astuce consiste à combiner les deux modèles, ce qui est possible en sauvegardant les prédictions complètes et en faisant la moyenne. C'est une astuce classique. On retrouve ce genre de méthode dans presque toutes les compétitions Kaggle. C'est ce que les utilisateurs ont tendance à faire pour optimiser leurs performances.
Quoi qu'il en soit, pour moi, JMP Pro offre une approche très puissante et flexible. On peut ajouter des prédicteurs. Ces modèles s'ajustent très rapidement, et cela permet de répondre à des questions très pratiques, par exemple : vous approchez de la fin d'un lot et vous souhaitez décider si vous devez poursuivre le traitement le lendemain. Pourquoi ne pas l'exécuter très rapidement, observer les prévisions pour le lendemain et prendre une décision en conséquence, plutôt que d'attendre ou d'utiliser des règles obsolètes ? Je trouve la puissance et la flexibilité de ces modèles prédictifs modernes vraiment convaincantes.
Merci beaucoup de votre écoute et j'espère que vous y trouverez une explication complète. Nous avons beaucoup apprécié collaborer sur cet exemple. Nous venons tous d'horizons différents. Ce projet a été très stimulant et nous voyons un potentiel immense pour aller de l'avant. N'hésitez pas à nous contacter pour toute question sur ce que nous avons présenté aujourd'hui. Nous serons ravis d'échanger avec vous et de poursuivre le dialogue.
