著者
オブジェクティブ・エクスペリメンツ社長、ウィリアム・D・カッペル氏
ジュリー・キッド、US Synthetic 社、材料エンジニア
Heather Schaefer、US Synthetic 社、材料エンジニア
導入
通常業務の過程で、興味深い問題に遭遇することがあります。それが私たちの場合です。計画された実験を使用して合成ダイヤモンドを配合しているときに、反応を測定できなかった試行がいくつかありました。それらは、測定システムの検出限界を下回っていたのです。
測定ができるようになるまで係数設定を変更することもできましたが、必要がない限りその費用を追加したくありませんでした。
最初は、測定できないものすべてに「ゼロ」を割り当てました。しかし、私たちはこれに少し不安を感じました。結局のところ、私たちは JMP に嘘をついているのですから、それはやりたくないことです。
私たちの冒険は正直さを求める気持ちから始まりました。
https://www.youtube.com/watch?v=Zf0REURPFU0
冒険
回答のうち 2 つは、測定システムの検出限界を下回っていました。これらの回答についてわかっていることは、検出限界とゼロの間のどこかにあるということだけでした。範囲内にあることだけがわかっているデータは、「打ち切りデータ」と呼ばれます。信頼性分析で打ち切りデータを処理する方法はわかっていましたが、計画された実験でどのように処理すればよいかはわかりませんでした。
私たちは、ビルに何をすべきか知っているか尋ねました。彼は、最尤推定法を使うことを提案しましたが、JMP でこれをどう実行すればよいかわかりませんでした。彼はブラッド ジョーンズ (JMP) に連絡し、ブラッドはパラメトリック生存時間プラットフォームを彼に紹介しました。それはまさに私たちが必要としていることを実行するように設計されたものではありませんでしたが、答えを得るために使用できました。
私たちは、学んだこと、つまりさまざまな分析を比較し、JMP を使用して分析を実行する方法などを共有したいと思っていましたが、私たちのプロジェクトは独占的なものでした。学んだことは秘密にしておくしかないと思われましたが、ヘザーが素晴らしいアイデアを思いつきました。それは、チョコレート チップ クッキーを焼いているように見せかけるというものでした。ヘザーとジュリーは、秘密を漏らさない、私たちの研究に忠実な「クッキー」データセットを作成することに成功しました。
すべてのアナロジーと同様、クッキーのアナロジーは少々不自然に思えるかもしれません。しかし、我慢して読んでいただければ、私たちが実際に直面した問題を理解し、仕事で同じ種類の問題が起こった場合の対処法を学ぶことができます。
簡単な例え：クッキーを焼く
実際にチョコレート チップ クッキーを焼いているとします。目標は、レシピを使用してできるだけ薄いクッキーを作ることです (少し不自然に感じるかもしれないと言いましたが、実際は厚いクッキーを作ろうとしていたのです)。使用したレシピは、図 1 の古典的な Nestle Toll House クッキー レシピです。
|
図 1 – ネスレ提供のトールハウス クッキー公式レシピ。 |
私たちは、実験のために 5 つの要素を作成するために、成分を論理的にグループ化しました。要素は図 2 にリストされています。
チップス 乾燥物（小麦粉、重曹、塩） クリーム（バター、砂糖、ブラウンシュガー、バニラ） 温度 時間 |
図 2 – 要因 |
実験設計を作成するために使用した要因とレベルは次のとおりです。
要素 | タイプ | 低レベル | ハイレベル |
|---|
チップス | 混合 | 0 | 0.5 |
クリーム | 混合 | 0 | 0.5 |
ドライ | 混合 | 0 | 0.8 |
温度 | 連続 | 375 | 450 |
時間 | 連続 | 5 | 12 |
いくつかの制約もありました。これらの制約 (図 3 を参照) を考慮した実験設計の一部を図 4 に示します。
|
図3 – 制約付き設計の作成 |
|
図 4 – 実験設計の一部。 |
それからクッキーを焼きました…。
JMPを使用してデータを分析する
クッキーを焼いた後、厚さを測る必要がありました。なんと、あまり良い定規がなかったのです。1 mm 未満のものは測れませんでした。クッキーが薄いことは確かにわかりましたが、どのくらい薄いのかは正確にはわかりませんでした。検出限界は 1 mm でした。
当初、私たちは、検出限界以下の、測定できないクッキーの厚さについては、単に「ゼロ」と入力していました。クッキーがあることはわかっていたので、「ゼロ」は正しくなかったはずですが、試してみることにしました。
これらのデータは簡単に分析できました。「標準最小二乗法」パーソナリティで「モデルの適合」コマンドを使用するだけです。
検閲されたデータをどのように分析したかを理解するためには、少し背景説明が必要です。
最大尤度推定
最小二乗法はデータをモデルに当てはめる優れた手法ですが、打ち切りデータで使用するのは簡単ではありません。もう 1 つの手法である最尤推定法は、打ち切りデータで使用するのがはるかに簡単です。JMP は、「モデルの当てはめ」コマンドでさまざまな時点で最尤推定法を使用します (たとえば、「一般化線型モデル」オプションを選択した場合)。ただし、パラメトリック生存プラットフォームでは、打ち切りデータ用のオプションのみが提供されます。
私たちは、JMP に私たちが望むことを実行させるよう「誘導」する必要がありました。
パラメトリックサバイバルプラットフォーム
JMP の「パラメトリック生存」プラットフォームは、最大尤度推定を使用し、打ち切りデータを分析する機能を提供します。これは、クッキーの高さではなく「故障までの時間」の応答を処理するように設計されていますが、それを回避するのは簡単であることがわかりました。JMP が「イベントまでの時間」を尋ねたら、図 5 のように「クッキーの高さ」を選択するだけです。
ディストリビューションの選択
Parametric Survival プラットフォームでは、分布を選択する必要があります。正規分布が第一候補でしたが、利用できませんでした。正規分布を模倣する能力に優れているため、logNormal 分布を選択しました。また、高さがゼロに近かったため、正規分布では、負の高さを予測するノイズがモデル化される可能性があります (これは、クッキーでは絶対に望ましくないことです)。logNormal 分布では、この厄介な問題が回避されます。
「検閲」列の追加
表に検閲列を追加すると、どの実行に検閲データ (検出限界以下のデータ) が含まれているかを JMP に伝えることができます。検閲データは、他の測定値とは異なる方法で処理されます (ゼロであるかのように処理されるのではなく、より洗練された方法で処理されます)。
レシピの最適化: 中央値と平均値
パラメトリック生存プラットフォームのオプティマイザーは、「故障確率」を要素として扱います。これは分析には不要なので、何に設定すればよいでしょうか?
通常、応答曲面法では平均値を予測します。対数正規分布が正規分布に近似すると予想されるため、中央値は平均値にかなり近くなるはずです。「故障確率」を 0.5 に設定すれば、必要な結果が得られるはずです。図 6
|
図5 – パラメトリック生存プラットフォーム |
「失敗確率」を中央値に「固定」する方法を示します。
また、応答には常に「時間」というラベルが付けられることに注意してください。もちろん、実際には「Cookie の高さ」であることはご存じでしょう。
「望ましさ関数」を追加して、通常どおり望ましさを設定できます。また、通常どおり「望ましさの最大化」を使用して「スイートスポット」を見つけます。
等高線図を作成する場合は、予測式を保存し、「グラフ」の「等高線プロファイラー」を使用する必要があります。
|
図6 – クォンタイルプロファイラー |
結果
それで何が見つかったのでしょうか?
まず、実際のクッキーの厚さを知るために、非常に良い定規を探しました (これはかなり難しく、時間がかかりました)。次に、実際と予測のプロットを作成しました (図 7 を参照)。ノイズが除外されているため、これでは全体像はわかりません。そこで、実際と残差のプロットも作成しました (図 8 を参照)。この 2 つを見ると、結果が似ていることがわかります。残差は、異なるバイアスで同様のサイズでした。
次に、両方のモデルでスイート スポットを予測しました。両方のモデルは基本的に同じスイート スポットを予測しましたが、予測される焼き時間はわずかに異なるだけでした (図 9 および 10 を参照)。スイート スポットごとに 50 個のクッキーを焼き、結果を比較しました (図 11 を参照)。
|
図7 – 実際の曲線と予測曲線 |
|
図8 – 実測値と残差値の曲線 |
|
図9 – 打ち切りデータ分析のスイートスポット |
|
図10 – ゼロ化データ分析のスイートスポット |
2 つのスイート スポットでは、クッキーの厚さは同じになりました。両方のモデルで基本的に同じスイート スポットが見つかったため、スイート スポットを見つけるのに分析手法は重要ではありませんでした。
図 9、10、11 を詳しく見てみましょう。同じスイート スポットを予測しましたが、実際の予測は検閲モデルの方が正確でした。検閲モデル予測の信頼限界も現実に近かったです。したがって、正確な予測が必要な場合は、検閲モデルの方が適しています。
|
図11 – スイートスポットの比較 |
私たちには2つの問題がありました
- 検閲されたデータがありました。
- 負の Cookie Height を予測しない分布を使用してノイズをモデル化する必要がありました。
ゼロ化されたデータを使用したモデルでは、これらの問題のいずれも解決されませんでした。打ち切りデータを考慮したモデルでは、これらの問題の両方が考慮されました。当然の疑問は、「これらの問題の 1 つだけに対処すれば、打ち切りモデルと同じくらい良い結果が得られるだろうか?」ということです。
問題 1 をテストする簡単な方法はありませんが (JMP では正規分布の打ち切りデータを調べる方法がありません)、問題 2 を調べることはできます。一般化線形モデル プラットフォームは混合には使用できないため、簡単に使用することはできません。ただし、データの対数変換を行い、標準最小二乗法で分析することはできます。これにより、データが対数正規分布しているかのように処理されます。
このアプローチの問題点は、データをゼロにすることがうまくいかないことです。代わりに、ゼロを打ち切り範囲の平均 (0.5) に置き換えました。もちろん、 JMP にはまだ嘘をついています。比較のために、このデータを対数変換なしで分析しました。
この分析の結果は、図 12 と 13 に示されています。スイート スポットは、ゼロを使用した正規分布データの標準最小二乗法の適合と同じであることに注意してください。ただし、対数変換の 95% 信頼限界が 0.53 と 0.76 の 0.63 の予測値、および打ち切り範囲の平均の 95% 信頼限界が 0.42 と 0.93 の 0.68 の予測値は、ゼロ データ分析の予測値よりもはるかに優れています。4 つのモデルの比較は、図 14 に示されています。
|
図12 – 対数変換分析のスイートスポット |
|
図13 – 範囲平均分析のスイートスポット |
|
図14 – 3つのモデルすべてにおける実測値と残差値のプロット |
打ち切りデータ モデルと対数変換モデルの両方がかなり正確に予測していることがわかります。打ち切りモデルは少し高めに予測し、対数変換モデルは少し低く予測しました。対数正規分布を使用する必要はなかったようです。
まとめ
- 検出限界以下の応答に「ゼロ」を割り当てると、予測は不正確になりましたが、実行可能なスイートスポットが得られました。
- 検出限界以下の回答に検閲範囲の平均を割り当てると、よくそして実行可能なスイートスポットが得られました。これは一般的にはうまくいかないでしょうが、今回は幸運だったようです。
- (2)のデータセットのlog変換では、同様の注意点を伴い(2)と同様の結果が得られた。
- JMPのパラメトリック生存分析プラットフォームと打ち切りデータおよび対数正規分布を使用してノイズをモデル化する予測されたよくそして実行可能なスイートスポットを生み出した中央値. 一般的にはこれが最も効果的であると思われます。
結論
私たちの仕事では、2 つの問題に遭遇しました。
- 検閲されたデータ
- 負の値（少なくとも下限値）を回避する方法でノイズをモデル化する必要がありました。
私たちのデータにより、これらの問題を 2 つの方法で解決できました。
- パラメトリック サバイバル プラットフォームを使用して、打ち切りデータと logNormal 分布を分析します。
- 標準最小二乗法を使用して、打ち切り値を範囲の平均に置き換えたデータの対数変換を分析します。
結局のところ、正規分布はここではうまく機能し、負のクッキーの高さは予測されませんでした。
これら 2 つの方法は、検出限界以下のデータを単純にゼロにするよりも優れた予測結果を示しました。 どちらの方法でも、基本的に同じスイート スポットが見つかりました。
それで、私たちは実際に何を学んだのでしょうか?
- 不明な値にゼロを割り当てると、うまくいきました。これはおそらく運が良かったからでしょう。すべてのデータ セットでこれが機能するとは期待していません。
- 打ち切り範囲の平均を割り当てるとうまくいきましたが、これも単に運が良かっただけかもしれません。一般的にこれが良い戦略であるとは期待できません。
- JMP のパラメトリック生存プラットフォームでは、打ち切りデータとしてデータを分析できますが、この場合は打ち切り範囲の平均よりも良い結果は得られませんでした。それでも、これは将来的には最善の戦略になる可能性があります。(1) と (2) は単なる推測ですが、パラメトリック生存プラットフォームの背後にある最大尤度推定は十分に確立されています。
- 正規分布と対数正規分布の両方がうまく機能しました。
さて、私たちの冒険（と学び）を皆さんと共有しました。次はクッキーの時間です！
さらに詳しくお探しですか?
さらに詳しい情報については、次の興味深い参考資料をご覧ください。
Russell B. Millar、 「最大尤度推定と推論：R、SAS、ADMB の例付き」 、 J. Wiley and Sons、2011 年、ISBN 978-0470094822 。
翻訳元 (US Synthetic に関する情報)
http://www.ObjectiveExperiments.com (トレーニングとワークショップに関する情報)
http://www.jmp.com/ (JMP ソフトウェアに関する情報)
http://en.wikipedia.org/wiki/Censoring_(統計) (検閲についてのわかりやすい説明)
http://mathworld.wolfram.com/MinimumLikelihood.html (最大尤度推定の簡単な説明)
http://en.wikipedia.org/wiki/Chocolate_chip_cookie (チョコチップクッキーの歴史について)
著者について
Julie Kidd 氏は US Synthetic 社の材料エンジニアです。専門はセラミックおよび複合システム、法医学冶金学や故障解析を含む材料特性評価です。
Heather Schaefer は US Synthetic の材料エンジニアです。彼女の専門は、赤外線デコイフレアの開発に重点を置いた鋳造およびプレス加工されたエネルギー材料です。
両社は現在、石油・ガス産業向けに改良された合成ダイヤモンドを共同で開発している。
ビル・カッペルはオブ大統領客観的な実験。彼はコースの提供と開発を担当しています。ジュリーそして ヘザービルから実験計画法を学びました。
