手動で入力されたデータは通常、きれいで一貫性がありません。データがテキスト入力フィールドではなく複数選択フィールドで入力されている場合でも、ソース間で同じカテゴリーを使用していない可能性があるデータと組み合わせると、追加の作業が必要になることがあります。同じカテゴリのスペルが異なったり、省略形が異なったり、大文字が違ったり、誤って入力されたりして、モデルで使用されているカテゴリが増えて無効な分析になることがあります。
たとえば、次の顧客フィールドを考えてみましょう。 「シリンダーバンド」データそれはUCI機械学習研究所(もともとBob Evans、RR Donnelly&Sonsから)からダウンロードすることができます。
このデータをインポートすると、83の一意の "得意先"という値があることがわかります。実際の顧客はそれよりもずっと少ないのです - それはただ同じ顧客の複数のコーディングがあるということです。たとえば、顧客のAbbey Pressは、「ABBEY」、「ABBEYPRESS」、および「ABBYPRESS」の3つの方法でコード化されています。



JMPの初期のバージョンでは、値を書き換えるためにトリックを使いました。たとえば、「ABBEYPRESS」をクリップボードにコピーし、ヒストグラムを使用して「ABBEY」に対応する行を選択し、「Customer」列を選択して貼り付けると、各「ABBEY」が「ABBEYPRESS」に変わります。
Recodeコマンドが使用可能になったら、「ABBEYPRESS」をコピーして、Recodeダイアログの「ABBEY」と「ABBYPRESS」の他のrecode値に貼り付けるだけです。
あなたがあまりにも多くのカテゴリーを持っていないならば、これはすべてうまくいきます、しかしあなたが何百ものカテゴリーを持っているならどうでしょうか?これらのコピーやペーストをすべて実行するのは非常に面倒です。
JMP 12の新しいRecode機能では、記録がはるかに優れているという2つの非常に重要な方法があります。
まず、すべての再コード化値を選択し、右クリックして選択したカテゴリを選択するだけで、グループ全体を実行できます。元の値が分離されていても、これらはすべてまとめてグループとして表示されます。これ以上コピー&ペーストする必要はありません。選択して選択するだけで、結果が表示されるグループになります。


しかし、新しいRecodeの本当に素晴らしい機能は、似たような値のグループを自動的に見つけることができる機能です。


この例では、フィーチャーは自動的に16のグループを形成しました。結果のグループに必要なすべてのカテゴリが含まれているかどうかを確認できますが、それほど多くはありません。
どの値を組み合わせて決定するのですか?カテゴリラベルの各ペアを調べて、2つの文字列間の編集距離を決定します。Levenshtein距離とも呼ばれ、ある文字列から別の文字列に変換するための編集操作の最小数です。「類似値のグループ化」コマンドを実行すると、この距離を計算するときに考慮する変更の種類とそれを一致と呼ぶための基準を選択するためのダイアログが表示されます。このダイアログのデフォルトの選択は通常うまくいきます。
「ECKERD」のように、いくつかのグループは完璧に行われました。

「ABBEY」は「ABBEYPRESS」とは大きく異なるため、結合する基準を満たしていません。そのためには、「Group」を選択して右クリックする必要があります。


同様に、次の2つのカテゴリでは、「CASUAL」を表す「CAS」の省略形を捉えていません。

そして、それは6つの「HANOVERHOUSES」のうちの5つだけを得ました:



結果を確認する必要がありますが、自動化された機能がそれらのほとんどを取得します。
再コーディング後、カテゴリ数を83から56に減らしました。
より綿密な検査により、他の記録が必要であることが明らかになりました。実際、行503の後のエントリは大文字から小文字に切り替わったようです。「小文字に変換」というメニュー項目をControlキーを押しながらクリックすると、それらすべてを修正できます。



クリーンアップが必要な大規模なデータテーブルに移動するときは、「グループの類似値」などの自動化された機能、およびコピーや複数のペーストの代わりに選択やグループ化を行うなどの改善されたユーザーインターフェイスフローがあります。
(新しいRecode機能、以前のブログ記事で紹介されています、 James Preissによって実装されました。)
注意: これはの一部です大きな統計 John Sallによる一連のブログ投稿。彼のすべてを読むビッグ統計の投稿 。
エミル・フリードマン書きました:
これは人生をずっと楽にするでしょう。ありがとう。
列名がほぼ同じである複数のファイルを連結するとき(テーブル - >連結)にも同様の問題が発生します。私は同じメトリックの代替バージョンを探し、欠けていない方を返す列式を書くことにしました。これはコピー/貼り付けよりもはるかに安全で、私にドキュメンテーションの証跡を与えてくれます。そのようなことが将来のバージョンに組み込まれるのではないかと思います。