Text data presents special challenges to the data analyst. A new training course helps to guide text exploration and analysis.文本数据对数据分析师提出了特殊的挑战。 新的培训课程有助于指导文本探索和分析。
文本是一种常见的数据形式,但它对数据分析师提出了不同寻常的挑战。
首先,文本有多种文件格式,文本文件中的字符可能使用多种不同编码中的一种。 必须将各个文件导入到单个 JMP 数据表中以进行处理和分析。
二、文字是非结构化数据. 它的显示方式与测量(连续变量)、计数或类别不同。 文本数据的单个值称为文档. 此值可能是单个句子、几段或整本书。 该值可能是文本或电子邮件消息、博客文章、餐厅评论或现场保修报告,仅举几种可能性。 文档样本称为语料库. JMP 将整个语料库存储在具有字符数据类型和非结构化文本建模类型的单个数据列中。 每个文档在数据列中占据一行。
第三,文字是异构的! 一份文档可能包含多种信息,例如人名、地名、产品、故障或功能;电话号码;日期和时间;年龄;性别;货币;社会安全号码、产品编号或其他任何信息。 一份文件与另一份文件的信息内容可能不一致。 许多内容可能根本没有提供信息或有用。 信息是如何找到的? 如何判断是否是信息?
第四,文字凌乱! 相比之下,结构化数据可以很容易地重新编码、转换或合并。 文档是如何重新编码的? 如何处理首字母缩写词、缩写词、同义词、标点符号和大小写不一致以及拼写错误?
我们开发了关于在 JMP Pro 14 中使用文本资源管理器探索和分析文本数据的新培训. (请注意,课程的前半部分只需要 JMP 14。)
文本数据分析的大部分工作是关于策展名单条款. 培训中的大部分时间都集中在从原始语料库开始到精选术语列表结束的工作流程上。 此列表成为后续分析的核心,因此列表的质量很重要。 列表完成后,可以导出到原始表或以新的结构化变量的形式作为新数据表。 这些新变量可以单独探索,也可以与任何其他 JMP 平台的其他结构化变量结合使用。
JMP Pro 中的文本浏览器提供了三种强大的多变量方法,用于从术语列表中提取更多信息。 潜在类分析发现具有共同术语模式的文档集群。 潜在语义分析发现语料库中的隐含主题。 判别分析将文档评分到另一个变量提供的类别。
您是否有等待分析的文本数据? 您是否需要通过最佳实践获得有关使用文本资源管理器的帮助? 这新课程将在下一次作为会前培训首映JMP 发现峰会2018 年 10 月 22 日至 23 日,北卡罗来纳州卡里,SAS 总部。 到时候那里见!