大数据基准测试

性能基准测试是一项系统性能测量工作，根据目前的项目实际，在这里做了一些新的定义。基准测试在项目中与一般性能测试工作的主要区别在于其更短的回归周期与直观的趋势分析，并同时为混合业务性能场景的脚本线程配比计算提供依据。一般的性能测试往往只在版本计划中或遭遇系统性能问题时进行，而基准测试在日常中进行，特别是在发生重大变更事件（例如：系统配置、环境发生变更）之前与之后的测试，让测试结果数据与一般的性能测试结果数据更有实质上的参考意义。因为，当为系统创建性能基准后，基准数据作为性能指标的参照物，可用于判断任意一项变更为系统带来的具体影响。例如：某项配置优化后能够为系统带来的性能提升是多少、系统某项操作历史数据的增长与性能响应的关系、系统环境的变更对系统性能产生的影响。而且实施该项工作并不复杂。

　　1)  了解系统性能基准作为参照物（性能问题发生后的测试很难了解系统性能基准）

　　2)  识别系统或环境的配置变更对性能响应带来的影响

　　3)  为系统优化前后的性能提升/下降提供参考指标

　　4)  观察系统的整体性能趋势与拐点发生，及早识别系统性能风险

　　1) 测试周期：基准测试每天定时自动化执行，性能测试需要事件驱动执行。

　　2)  测试脚本：基准测试的性能测试脚本仅仅包含所关注业务的必须的HTTP请求，不进行用户行为模拟；性能测试的测试脚本包含关键业务的所有上下文请求，并进行用户行为的模拟。

　　3)  测试策略：基准测试策略固定，几乎不允许修改（否则将与过去所有历史数据发生断层）；性能测试需要根据不断变化的性能需求进行修改。

　　4)  脚本维护：基准测试的测试脚本仅在访问链接发生变更时维护，或者POST请求参数发生变更时维护，GET请求几乎不需要维护；性能测试脚本在每轮测试中一般都需要重新开发。

　　5) 结果用途：基准测试结果数据仅用于作为系统性能下降/提升的衡量指标，性能测试结果脚本可用于预测用户性能体验、系统性能风险。

 

HBase PE（PerformanceEvaluation）

场景（测试用例）：scan、randomRead、randomWrite、……

参数：线程数、单线程测试行数/测试数据的大小

指标：所有线程的最大持续时间、平均持续时间

缺陷：不会统计所有线程的平均延迟和总的吞吐

参考：https://blog.csdn.net/maoreyou/article/details/80679353　　；　　https://blog.csdn.net/bryce123phy/article/details/77905538

 

HDFS PE（PerformanceEvaluation）

工具：hadoop-test-2.6.0-mr1-cdh5.16.1.jar、hadoop-examples-2.6.0-mr1-cdh5.16.1.jar

场景（测试用例）：TestDFSIO (read/write/clean)、NNBench、MRBench、WordCount……

参数：

指标：

缺陷：

参考：