2.7.4标准云听测试总结报告测试人员:***目录1引言 (3)1.1编写目的 (3)1.2背景 (3)1.3用户群 (3)1.4定义 (3)1.5 测试对象 (4)1.6 测试阶段 (4)1.7 测试工具 (4)1.8 参考资料 (4)2测试概要 (4)2.1进度回顾 (5)2.2测试执行 (5)2.3 测试用例 (5)2.3.1 功能性 (5)2.3.2 易用性 (5)3测试环境 (6)4 测试结果 (6)4.1 Bug 趋势图 (6)4.2 Bug 严重程度 (7)4.3 BUG分类统计占比 (8)5测试结论 (9)5.1功能性 (9)5.2易用性 (9)5.3可靠性 (10)5.4兼容性 (10)5.5安全性 (10)6 分析摘要 (10)6.1 建议 (10)7度量 (11)7.1 资源消耗 (11)8典型缺陷引入原因分析 (11)1引言1.1编写目的编写标准云听测试报告主要目的罗列如下:1.通过对测试结果的分析,得到对软件质量的评估2.分析测试的过程,产品,资源,信息,为以后制定测试计划提供参考3.评估测试执行和测试计划是否符合4.分析系统存在的缺陷,为修复和预防bug 提供建议1.2背景客户需求1.3用户群主要使用者:(1) 电台主播(主持人)(2) 频道负责人(3) 媒体负责人(4) 电台听众1.4定义1.出现以下缺陷,定义为致命bug (1级) :(1) 系统出现闪退、崩溃;(2) 系统无响应,处于死机状态,需要其他人工修复系统才可复原;’(3) 操作某个功能出现报错或者返回异常错误;(4) 进行某个操作(增加、修改、删除等)后,出现报错或者返回异常错误;(5) 实现功能和需求不符等;2.出现以下缺陷,定义为严重(功能)bug (2级) :(1) 当对必填字段进行校验时,未输入必输字段,出现报错或者返回异常错误(2) 系统定义不能重复的字段输入重复数据后,出现报错或者返回异常错误(3) 系统刷新加载不正常,不能正确显示;(4) 显示信息与配置信息不一致等;3.出现以下缺陷,定义为一般bug(3级):(1) 显示问题;(2) 提示问题;(3) 按钮摆放位置等;1.5 测试对象2.7.4标准云听app;2.7.4标准云听后台;2.7.4标准云听UI;2.7.4标准云听接口;1.6 测试阶段系统测试1.7 测试工具GOOGLE浏览器postman接口测试插件1.8 参考资料《云听APP2.7.4原型方案》《标准云听2.7.4-后台原型》《标准云听2.7.4设计稿》《标准云听2.7.4测试用例(包含冒烟)》《标准云听2.7.4项目工作计划表》《标准云听2.7.4需求》2测试概要2.7.4标准云听2.7.4系统测试从2016 年12 月13 日开始到2016 年12 月22 日结束,共持续8天,测试功能点44个,执行279个测试用例,平均每个功能点执行测试用例6.34个,测试共发现527个bug,其中1级bug85个,2级bug185个,3级bug203,无效bug58个,平均每个测试功能点10.7个bug。
2.7.4标准云听总共发布26个测试版本,其中Android为12个,IOS为14个,其中:(1) Android的B1—B5 为测试环境版本(包含回归测试版本),B6-B10为灰度测试版本,B11-B12为线上版本。
B1—B5测试进度依照项目计划时间准时完成测试完成并提交报告,B6-B10测试通过增加一个人日,准时完成测试并提交报告,B11-B12线上版本准时上线。
(2) IOS的B1—B5 为测试环境版本(包含回归测试版本),B6-B12为灰度测试版本,B13-B14为线上版本。
B1—B5测试进度依照项目计划时间准时完成测试完成并提交报告,B6-B12测试通过增加一个人日,准时完成测试并提交报告,B13-B14线上版本准时上线。
2.7.4标准云听测试通过禅道缺陷管理工具进行缺陷跟踪管理,每个测试阶段都有详细的bug 分析表和阶段测试报告。
2.1进度回顾2.2测试执行此次测试严格按照项目计划和测试计划执行,按时完成了测试计划规定的测试对象的测试。
针对测试计划规定的测试策略,在测试执行中都有体现,在测试执行过程中,依据测试计划和测试用例,对系统进行了完整的测试2.3 测试用例2.3.1 功能性系统实现的主要功能,包括后台流程、数据查询,添加,修改,删除、接口、app功能和数据显示。
系统实现的次要功能,包括为后台配置数据显示,需求规定的输入输出字段,以及需求规定的输入限制2.3.2 易用性操作按钮提示信息正确性,一致性,可理解性;限制条件提示信息正确性,一致性,可理解性;必填项标识;输入方式可理解性;中文界面下数据语言与界面语言的一致性;3测试环境软硬件环境4 测试结果4.1 Bug 趋势图此次黑盒测试总共发布26个版本,由于具体的每个版本的BUG数量未做统计,所以只针对阶段性的BUG做出了统计。
B1—B5测试环境版本(针对项目计划的基线标识),B6-B12为进行灰度测试回归测试版本。
bug版本趋势图如下图所示:第一阶段,测试环境测试:时间从2016 年12 月13 日开始到2016 年12 月22 日。
从Bug 趋势图中可以看出,每个版本阶段的bug 数差别比较大。
测试环境B1~B5:从图中看到共有226个BUG,因为2.7.4标准云听增加了新功能,属于一个新的项目,测试过程中发现的BUG数量包含了继承的旧版本的BUG和新增需求的BUG,所以在测试环境中的BUG数量比较多。
第二阶段,灰度环境测试:灰度环境B6~B12:灰度环境测试的BUG包含了灰度环境BUG和灰度整合环境的BUG,因为在之前测试环境中测试出的263个BUG之后,进行了灰度环境的测试,新增BUG数量为63,明显比第一阶段降低不少;因为在已测试的版本中增加了新需求“抢红包”的功能,所以后续的“灰度整合环境”中的BUG数量呈现之前灰度环境的3倍的增长数量,而且出现了之前测试完成、功能正常的地方再次出现问题,所以BUG数量极度增大。
4.2 Bug 严重程度测试发现的bug 主要集中在2级和3级阶段,属于一般性的缺陷,但是测试的时候,出现了85个严重级别的bug,出现严重级别的bug 主要表现在以下几个方面:(1) app中数据刷新或者操作后出现闪退、崩溃现象;(2) 功能实现与需求不符合;(3) 后台流程不符合设计要求;(4) 后台页面刷新后操作后出现报错或找不到页面;(5) 权限控制异常问题;严重级别bug 按版本分布如下:由严重bug 版本分布图可以看出,严重级别的bug 版本趋势和bug 版本趋势基本是一致的,但是,在灰度整合版本中,严重级别的bug 明显增多,主要原因是灰度整合环境增加了“发/抢红包”的功能,与之前功能整合在一起又出现了一些修改引入的BUG。
4.3 BUG分类统计占比根据测试过程中所提BUG进行了分类,如下图:根据上图显示,分析总结如下:1、功能问题占比47.5%,是所有问题中占比最大的,功能问题包括功能异常、与需求不符等;2、显示问题包含了app和后台显示不符、app图片未显示出来、显示错误等问题;3、兼容问题虽然只是占比0.4%,并不能说明无兼容问题,而是兼容性方面的测试未展开进行;4、操作失败的问题占比5.3%,这种问题属于严重的BUG类型,占比重太大了;5、崩溃问题占比4.2%,这类问题在BUG中属于致命的问题了,4.2%的比重确实是太高了,对于用户来说是无法接受的现象;6、优化的问题包含不稳定、加载慢、体验差等,这些问题占比不大,是因为未做这方面的专门测试,更多的优化问题未提问题单。
5测试结论5.1功能性系统正确的实现了通过配置数据字典管理的基础数据的功能,正确实现了需求所要求的功能,实现了基础数据的管理,用户权限,用户管理的增删改查功能,实现了权限控制细化到菜单模块的功能;系统在实现用户管理权限功能的同时,存在重大的缺陷:(1) 未实现多语言功能;(2) 未实现中英文界面;(3) app崩溃现象较多;(4) 版本更新后存在影响数据流程的严重问题;(5) app是面向广大听众和用户的,重要的兼容性未实现;5.2易用性现有系统实现了如下易用性:(1) 查询,添加,删除,修改操作相关提示信息的一致性,可理解性(2) 输入限制的正确性(3) 输入限制提示信息的正确性,可理解性,一致性(4) 输入有解释性说明现有系统存在如下易用性缺陷:(1) 界面排版不美观(2) 部分输入,输出字段的可理解性差(3) 中英文无对应的正确性(4) 中英文混排5.3可靠性现有系统的容错性不高,如果系统出现错误,返回错误类型为找不到页面错误,无法回复到出错前的状态5.4兼容性现有后台系统支持google浏览器和火狐浏览器,IE 浏览器部分不支持。
现有后台系统未进行其他兼容性测试;现有app未进行终端兼容性测试;5.5安全性现有系统控制了以下安全性问题:把某一个登录后的页面保存下来,不能单独对其进行操作不进行登录直接输入某一页面的Url 能否打开页面并进行操作不应该允许。
现有系统未控制以下安全性问题:(1) 用户名和密码应对大小写敏感(2) 登陆错误次数无限制6 分析摘要此次测试,所有测试用例都是在中文界面下执行,未在英文界面下执行,测试不包括英文界面下的测试,也不包括正对英文翻译的测试。
此次测试,过程中,测试是根据输入字段含义,测试人员理解,以及和项目经理,开发人员沟通获得测试依据,无法保证测试依据的正确性和完整性,因此,没有进行完整的,正确的无效数据的测试,测试覆盖率不够,无法保证测试的有效性和正确性。
6.1 不足与建议(1) 开发应该严格按照需求来做项目,测试也应该按照需求来制定测试计划和测试用例,避免开发和测试制定计划的依据不一致,导致重复和无用工作;(2) 在项目开始的时候应该制定编码标准,数据库标准,需求变更标准,开发和测试人员严格按照标准进行,可以在后期减少因为开发,测试不一致而导致的问题,同时也可以降低沟通成本。
(3) 发布版本的时候,正确布置测试环境,减少因为测试环境,测试数据库数据的问题而出现的无效bug。
开发人员解决bug 的时候,填写bug 原因以及解决方式,方便bug 的跟踪;测试人员应该熟悉了解业务流程,避免提出误认为的bug。
(4) 开发人员在开发版本上发现bug,可以通知测试人员,因为开发人员发现的bug很有可能在测试版本上出现,而测试人员和开发人员的思路不同,有可能测试人员没有发现该bug,而且,这样可以保证发现的bug 都能够被跟踪。
7度量7.1 资源消耗8典型缺陷引入原因分析测试过程中发现的缺陷主要有以下几个方面:(1) 需求定义存在不清楚:需求文档中,存在功能定义不清楚,输入输出字段描述错误,输入输出字段限制定义错误,输入输出限制定义缺失这几种类型的缺陷。