人脸识别性能测试方案.docx

人脸识别系统性能测试方案

2017年12月

人脸识别系统性能测试方案

人脸识别系统性能测试方案

人脸识别系统性能测试方案

人脸识别系统性能测试方案

目录

事项说明 1

测试目的 2

测试方式 2

测试内容 2

测试环境 2

网络环境 2

硬件环境 2

静态人像比对系统评测 3

方案描述 3

测试数据准备 3

测试步骤 3

评判指标 4

评判方法 5

动态离线视频布控测试 5

方案描述 5

测试数据准备 5

测试步骤 5

评判指标 6

评判方法 7

最终成绩统计 7

测试流程 7

事项说明

参测厂商操作系统安装及软件和人口照片数据导入、测试调试工作，具体部署时间由甲方通知各个参测单位；

参测厂商自行准备测试环境所需的所有硬件，操作系统及软

件环境；

参测厂商上报不超过2人的现场操作团队，并提供现场操作人员的身份信息（姓名、身份证号、联系方式），由组织测试方进行身份核查，所有测试人员进场前上交通讯工具；

组织测试方提供所有测试数据，对于提供的测试素材（人像照

片），参测单位有保密义务，不得外泄或复制，禁止拍照、截图；

为保证本次系统测试数据的安全和保密性，确保测试数据不

外泄，本次测试过程中的数据转换，编辑和认定均应在组织者制定的场地进行，并于测试前签订保密协议，参测人员不允许能通过任何移动存储介质（手机、U盘、移动硬盘以及光盘等）或网络方式将测试数据带离测试现场；

为保证本次测试的公平公正公开，局域网中严禁使用个人公

司的笔记本，对于测试环境有任何的数据导入，都需要有测试方专人在场监督下方可进行，严禁将测试环境的数据导出，带离测试现场。

司的笔记本，对于测试环境有任何的数据导入，都需要有测试

方专人在场监督下方可进行，严禁将测试环境的数据导出，带

离测试现场。

测试结束后，所有参测设备须由测试组织方清空并格式化后?

测试结束后，所有参测设备须由测试组织方清空并格式化后

方能带离。

方能带离。

测试目的

了解各企业人脸识别系统的实际性能表现；评估现有人脸识

别系统对公安实战应用需求的满足程度；为后期人脸识别技术系统建设选型提供数据依据。

别系统对公安实战应用需求的满足程度；为后期人脸识别技术系

统建设选型提供数据依据。

测试方式

采用实验室测试的方式。

测试内容

本次测试包括两个方面：静态识别技术测试，动态识别技术测试。

测试环境

网络环境

为了保证测试的公平公正，静态测试与离线视频测试的测试

为了保证测试的公平公正，静态测试与离线视频测试的测试

环境一律采用单机或单集群局域网，不得接入外网，和外界物理隔离。

硬件环境

此次测试机器由各厂家自行提供，测试前需向组织测试方报备机器数量及具体参数配置。

静态人像比对系统评测

方案描述

由测试方提供证件照底库和多组查询照。参测单位对底库照片进行建库，并启动人像检索功能，系统需将查询返回的前二十名结果保存下来，由测试方统计命中结果。

由测试方提供证件照底库和多组查询照。参测单位对底库照

片进行建库，并启动人像检索功能，系统需将查询返回的前二

十名结果保存下来，由测试方统计命中结果。

测试数据准备

测试数据

测试数据

描述

证件照底库 5000万张证件照照片

查询照总共300张，包括低清视频截图照、高清视

查询照片

频截图、其他照片三类照片数据。

测试步骤

测试步骤描述 描述

组织测试方准备5000万证件照底库，并将300张测试数据集的登记照混入人像库，并进行统一重命名。

测试数据准备

厂家建立人像库

厂家测试

将5000万张照片压缩为一个zip格式压缩包，作为测试数据源。

各测试参商将测试服务器部署到组织测试方指定区域，组织测试方以移动硬盘为介质将5000万数据压缩包以随机顺序移交给参测厂商。

各参测厂商拷贝人像库压缩包结束后，统一开始计时，要求在4天内完成建库，6天未完成建库，则静态算法测试计零分。

参测厂商以随机顺序依次一一进行测试，组织测试方以U盘为介质，将300张测试集查询照下发给当前

人脸识别系统性能测试方案

人脸识别系统性能测试方案

人脸识别系统性能测试方案

人脸识别系统性能测试方案

人工验证测试结果

参测厂商。

参测单位启动系统进行批量自动人像检索，将得到在底库中的前20名最相似人员结果写入CSV文件中。测试完成后，参测单位将结果CSV文件交予测试方。记录提交的CSV文件的MD5值。

当前测试厂商在测试过程中不允许对测试图片进行修改，检索一旦开启，不允许对机器进行操作。

测试过程中，非当前测试厂商的测试人员需在指定区域休息，不得操作各自服务器。

比对时间为连续2小时以内，超过2.5小时则静态算法项计零分。

测试方对各厂家的测试结果和标准答案