在线监测基站控制软件设计与数据预处理技术研究
张 齐 王永光
华南理工大学计算机科学与工程学院 广州 510640
摘 要 对水环境在线监测基站控制软件的各个功能模块进行详细设计,应用数据库技术保存采集的数据。实现了嵌入式web服务器和浏览器,现场和远程都能以网页方式控制系统。在分析水环境监测数据特点的基础上,运用统计学中质量控制图的理论对数据进行预处理;通过判断数据产生过程是否处于受控状态,提高数据的可靠性和有效性。
关键词 水环境;在线监测;预处理;质量控制图
能仪表,二是有针对性地设计基站监测软件。本软件系
引言
统是在基于三星的s3c2410x硬件平台上进行设计的。
长期以来水环境污染一直是我国面临的严峻问题。虽然,我国在水监测方面已做了大量工作,但面对新的1 软件系统结构
水利发展需求,我国水监测工作还存在着一些亟待解决软件系统的主要功能是控制各个仪器进行数据采的问题,如自动化程度低,信息处理及时性与管理工作集、数据保存和数据上传。它主要分为操作系统、系统需要不相适应等[1-2],因此,一个能够满足现实需要的服务和应用软件。系统结构层次如图1所示。系统服务水环境在线监测系统将具有重要的社会意义。
主要指web服务和数据库服务,与操作系统共同提高应在水监测工作中,监测基站工作是重中之重,它主用软件运行环境。应用软件是指实现具体功能的监测控要负责着数据采集。这些数据与其它领域的数据相比有制软件。
较高的有效性、完整性、准确性、可靠性及可比性,但比较常用的嵌入式操作系统有WinCE,VxWork对实时性要求不高[3-4]。要满足这些要求,一是采用最新智
和Linux系列。Linux开源免费,资源众多,并且已证明能够长时间稳定运行。Linux符合系统实际需求,因
基金项目:广东省科技计划项目(2007B030100001)
此,系统选择了Arm-Linux作为基站的操作系统。
2009 02
17
数据采集任务越来越复杂,要求越来越多,数据存储与查询要求也越来越高,考虑到系统以后的改进、升级和完善,本系统放弃了以往常采用的文件保存数据的方式,采用了开源的嵌入式数据库Sqlite3。Sqlite3拥有很多优点,如原子、一致、孤立、持久、零配置、简单易用的API、执行速度更快[5]。
图1 系统结构层次图
本系统顺应测控系统从集中式控制转向分散式网络控制的趋势,从以前的C/S式管理,转向B/S式管理。为能远程控制本基站的设备,基站系统必须在自身实现Web服务器。为方便技术人员与维护人员现场操作,必须实现一个Web浏览器,以统一控制本站所有仪表,避免分别控制的麻烦。最终,系统选择了移植Boa作为Web服务器[6],Konqueror/embedded做为浏览器[7]。
2 控制软件的详细设计
如图2所示,系统软件要承担对上执行上位机软件的指令和上传数据,对下控制各个仪表的工作和接收处理采集到的原始数据。
控制软件具体分为7个模块:数据库设计,采集模块,数据传输,预警模块,系统设置,查询模块和数据预处理[8-10]。各个模块之间的关系见图3。
控制软件各个模块的操作都与数据库密切相关。以下对各个模块进行具体说明和设计。但数据预处理模块将单独说明。
18
信息通信技术
图2 系统结构示意图
图3 控制软件的模块关系图
1) 数据表
记录采集的数据,保存系统运行状态、警报记录与系统配置信息,保存相关用户、角色和权限信息。
2) 采集模块
主要负责三方面工作,一是获得采集的数据,存进数据库,通知数据预处理模块进行预处理;二是监测设备运行状态,如发现设备停止运行或运行异常,向报警模块报告;最后根据系统设置命令,配置底层仪表。
3) 数据通讯传输模块
负责向上传输数据,有以下几种方式实现与监控中
心的数据实时通信:
中则标志着:重复样本来自一个稳定的概率分布的随① 应答上传,对监控中心发出的数据呼叫请求能
机样本。控制图能依据一定的概率判定数据的质量指及时响应上传数据;
标是偶然变异,还是出现了异常情况。数据产生变异② 定时上传,能根据设定的间隔时间定时上传现
有两个原因:一个是由“可指出的原因引起的,如仪场数据给监控中心;
器的基准误差、试剂不纯、操作不当等,称为系统误③ 异常主动上报,如发现预警模块向它报告发现
差,这时数据产生的过程处于脱控状态,需要按照它异常情况,主动上传数据给上一级监控中心。
的作用规律对它进行校正或消除,使数据产生过程回4) 预警模块
到可控状态。另一个原因是由偶然变动的“一般原如果发现设备停止运转或运行异常,本模块就在数因”引起,称随机误差。这是具有统计规律的误差,据库里把这个情况记录下来,并向数据通讯模块发出向当数据测定的次数足够多时,数据变异的概率服从统上级预警的信息。预警模块有超标预警功能。以往的超计分布规律。如数据的变异是由“一般”原因引起,标预警只是简单地根据采集的记录数值进行上下限的判可以认为数据处于受控状态。处于受控状态的数据更断,并向上级中心预警超标。本模块增强了这个功能,可靠有效[11]。
能够根据预先设定的判断公式,对一段时间内多条记录控制图是判断数据变异的一种工具。它是根据已以及不同影响因素判断是否需要进行预警。如需要向上经得出的样本数据,使用统计学的知识求出UCL(控级进行预警,数据库会记录当前信息,并向数据通讯模制上限)和LCL(控制下限),然后观察数据点的分布状块发出向上级预警的信息。
态,判断数据产生过程是否处于受控状态。
5) 系统设置与查询模块
在实际使用中,控制图是最常用的过程统计
通过远程或本地浏览器访问这两个功能。查询模管理图。
块,支持即时显示当前的记录信息与设备运行状态信假设样本容量为n,样本数为N,那么控制图的息,可复合查询历史记录数据、预警信息和设备运行信上、下控制限为:
息,并提供图形显示。系统设置模块,一是能够发送命令,对各个仪表进行配置;二是配置本机基本运行参
数,具体包括:自动上传时间与方式,预警模块中各指R控制图的上、下控制限为:
标的上下限与预警判断公式,本地保存数据的策略,以及数据预处理方式等;还支持向基站发送各种其他的命
令,为以后的扩展预留通道。
其中
,
为总均值,为极
这两个模块的程序用cgi技术实现,作为Boa服务器差均值,
为均值,
为极差,
,
,
为依赖样
的服务端程序。
本容量的常数。
3 数据预处理模块
如果所有数据点都落在控制限内,即可过程
是否处于受控状态。
在数据产生阶段,如对数据进行预处理,对保证3.2 预处理模块
数据的可靠性和有效性会起到重要作用。
本模块主要采用了
控制图的方法来判断数据
3.1 控制图理论
的产生过程是否处于受控状态。所有要测量的指标的统计学中的控制图方法经常用来控制与检验数测量数据都需进行预处理;但有些测量指标,应结合据产生过程中数据是否处于受控状态. 处于统计控制
测量仪器与测量指标的具体情况和特点,简单地使用
2009 02
19
控制图的方法或不进行预处理。可以由技术人员进行具体配置。配置参数为:是否对某个测量指标进行预处理,采用何种方式,样本容量n,样本数N等。
根据配置参数,程序对每个需要测量的指标,分别计算出均值与上、下控制限。程序不需要画出控制图,只需根据数据判断过程是否受控,如:发现非受控或出现可疑数据--数值超过某个上、下控制限或连续一定次数(可配置)的数值出现在均值线的一边,就要向预警模块报告。
注意:处理过程中应该根据实际要求来保持数据精度,对于计算过程中出现的依赖样本容量的常数,可以设计一个二维常量数组来加快程序的计算时间。
4 结语
在线采集系统基站的控制软件系统对于上位机系统分析判断环境状况,处理突发情况,以及制定相关的环境政策具有非常重要的作用。本控制软件系统采用数据库管理,各个模块间分工清晰、结构合理。另外,系统从以前的C/S集中式控制,成功地过渡为B/S分散式控制,适应了技术发展趋势。系统还创新使用了统计学中控制图方法来判断数据产生过程是否处于受控状态,提高了数据的可靠性和有效性。系统的实现能够满足现实需要,具有很大的社会价值。
参考文献:
[1]陈建江. 对我国环境自动监测发展的思考[J]. 环境
20
信息通信技术
监测管理与技术, 2007.2:1-2,7
[2]石田耕三.环境监测技术的现状及发展趋势[J]. 中
国环境监测. 2005,21(l):4-7
[3]国家环保总局.地表水和污水监测技术规范[M].北
京:中国环境出版社.2002:21-26
[4]国家环保总局.环境监测仪器发展指南[M].北京:中
国环境出版社.2000:l-11
[5]尧有平, 薜小波. 基于ARM-Linux的SQLite嵌入
式数据库的研究[J]. 微计算机信息,2008,24(2-2):64-66
[6]崔承毅,姜相钧. 基于ARM9的嵌入式WEB服务
器的研究与设计[J]. 电子科技,2007,9:64-67[7]邓罡,张小梅,刘宏. Konqueror嵌入式浏览器的
分析及移植详解[J]. 微计算机信息,2007,23(8-2):71-73
[8]朱宁西, 张齐. GSM网络短信息无线通信SCADA
系统的实现[J]. 华南理工学学报(自然科学版), 2003, 31(12):9-12
[9]王晓成, 蒋梁中. 嵌入式环境在线监测点系统的设
计与实现[J]. 工业控制计算机,2006,19(11):88-89
[10]
郭鹏, 孙玮,韩璞.基于手机短消息(SMS)的远程无线监控系统的研制[J].计算机测量与控, 2002, 5(8):506-507
[11]徐子峰, 徐富春. 环境数据统计分析基础[M]. 北京:化学工业出版社. 2006:175-185
作者简历
张 齐
副教授,主要从事智能控制、信息处理、监控软件方面研究。
王永光
华南理工大学 计算机科学与工程学院。
On-line Monitoring Base Station Control Software Design and Data Pre-Processing Technology Research
Zhang Qi
Institute of Computer Architecture, South China Univ. of Tech, Wang Yongguang
Guangzhou 510640, China
Abstract This article detailly designed On-line monitoring of the water environment of the base station control software modules, and used database technology to preserve the data collection back. Achieving a embedded web server and embedded browser, the system can be controlled as a web page in on-site or remote place. Analysis of the water environment monitoring data characteristics, so used statistical quality control plan theory to preprocess the data. Through a process of judgement whether the data in a controlled state, enhanced the reliability and validity of data.
Keywords
water environment; online monitoring; pre-processing; quality control plans
2009 02
21
Research & Development
在线监测基站控制软件设计与数据预处理技术研究
张 齐 王永光
华南理工大学计算机科学与工程学院 广州 510640
摘 要 对水环境在线监测基站控制软件的各个功能模块进行详细设计,应用数据库技术保存采集的数据。实现了嵌入式web服务器和浏览器,现场和远程都能以网页方式控制系统。在分析水环境监测数据特点的基础上,运用统计学中质量控制图的理论对数据进行预处理;通过判断数据产生过程是否处于受控状态,提高数据的可靠性和有效性。
关键词 水环境;在线监测;预处理;质量控制图
能仪表,二是有针对性地设计基站监测软件。本软件系
引言
统是在基于三星的s3c2410x硬件平台上进行设计的。
长期以来水环境污染一直是我国面临的严峻问题。虽然,我国在水监测方面已做了大量工作,但面对新的1 软件系统结构
水利发展需求,我国水监测工作还存在着一些亟待解决软件系统的主要功能是控制各个仪器进行数据采的问题,如自动化程度低,信息处理及时性与管理工作集、数据保存和数据上传。它主要分为操作系统、系统需要不相适应等[1-2],因此,一个能够满足现实需要的服务和应用软件。系统结构层次如图1所示。系统服务水环境在线监测系统将具有重要的社会意义。
主要指web服务和数据库服务,与操作系统共同提高应在水监测工作中,监测基站工作是重中之重,它主用软件运行环境。应用软件是指实现具体功能的监测控要负责着数据采集。这些数据与其它领域的数据相比有制软件。
较高的有效性、完整性、准确性、可靠性及可比性,但比较常用的嵌入式操作系统有WinCE,VxWork对实时性要求不高[3-4]。要满足这些要求,一是采用最新智
和Linux系列。Linux开源免费,资源众多,并且已证明能够长时间稳定运行。Linux符合系统实际需求,因
基金项目:广东省科技计划项目(2007B030100001)
此,系统选择了Arm-Linux作为基站的操作系统。
2009 02
17
数据采集任务越来越复杂,要求越来越多,数据存储与查询要求也越来越高,考虑到系统以后的改进、升级和完善,本系统放弃了以往常采用的文件保存数据的方式,采用了开源的嵌入式数据库Sqlite3。Sqlite3拥有很多优点,如原子、一致、孤立、持久、零配置、简单易用的API、执行速度更快[5]。
图1 系统结构层次图
本系统顺应测控系统从集中式控制转向分散式网络控制的趋势,从以前的C/S式管理,转向B/S式管理。为能远程控制本基站的设备,基站系统必须在自身实现Web服务器。为方便技术人员与维护人员现场操作,必须实现一个Web浏览器,以统一控制本站所有仪表,避免分别控制的麻烦。最终,系统选择了移植Boa作为Web服务器[6],Konqueror/embedded做为浏览器[7]。
2 控制软件的详细设计
如图2所示,系统软件要承担对上执行上位机软件的指令和上传数据,对下控制各个仪表的工作和接收处理采集到的原始数据。
控制软件具体分为7个模块:数据库设计,采集模块,数据传输,预警模块,系统设置,查询模块和数据预处理[8-10]。各个模块之间的关系见图3。
控制软件各个模块的操作都与数据库密切相关。以下对各个模块进行具体说明和设计。但数据预处理模块将单独说明。
18
信息通信技术
图2 系统结构示意图
图3 控制软件的模块关系图
1) 数据表
记录采集的数据,保存系统运行状态、警报记录与系统配置信息,保存相关用户、角色和权限信息。
2) 采集模块
主要负责三方面工作,一是获得采集的数据,存进数据库,通知数据预处理模块进行预处理;二是监测设备运行状态,如发现设备停止运行或运行异常,向报警模块报告;最后根据系统设置命令,配置底层仪表。
3) 数据通讯传输模块
负责向上传输数据,有以下几种方式实现与监控中
心的数据实时通信:
中则标志着:重复样本来自一个稳定的概率分布的随① 应答上传,对监控中心发出的数据呼叫请求能
机样本。控制图能依据一定的概率判定数据的质量指及时响应上传数据;
标是偶然变异,还是出现了异常情况。数据产生变异② 定时上传,能根据设定的间隔时间定时上传现
有两个原因:一个是由“可指出的原因引起的,如仪场数据给监控中心;
器的基准误差、试剂不纯、操作不当等,称为系统误③ 异常主动上报,如发现预警模块向它报告发现
差,这时数据产生的过程处于脱控状态,需要按照它异常情况,主动上传数据给上一级监控中心。
的作用规律对它进行校正或消除,使数据产生过程回4) 预警模块
到可控状态。另一个原因是由偶然变动的“一般原如果发现设备停止运转或运行异常,本模块就在数因”引起,称随机误差。这是具有统计规律的误差,据库里把这个情况记录下来,并向数据通讯模块发出向当数据测定的次数足够多时,数据变异的概率服从统上级预警的信息。预警模块有超标预警功能。以往的超计分布规律。如数据的变异是由“一般”原因引起,标预警只是简单地根据采集的记录数值进行上下限的判可以认为数据处于受控状态。处于受控状态的数据更断,并向上级中心预警超标。本模块增强了这个功能,可靠有效[11]。
能够根据预先设定的判断公式,对一段时间内多条记录控制图是判断数据变异的一种工具。它是根据已以及不同影响因素判断是否需要进行预警。如需要向上经得出的样本数据,使用统计学的知识求出UCL(控级进行预警,数据库会记录当前信息,并向数据通讯模制上限)和LCL(控制下限),然后观察数据点的分布状块发出向上级预警的信息。
态,判断数据产生过程是否处于受控状态。
5) 系统设置与查询模块
在实际使用中,控制图是最常用的过程统计
通过远程或本地浏览器访问这两个功能。查询模管理图。
块,支持即时显示当前的记录信息与设备运行状态信假设样本容量为n,样本数为N,那么控制图的息,可复合查询历史记录数据、预警信息和设备运行信上、下控制限为:
息,并提供图形显示。系统设置模块,一是能够发送命令,对各个仪表进行配置;二是配置本机基本运行参
数,具体包括:自动上传时间与方式,预警模块中各指R控制图的上、下控制限为:
标的上下限与预警判断公式,本地保存数据的策略,以及数据预处理方式等;还支持向基站发送各种其他的命
令,为以后的扩展预留通道。
其中
,
为总均值,为极
这两个模块的程序用cgi技术实现,作为Boa服务器差均值,
为均值,
为极差,
,
,
为依赖样
的服务端程序。
本容量的常数。
3 数据预处理模块
如果所有数据点都落在控制限内,即可过程
是否处于受控状态。
在数据产生阶段,如对数据进行预处理,对保证3.2 预处理模块
数据的可靠性和有效性会起到重要作用。
本模块主要采用了
控制图的方法来判断数据
3.1 控制图理论
的产生过程是否处于受控状态。所有要测量的指标的统计学中的控制图方法经常用来控制与检验数测量数据都需进行预处理;但有些测量指标,应结合据产生过程中数据是否处于受控状态. 处于统计控制
测量仪器与测量指标的具体情况和特点,简单地使用
2009 02
19
控制图的方法或不进行预处理。可以由技术人员进行具体配置。配置参数为:是否对某个测量指标进行预处理,采用何种方式,样本容量n,样本数N等。
根据配置参数,程序对每个需要测量的指标,分别计算出均值与上、下控制限。程序不需要画出控制图,只需根据数据判断过程是否受控,如:发现非受控或出现可疑数据--数值超过某个上、下控制限或连续一定次数(可配置)的数值出现在均值线的一边,就要向预警模块报告。
注意:处理过程中应该根据实际要求来保持数据精度,对于计算过程中出现的依赖样本容量的常数,可以设计一个二维常量数组来加快程序的计算时间。
4 结语
在线采集系统基站的控制软件系统对于上位机系统分析判断环境状况,处理突发情况,以及制定相关的环境政策具有非常重要的作用。本控制软件系统采用数据库管理,各个模块间分工清晰、结构合理。另外,系统从以前的C/S集中式控制,成功地过渡为B/S分散式控制,适应了技术发展趋势。系统还创新使用了统计学中控制图方法来判断数据产生过程是否处于受控状态,提高了数据的可靠性和有效性。系统的实现能够满足现实需要,具有很大的社会价值。
参考文献:
[1]陈建江. 对我国环境自动监测发展的思考[J]. 环境
20
信息通信技术
监测管理与技术, 2007.2:1-2,7
[2]石田耕三.环境监测技术的现状及发展趋势[J]. 中
国环境监测. 2005,21(l):4-7
[3]国家环保总局.地表水和污水监测技术规范[M].北
京:中国环境出版社.2002:21-26
[4]国家环保总局.环境监测仪器发展指南[M].北京:中
国环境出版社.2000:l-11
[5]尧有平, 薜小波. 基于ARM-Linux的SQLite嵌入
式数据库的研究[J]. 微计算机信息,2008,24(2-2):64-66
[6]崔承毅,姜相钧. 基于ARM9的嵌入式WEB服务
器的研究与设计[J]. 电子科技,2007,9:64-67[7]邓罡,张小梅,刘宏. Konqueror嵌入式浏览器的
分析及移植详解[J]. 微计算机信息,2007,23(8-2):71-73
[8]朱宁西, 张齐. GSM网络短信息无线通信SCADA
系统的实现[J]. 华南理工学学报(自然科学版), 2003, 31(12):9-12
[9]王晓成, 蒋梁中. 嵌入式环境在线监测点系统的设
计与实现[J]. 工业控制计算机,2006,19(11):88-89
[10]
郭鹏, 孙玮,韩璞.基于手机短消息(SMS)的远程无线监控系统的研制[J].计算机测量与控, 2002, 5(8):506-507
[11]徐子峰, 徐富春. 环境数据统计分析基础[M]. 北京:化学工业出版社. 2006:175-185
作者简历
张 齐
副教授,主要从事智能控制、信息处理、监控软件方面研究。
王永光
华南理工大学 计算机科学与工程学院。
On-line Monitoring Base Station Control Software Design and Data Pre-Processing Technology Research
Zhang Qi
Institute of Computer Architecture, South China Univ. of Tech, Wang Yongguang
Guangzhou 510640, China
Abstract This article detailly designed On-line monitoring of the water environment of the base station control software modules, and used database technology to preserve the data collection back. Achieving a embedded web server and embedded browser, the system can be controlled as a web page in on-site or remote place. Analysis of the water environment monitoring data characteristics, so used statistical quality control plan theory to preprocess the data. Through a process of judgement whether the data in a controlled state, enhanced the reliability and validity of data.
Keywords
water environment; online monitoring; pre-processing; quality control plans
2009 02
21
Research & Development