Browse Source

Update data_middle_platform_framework_design.md

wangcunwen 4 years ago
parent
commit
af6627d8b5
1 changed files with 56 additions and 63 deletions
  1. 56 63
      Data_middle_platform_framework/data_middle_platform_framework_design.md

+ 56 - 63
Data_middle_platform_framework/data_middle_platform_framework_design.md

@@ -250,18 +250,18 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 
 ### 1、技术选型
 
-| **技术**          | **约定** | **备注**                                   |
-| ----------------- | -------- | ------------------------------------------ |
-| Spark             | xx版本   | 计算引擎                                   |
-| Hbase             | xx版本   | 分布式数据库                               |
-| MySQL             | xx版本   | 关系型数据库                               |
-| Redis             | xx版本   | 缓存服务                                   |
-| ElasticSearch     | xx版本   | 搜索引擎ES                                 |
-| Zookeeper         | xx版本   | 分布式共享存储,保证数据中台计算调度一致性 |
-| HDFS              | xx版本   | 分布式文件系统(Hadoop)                     |
-| Flume             | xx版本   | IOT数据采集的服务                          |
-| Kfaka             | xx版本   | 分布式发布订阅消息系统 ,消息中间件        |
-| ActiveMQ/rabbitmq | xx版本   | 消息中间件                                 |
+| **技术**      | **约定**       | **备注**                                   |
+| ------------- | -------------- | ------------------------------------------ |
+| Spark         | 2.4.6版本      | 计算引擎                                   |
+| Hbase         | 1.2.6版本      | 分布式数据库                               |
+| MySQL         | 5.7版本        | 关系型数据库                               |
+| Redis         | 4.0.11版本     | 缓存服务                                   |
+| ElasticSearch | 6.6.0版本      | 搜索引擎ES                                 |
+| Zookeeper     | 3.4.10版本     | 分布式共享存储,保证数据中台计算调度一致性 |
+| HDFS          | 2.7.3版本      | 分布式文件系统(Hadoop)                     |
+| Flume         | 1.9.0版本      | IOT数据采集的服务                          |
+| Kfaka         | 2.13-2.4.1版本 | 分布式发布订阅消息系统 ,消息中间件        |
+| rabbitmq      | 3.7.13版本     | 消息中间件                                 |
 
 ### 2、技术复用
 
@@ -422,7 +422,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 | systemCode | String   | 系统编码,上级类型是设备时该字段有值,值为系统类型的code |
 | parentCode | String   | 上级类型code                                           |
 
-别名class
+别名 class
 
 | 字段      | 数据类型 | 说明                     |
 | --------- | -------- | ------------------------ |
@@ -432,7 +432,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 | aliasName | String   | 类型别名名称             |
 | group_id  | String   | 集团id                   |
 
-##### 3、信息点 funcid
+##### 3、信息点 infopoint
 
 | 字段       | 数据类型          | 说明                                                         |
 | ---------- | ----------------- | ------------------------------------------------------------ |
@@ -501,7 +501,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 
 #### 5.4 IOT数据采集与计算数据表设计
 
-##### 1、数据采集与填报
+##### 1、数据采集与填报 dy_pointlist、original_month、original_day、original_present、originalreport_data
 
 1、点位计算信息表(仪表清单)dy_pointlist
 
@@ -515,7 +515,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 
 2、IOT数据的导入数据库的方式分为 自动采集(自采表)和人工填报(手抄表)
 
-3、采集数据设计
+3、采集数据设计original_month
 
 1)低频原始数据original_month
 
@@ -543,7 +543,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 | receivetime | 数据时间       | String | 否     | 是   | yyyyMMddHHmmss |
 | data        | 数据值         | Double | 否     |      |                |
 
-##### 2、分精度计算
+##### 2、分精度计算fjd_0_near、fjd_1_near、fjd_2_near、fjd_3_near、fjd_0_rate
 
 对采集数据和人工填报数据进行分精度处理,对IOT数据进行分精度处理,取1min、5min、15min、1h、1d分精度临近值和枚举量。
 
@@ -588,7 +588,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 | data_flag        | 数据标记                 | Long   | 否     |      | 0正常,其他正整数为异常                                |
 | collect_cycle    | 分精度计算的最小时间粒度 | String | 否     |      | 1min、5min、15min、1h、1d                              |
 
-##### 3、仪表能耗计算
+##### 3、仪表能耗计算data_servicedata、data_servicedata_max
 
 1、根据分精度数据计算出的仪表能耗值,并按1min、5min、15min、1h、1d等时间维度对仪表能耗数据进行存储入库。
 
@@ -616,7 +616,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 
 
 
-##### 4、支路&计算单元能耗计算
+##### 4、支路&计算单元能耗计算data_objectdata、data_objectdata_max
 
 1、根据上述存储在数据库中的仪表能耗以及能耗调研,计算出支路&计算单元的能耗值
 
@@ -643,7 +643,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 
 
 
-##### 5、分项能耗计算
+##### 5、分项能耗计算data_energydata、data_energydata_max
 
 1、根据上述存储在数据库中分项模型、分项编码、支路&计算单元能耗计算出分项能耗值
 
@@ -671,7 +671,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 
 
 
-##### 6、租户能耗与费用计算
+##### 6、租户能耗与费用计算data_tenantdata、data_tenantbalance、data_tenantbalance_present
 
 1、根据租户编号、能耗类型、仪表能耗计算租户的能耗,及租户的费用
 
@@ -726,7 +726,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 | data_value  | 数据值         | Double | 否     |      |                                |
 | data_type   | 数据类型       | String | 否     |      | 0、租户余额,1、租户余额当前值 |
 
-##### 7、修复记录表
+##### 7、修复记录表repair_record
 
 记录数据修复的记录,追溯数据修复的时间、修复人、修复前后的数据、修复的方式、修复的内容等
 
@@ -753,7 +753,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 | create_time         | 创建时间                 | datetime     | 否     |      |                                                        |
 | update_time         | 更新时间                 | datetime     | 否     |      |                                                        |
 
-##### 8、IOT控制指令表设计(IOT数据采集控制指令表)
+##### 8、IOT控制指令表设计(IOT数据采集控制指令表)originalset、originalsetpresent
 
 1)控制指令数据originalset
 
@@ -1202,9 +1202,9 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 
 ![image-20200914160919543](./image/image-20200914160919543.png)
 
-##### 1、报警类型通过字典数据表进行维护
+##### 1、报警类型通过字典数据表进行维护dict_type
 
-##### 2、报警条目表
+##### 2、报警条目表alarm_item
 
 | 报警条目       |          |              |      |                         |
 | -------------- | -------- | ------------ | ---- | ----------------------- |
@@ -1218,27 +1218,20 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 | remark         |          | varchar(500) |      | 备注                    |
 | valid          | 有效状态 | bit          | Y    | 条目状态:0停用,1有效  |
 
-##### 3、报警记录表
-
-| 报警记录    |          |              |      |                         |
-| ----------- | -------- | ------------ | ---- | ----------------------- |
-| 字段        | 字段名称 | 类型         | 非空 | 备注                    |
-| id          |          | varchar(40)  | Y    | 报警id                  |
-| code        |          | varchar(40)  | Y    | 报警条目编码            |
-| project_id  |          | varchar(50)  |      | 项目id                  |
-| object_id   |          | varchar(50)  |      | 对象id                  |
-| level       |          | varchar(10)  |      | 严重程度 S A B C D 五级 |
-| create_time |          | varchar(14)  |      | 创建时间                |
-| remark      |          | varchar(500) |      | 备注                    |
-
-##### 4、报警状态表
-
-| 报警状态     |              |             |      |                |
-| ------------ | ------------ | ----------- | ---- | -------------- |
-| 字段         | 字段名称     | 类型        | 非空 | 备注           |
-| id           | 报警id       | varchar(40) | Y    | 报警id         |
-| alarm_status | 报警状态     | varchar(40) | Y    | 未恢复、已恢复 |
-| recover_time | 报警恢复时间 | varchar(14) |      | yyyyMMddHHmmss |
+##### 3、报警记录表alarm_record
+
+| 报警记录     |              |              |      |                         |
+| ------------ | ------------ | ------------ | ---- | ----------------------- |
+| 字段         | 字段名称     | 类型         | 非空 | 备注                    |
+| id           | 主键         | varchar(40)  | Y    |                         |
+| code         | 报警条目编码 | varchar(40)  | Y    |                         |
+| project_id   | 项目id       | varchar(50)  |      |                         |
+| object_id    | 对象id       | varchar(50)  |      |                         |
+| status       | 报警状态     |              |      |                         |
+| recover_time | 报警恢复时间 | varchar(14)  |      | yyyyMMddHHmmss          |
+| level        | 报警等级     | varchar(10)  |      | 严重程度 S A B C D 五级 |
+| create_time  | 创建时间     | varchar(14)  |      |                         |
+| remark       | 备注         | varchar(500) |      |                         |
 
 #### 5.7中控监控系统数据表设计
 
@@ -1370,7 +1363,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 | remark         | 备注     | text        | 是     |      |                   |
 | create_time    | 创建时间 | Datetime    | 否     |      | yyyyMMddHHmmss    |
 
-##### 11、控制权限点表
+##### 11、控制权限点表 control_right
 
 | 控制权限点表 |              |             |        |      |                                                          |
 | ------------ | ------------ | ----------- | ------ | ---- | -------------------------------------------------------- |
@@ -1396,7 +1389,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 | create_type   | 创建类型   | int         | 否     |      | 0、数字化交付;1、用户自定义 |
 | has_delete    | 是否删除   | int         | 否     | 是   | 0、未删除;1、已删除;默认0  |
 
-##### 13、 群控设备组对象表
+###### 13、 群控设备组对象表equip_group_object
 
 | 群控设备组对象表 |              |             |        |      |                              |
 | ---------------- | ------------ | ----------- | ------ | ---- | ---------------------------- |
@@ -1413,27 +1406,27 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 
 ![](./image/image-20200914161644601.png)
 
-##### 1、日志类型log_type通过字段数据表进行维护
+##### 1、日志类型log_type--通过字典数据表进行维护dict_type
 
 ##### 2、日志数据log_data
 
-| log_data   |              |                                                 |      |
-| ---------- | ------------ | ----------------------------------------------- | ---- |
-| 字段       | 字段说明     | 数据类型                                        | 备注 |
-| rowKey     | hbase索引    | 全局唯一,“20200905114410+belong_sys+type_code” |      |
-| name       | 日志名称     | varchar(40)                                     |      |
-| type_name  | 日志类型名称 | varchar(40)                                     |      |
-| type_code  | 日志类型编码 | varchar(40)                                     |      |
-| value      | json格式保存 | json                                            |      |
-| belong_sys | 日志归属应用 | varchar(40)                                     |      |
-| create_by  | 操作人或系统 | varchar(40)                                     |      |
-| remark     | 备注         | varchar(200)                                    |      |
+| 日志数据log_data |              |                                                 |      |
+| ---------------- | ------------ | ----------------------------------------------- | ---- |
+| 字段             | 字段说明     | 数据类型                                        | 备注 |
+| rowKey           | hbase索引    | 全局唯一,“20200905114410+belong_sys+type_code” |      |
+| name             | 日志名称     | varchar(40)                                     |      |
+| type_name        | 日志类型名称 | varchar(40)                                     |      |
+| type_code        | 日志类型编码 | varchar(40)                                     |      |
+| value            | json格式保存 | json                                            |      |
+| belong_sys       | 日志归属应用 | varchar(40)                                     |      |
+| create_by        | 操作人或系统 | varchar(40)                                     |      |
+| remark           | 备注         | varchar(200)                                    |      |
 
 #### 5.9任务调度系统数据表设计
 
 ![](./image/image-20200914161002705.png)
 
-##### 1、任务配置(任务注册)
+##### 1、任务配置(任务注册)dpt_task_cfg
 
 | 任务配置      |                    |              |      |                      |
 | ------------- | ------------------ | ------------ | ---- | -------------------- |
@@ -1454,7 +1447,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 | level         | 优先级             | varchar(20)  | Y    | 用于任务启停消峰控制 |
 | remark        | 备注               | varchar(200) |      |                      |
 
-##### 2、任务执行记录
+##### 2、任务执行记录dpt_task_record
 
 | 任务执行记录 |              |             |      |                            |
 | ------------ | ------------ | ----------- | ---- | -------------------------- |
@@ -1468,7 +1461,7 @@ b、产品数据不随着产品版本变化的产品 “产品ID”+ “DB schem
 
 #### 5.10数据迁移与兼容
 
-##### 1、数据映射表设计
+##### 1、数据映射表设计-通用映射结构
 
 | 字段        | 字段说明               | 数据类型     | 备注   |
 | ----------- | ---------------------- | ------------ | ------ |