国网电商科技申请一种实时数据计算处理专利,保证实时计算效率

金融界2024年10月24日消息,国家知识产权局信息显示,国网电商科技有限公司申请一项名为“一种实时数据计算处理方法、系统、计算机设备及介质”的专利,公开号 CN 118796953 A,申请日期为2024年6月。

专利摘要显示,本发明提供了一种实时数据计算处理方法、系统、计算机设备及介质,包括根据用户配置的流计算sql语句生成计算模型和计算结果表,并将计算结果表存储于kudu数据仓库;根据计算模型创建并提交对应的spark计算任务;响应于spark计算任务的启动,对计算模型进行解析生成表关联关系视图和快速索引表;监听业务数据库的二进制日志变动,将更新业务数据同步至kudu数据仓库和kafka服务器;读取kafka服务器消息队列获取待处理实时数据,并根据操作类型、表关联关系视图和快速索引表进行计算处理,更新计算结果表。本发明能通过仅加载部分相关历史数据的方式兼容增删改计算任务,保证实时计算效率的同时,有效降低内存消耗。

本文源自:金融界

作者:情报员