國網電商科技申請一種實時數據計算處理專利,保證實時計算效率

金融界2024年10月24日消息,國家知識產權局信息顯示,國網電商科技有限公司申請一項名爲“一種實時數據計算處理方法、系統、計算機設備及介質”的專利,公開號 CN 118796953 A,申請日期爲2024年6月。

專利摘要顯示,本發明提供了一種實時數據計算處理方法、系統、計算機設備及介質,包括根據用戶配置的流計算sql語句生成計算模型和計算結果表,並將計算結果表存儲於kudu數據倉庫;根據計算模型創建並提交對應的spark計算任務;響應於spark計算任務的啓動,對計算模型進行解析生成表關聯關係視圖和快速索引表;監聽業務數據庫的二進制日誌變動,將更新業務數據同步至kudu數據倉庫和kafka服務器;讀取kafka服務器消息隊列獲取待處理實時數據,並根據操作類型、表關聯關係視圖和快速索引表進行計算處理,更新計算結果表。本發明能通過僅加載部分相關歷史數據的方式兼容增刪改計算任務,保證實時計算效率的同時,有效降低內存消耗。

本文源自:金融界

作者:情報員