安全公司报告
文库搜索
切换导航
文件分类
频道
仅15元无限下载
联系我们
问题反馈
文件分类
仅15元无限下载
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210446712.0 (22)申请日 2022.04.26 (71)申请人 康键信息技 术 (深圳) 有限公司 地址 518052 广东省深圳市前海深港合作 区前湾一路1号A栋201室 (入驻深圳市 前海商务秘书 有限公司) (72)发明人 曹翔 (74)专利代理 机构 北京市京大律师事务所 11321 专利代理师 沈克琪 (51)Int.Cl. G06F 9/48(2006.01) G06F 9/50(2006.01) (54)发明名称 批量计算任务的分配方法、 装置、 设备及存 储介质 (57)摘要 本发明涉及大数据技术领域, 公开了一种批 量计算任务的分配方法、 装置、 设备及存储介质, 用于提高集群的稳定性。 所述批量计算任务的分 配方法包括: 通过批量计算任务的调度请求对目 标集群进行节点探活, 得到多个存活节点; 从多 个存活节 点中选取目标节点数量的待命节点, 并 从待命节 点中抽取目标节点; 通过目标节点从批 量计算任务中拉取目标任务承 载量的计算任务, 并判断批量计算任务是否存在剩余; 若批量计算 任务中存在剩余, 则抽取下一目标节点, 并通过 下一目标节点获取下一节点任务承载量的计算 任务, 直至批量计算任务中不存在剩余。 此外, 本 发明还涉及区块链技术, 目标任务承 载量可存储 于区块链 节点中。 权利要求书2页 说明书12页 附图4页 CN 114780222 A 2022.07.22 CN 114780222 A 1.一种批量计算任务的分配方法, 其特 征在于, 所述批量计算任务的分配方法包括: 接收批量计算任务的调度请求, 并通过所述调度请求对目标集群进行节点探活, 得到 多个存活节点; 从多个存活节点中选取目标节点数量的待命节点, 并从所述待命节点中抽取目标节 点; 通过所述目标节点从所述批量计算任务中拉取目标任务承载量的计算任务, 并判断所 述批量计算任务是否存在剩余; 若所述批量计算任务中存在剩余, 则抽取下一目标节点, 并通过下一目标节点获取下 一节点任务承载量的计算任务, 直至所述批量计算任务中不存在剩余。 2.根据权利要求1所述的批量计算任务的分配方法, 其特征在于, 在所述接收批量计算 任务的调 度请求, 并通过所述调 度请求对目标集群进 行节点探活, 得到多个存活节点之前, 所述批量计算任务的分配方法还 包括: 对历史批量计算任务进行任务完成参数采集, 得到任务完成数量和任务完成时长; 根据所述任务完成数量和所述任务完成时长, 计算理想节点数量; 判断所述理想节点数量是否小于或等于预置可用节点总量; 若所述理想节点数量小于或等于预置可用节点总量, 则将所述理想节点数量确定为目 标节点数量。 3.根据权利要求2所述的批量计算任务的分配方法, 其特征在于, 所述根据所述任务完 成数量和所述任务完成时长, 计算理想节点数量, 包括: 通过所述任务完成数量和任务完成时长, 计算平均完成时长, 所述平均完成时长用于 指示单节点完成任务所需的时长; 计算所述平均完成时长与预置理想完成时长之间的差值, 得到理想差值, 并根据所述 理想差值确定浮动节点数量; 获取所述历史批量计算任务的实际参与节点数量, 并通过所述浮动节点数量和所述实 际参与节点数量, 计算理想节点数量。 4.根据权利要求1所述的批量计算任务的分配方法, 其特征在于, 所述接收批量计算任 务的调度请求, 并通过 所述调度请求对目标集群进行节点探活, 得到多个存活节点, 包括: 接收批量计算任务的调度请求, 并通过所述调度请求获取所述批量计算任务对应的目 标应用信息; 通过预置的服务器心跳机制, 对目标集群中的所有节点进行心跳检测, 得到存活节点 列表; 从所述存活节点列表中提取 所述目标应用信息对应的存活节点, 得到多个存活节点。 5.根据权利要求1所述的批量计算任务的分配方法, 其特征在于, 所述从多个存活节点 中选取目标节点数量的待命节点, 并从所述待命节点中抽取目标节点, 包括: 获取所述目标集群的总节点数量, 并通过预置的节点选取比例值和所述总节点数量计 算目标节点数量; 从多个存活节点中选取所述目标节点数量的待命节点, 并从所述待命节点中随机抽取 一个节点, 得到目标节点。 6.根据权利要求1所述的批量计算任务的分配方法, 其特征在于, 所述通过所述目标节权 利 要 求 书 1/2 页 2 CN 114780222 A 2点从所述批量计算任务中拉取目标任务承载量的计算任务, 并判断所述批量计算任务是否 存在剩余, 包括: 获取所述目标节点对应的目标任务承载量, 并向所述目标节点发送调度指令; 基于所述调度指令, 通过所述目标节点从所述批量计算任务中拉取所述目标任务承载 量的计算任务, 以使得 所述目标节点异步执 行拉取到的计算任务; 判断所述批量计算任务是否存在剩余。 7.根据权利要求1所述的批量计算任务的分配方法, 其特征在于, 所述若所述批量计算 任务中存在剩余, 则抽取下一 目标节点, 并通过下一 目标节点获取下一节点任务承载量的 计算任务, 直至所述批量计算任务中不存在剩余, 包括: S1、 若所述批量计算任务中存在剩余, 则从剩余待命节点中随机抽取下一目标节点, 所 述剩余待命节点 为所有待命节点中除已被抽取的目标节点以外的节点; S2、 通过下一目标节点获取下一节点任务承载量的计算任务, 并判断所述批量计算任 务是否存在剩余; S3、 若所述批量计算任务中存在剩余, 则重复执行步骤S1 ‑S2, 直至所述批量计算任务 中不存在剩余。 8.一种批量计算任务的分配装置, 其特 征在于, 所述批量计算任务的分配装置包括: 接收模块, 用于接收批量计算任务的调度请求, 并通过所述调度请求对目标集群进行 节点探活, 得到多个存活节点; 抽取模块, 用于从多个存活节点中选取目标节点数量的待命节点, 并从所述待命节点 中抽取目标节点; 判断模块, 用于通过所述目标节点从所述批量计算任务中拉取目标任务承载量的计算 任务, 并判断所述批量计算任务是否存在剩余; 循环模块, 用于若所述批量计算任务中存在剩余, 则抽取下一目标节点, 并通过下一目 标节点获取 下一节点任务承载量的计算任务, 直至所述批量计算任务中不存在剩余。 9.一种批量计算任务的分配设备, 其特征在于, 所述批量计算任务的分配设备包括: 存 储器和至少一个处 理器, 所述存 储器中存 储有计算机程序; 所述至少一个处理器调用所述存储器中的所述计算机程序, 以使得所述批量计算任务 的分配设备 执行如权利要求1 ‑7中任意一项所述的批量计算任务的分配方法。 10.一种计算机可读存储介质, 所述计算机可读存储介质上存储有计算机程序, 其特征 在于, 所述计算机程序被处理器执行时实现如权利要求1 ‑7中任一项所述批量计算任务的 分配方法。权 利 要 求 书 2/2 页 3 CN 114780222 A 3
专利 批量计算任务的分配方法、装置、设备及存储介质
文档预览
中文文档
19 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
赞助2.5元下载(无需注册)
温馨提示:本文档共19页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2.5元下载
本文档由 人生无常 于
2024-03-18 07:16:35
上传分享
举报
下载
原文档
(755.0 KB)
分享
友情链接
GB-T 38646-2020 信息安全技术 移动签名服务技术要求.pdf
GW0201-2011 国家电子政务外网 IPSec VPN安全接入技术要求与实施指南.pdf
信通院 - 2023年四季度互联网投融资运行情况.pdf
GB-T 37472-2019 潜水器母船升沉补偿系统通用要求.pdf
GB-T 43498-2023 管路冲刷腐蚀试验方法.pdf
T-GDAEPI 01—2019 固定污染源自动监控系统运行服务规范.pdf
思度安全-DSMM-022 数据供应链安全管理规范V1.0.pdf
GB-T 30760-2024 水泥窑协同处置固体废物技术规范.pdf
GB-T 35856-2018 飞机电气设备绝缘电阻和耐电压试验方法.pdf
GB-T 14264-2009 半导体材料术语.pdf
GB-T 32747-2016 岩土工程仪器安全要求.pdf
GB-T 33645-2017 钢、镍及镍合金的激光-电弧复合焊接工艺评定试验.pdf
GB-T 32293-2015 真空技术 真空设备的检漏方法选择.pdf
GB-T 36399-2018 连续热镀铝硅合金镀层钢板及钢带.pdf
YD-T 0219-2019 电信网和互联网数据安全评估规范.pdf
SN-T 4261-2015 出口中药材中苯并(a)芘残留量的测定.pdf
GB-T 36629.1-2018 信息安全技术 公民网络电子身份标识安全技术要求 第1部分:读写机具安全技术要求.pdf
思度安全-DSMM-019 数据安全事件应急管理规范V1.0.pdf
T-STIC 120051—2021 民用船舶设计服务规范.pdf
T-SMA 0031—2022 智能电力井盖监测模块检验规范 第 3 部分:气体.pdf
1
/
3
19
评价文档
赞助2.5元 点击下载(755.0 KB)
回到顶部
×
微信扫码支付
2.5
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。