资源分配方法、装置、设备及存储介质[发明专利]

来源：抵帆知识网

专利内容由知识产权出版社提供

专利名称：资源分配方法、装置、设备及存储介质专利类型：发明专利发明人：陈聪捷

申请号：CN202011108222.7申请日：20201016公开号：CN112035266A公开日：20201204

摘要：本申请涉及一种资源分配方法、装置、设备及存储介质。该方法包括：获取多个模型服务的三元组中模型实例数量与每个模型实例对应的计算资源利用率的预设关系、计算资源利用率阈值；根据该预设关系以及计算资源利用率阈值，确定每个模型服务的目标模型实例数量；将每个模型服务的目标模型实例数量对应的计算资源利用率的值作为每个模型服务的每个目标模型实例对应的目标计算资源利用率；获取每个模型服务的每个目标模型实例对应的目标显存资源利用率；基于每个目标模型实例对应的目标计算资源利用率和每个目标模型实例对应的目标显存资源利用率，将每个模型服务的目标模型实例分配至对应的GPU。可以有效提高GPU的资源利用率。

申请人：腾讯科技(深圳)有限公司

地址：518057 广东省深圳市南山区高新区科技中一路腾讯大厦35层

国籍：CN

代理机构：广州三环专利商标代理有限公司

更多信息请下载全文后查看

因篇幅问题不能全部显示，请点此查看更多更全内容

查看全文