(原创)PBS | SGE 智能任务投递系统monitor | python实现
2024-08-29 13:17:16
之前看到过高手写的一个monitor,用python面向对象实现的,依赖几个核心的python包,drmaa,zodb,理论上来说解决了所有的任务投递问题。
但是在复杂的集群环境下还是会经常出问题,这就是更复杂的调试了,需要对集群环境有深刻的认识。
这里不搞那么复杂的东西,就是在一个单一的PBS集群里写一个monitor,智能的投递任务。
但是我现在这个集群有几个非常不智能的地方,需要我克服:
1. 每个任务的内存、cpu和运行时间受限,必须要根据内存和cpu来指定投递的节点类型;需要用户估计内存和cpu
2. 不能无限pending,就是你同一时间排队的任务数量受限;
3. 更个性化的环境下,可以指定每一个任务的内存和cpu,但是我这个脚本不考虑,默认所有任务同内存和cpu;
4. 每投递一个任务,首先需要搞清楚请求的内存和cpu,从而决定投递到哪个节点;其次就是判断节点是否有排队的任务,如果有一个了,那就移到下一节点,直至全满;
这里只采用函数封装的方法来写,懒得写出对象。
最新文章
- Spring基础
- 类似 Google Tips 页面的卡片式提示和翻转特效
- 编写更少量的代码:使用apache commons工具类库
- 软件项目第一个Sprint评论
- BSS Audio® Introduces Full-Bandwidth Acoustic Echo Cancellation Algorithm for Soundweb London Conferencing Processors
- [Xamarin.iOS] Visual Studio中Xamarin.iOS项目,无法加入PCL项目参考、NuGet组件参考
- apt-get常用命令
- Maven集成Sonar
- c/c++常用代码--udp多播
- 【Linux】基础配置-修改命令提示符的风格
- mysql导入导出数据
- C++版 - 剑指offer 面试题39:判断平衡二叉树(LeetCode 110. Balanced Binary Tree) 题解
- JVM(二)—— 类加载机制
- i春秋-百度杯十月场-EXEC
- Histogram of Oriented Gridients(HOG) 方向梯度直方图
- Kotlin enum class 匿名类实例
- Matlab产生波形数据文件
- Oracle怎么修改字段类型
- HttpMethods(C#.net)
- http协议与url简介(转)