问题描述
我们可以一起使用一些CPU和一些GPU计算机创建DASK群集.如果是的,如何控制某个任务必须仅在CPU机器上运行,或者只能在GPU机器上运行某些其他类型的任务,并且如果未指定,则应选择任何机器.?
dask是否支持这种类型的群集.什么是控制在特定CPU/GPU机器上运行的任务的命令?
推荐答案
您可以指定DASK工人具有某些抽象资源
dask-worker scheduler:8786 --resources "GPU=2" dask-worker scheduler:8786 --resources "GPU=2" dask-worker scheduler:8786 --resources "MEMORY=100e9"
,任务在执行过程中会消耗这些资源.
processed = [client.submit(process, d, resources={'GPU': 1}) for d in data] final = client.submit(aggregate, processed, resources={'MEMORY': 70e9})
您可以将其用于与GPU建模的机器.请注意,这些术语GPU和内存只是抽象术语.他们很容易成为foo和bar.
请参阅 Worker Resources的文档有关更多信息.