在Modal平台上部署ComfyUI接口

  • 配置云服务的token
pip install modal
# 我设置过环境变量，所以是python -m modal setup
python3 -m modal setup
# token写入地址: Token written to C:\Users\XXX/.modal.toml in profile junmin.

  • 试用ComfyUI部署的功能
    Run Flux on ComfyUI as an API
    遇到的坑，执行脚本里的这行代码时报错，需要在末尾明确指定cuda的版本
    comfy --skip-prompt install --fast-deps --nvidia --version 0.3.10 --cuda-version 12.4

  • 从huggingface下载可能比用comfy cli更快，但是用的缓存Volum, 应该只影响第一次下载

  • Client的代码里，文件名要加入时间戳的尾缀，不然提示词开头一样就覆盖了，即

filename = OUTPUT_DIR / f"{slugify(args.prompt)}_{end_time}.png"

(未完待续)

©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容