H800竟然能白嫖了!还能一键部署Open Sora,潞晨云YYDS!
ChatGPT和Sora等AI大模型应用,将AI大模型和算力需求的热度不断带上新的台阶。
如何获得廉价算力,进行AI视频生成等模型开发和应用呢?
前不久,潞晨科技全面开源全球首个类 Sora 架构视频生成模型「Open-Sora 1.0」,根据用户输入的文字生成即可生成想要的视频demo,GitHub上全面开放了整个训练流程,包括数据处理、所有训练细节和模型权重。该项目一经推出,立刻受到了广泛关注,不少小伙伴们都在用户群内秀出了自己的作品。
用户使用Open-Sora生成的视频Demo
备注:受内容发布平台对插入文件大小限制,我们对生成视频进行了压缩处理。
然而,由于硬件算力的稀缺,许多关注者还未能亲自体验这个模型。
潞晨云为您提供了一个便捷且高效的创作空间,让视频生成变得触手可及。通过简单地点击鼠标完成在平台上的注册,您将能够免费且轻松地玩转Open-Sora。
访问平台进行注册:
http://cloud.luchentech.com
不仅好用还便宜的潞晨云
想跑起来Open-Sora等AI任务,还需要有GPU等算力支持。目前主流的AI云主机有AWS、AutoDL、阿里云等。但GPU资源不仅昂贵稀缺,供应商普遍还要求使用者必须预先进行高额投入,按年或提前数个月预付定金。潞晨云不仅提供了便捷易用的AI解决方案,还为力求为广大AI开发者和其他提供了随开随用的廉价算力:
对于使用较稳定的长期需求,在潞晨云还可以按月、按年租用,获得进一步折扣。潞晨云还为新用户准备了多种形式的优惠代金券活动,注册即可白嫖H800、A800、4090、910B等高端算力,构建属于自己的AI大模型!
使用潞晨云部署Open-Sora
1.注册潞晨云并创建云主机
(1)注册
进入潞晨云网站注册账号:
http://cloud.luchentech.com
(2)创建云主机
新注册用户自动获得代金券额度!打开算力市场,按照计费方式、地区、显卡型号筛选可供租用的机器。
可以看到如图所示的控制台页面,右边是两台可用的服务器,每台上有8块可租用的GPU,我们选择一个,在这里我们点击“8卡可租”按钮,进入算力市场界面。
Open-Sora推理可以在单卡H800上完成),因此,此处选择1卡H800。接下来,主要看硬盘容量是否够用,以及选择正确的镜像。
对于通用任务,可以选择 "Colossal-AI" 镜像。 潞晨云内置了Open-Sora镜像,免去您繁琐的环境配置和安装过程,只需准备好您的prompt,即可轻松生成符合您想象的精彩视频内容。选择"OpenSora (1.0)"可以免去手动配置Open-Sora环境,开箱即用。
最后,点击“创建”,即可完成潞晨云云主机的创建。
2、WebUI运行环境配置
(1)运行JupyterLab
JupyterLab是一个十分便捷的数据科学生产工具,可以便捷地执行Linux命令及查看执行结果。点击实例右侧的JupyterLab即可进入相应界面。
可选:配置本地ssh免密登录
ssh公钥一般在本地.ssh文件夹中后缀为.pub的文件中;如果您的电脑还不具有这样的公钥,可以参考以下链接生成一个:
https://docs.github.com/zh/authentication/connecting-to-github-with-ssh/generating-a-new-ssh-key-and-adding-it-to-the-ssh-agent
在用户管理界面中,您可以设置您的公钥。点击 SSH 公钥 栏中的配置按钮,选择添加新SSH公钥,自定义您的公钥名并复制您刚刚生成的公钥。
添加密钥后您在潞晨云上启动的云主机,便可通过复制ssh登录指令实现在本地终端中免密登录。
3、运行OpenSora推理
进入JupyterLab后,然后点击terminal新建一个终端
也可以配置ssh,在本地终端或者vscode中登录。
潞晨云Open-Sora镜像中内置了运行环境,同时预置了Open-Sora权重,可以给到您开箱即用的体验。您可以通过如下指令启动Open-Sora的环境并从公有数据中拷贝Open-Sora权重。
Bash
source .bashrc
conda activate opensora
mkdir -p /root/.cache/huggingface/hub
ln -s /root/notebook/common_data/OpenSora-1.0/models--stabilityai--sd-vae-ft-ema /root/.cache/huggingface/hub/models--stabilityai--sd-vae-ft-ema
ln -s /root/notebook/common_data/OpenSora-1.0/models--DeepFloyd--t5-v1_1-xxl /root/.cache/huggingface/hub/models--DeepFloyd--t5-v1_1-xxl
现在进入Open-Sora目录下,运行以下指令,即可在命令行中运行OpenSora的推理!
Bash
cd Open-Sora/
python -m torch.distributed.run --standalone --nproc_per_node 1 scripts/inference.py configs/opensora/inference/16x512x512.py --ckpt-path /root/notebook/common_data/OpenSora-1.0/OpenSora-v1-HQ-16x512x512.pth --prompt-path ./assets/texts/t2v_samples.txt
可选:运行Open-Sora gradio WebUI
前提:您已经完成上面A或者B中的某一步
运行下面的指令
Bash
pip install spaces
ln -s /root/notebook/common_data/OpenSora-1.0/models--hpcai-tech--OpenSora-STDiT-v1-HQ-16x256x256 /root/.cache/huggingface/hub/models--hpcai-tech--OpenSora-STDiT-v1-HQ-16x256x256
cp /root/notebook/common_data/OpenSora-1.0/frpc_linux_amd64_v0.2 /root/.local/lib/python3.10/site-packages/gradio/frpc_linux_amd64_v0.2
cd /root/.local/lib/python3.10/site-packages/gradio/
chmod +x frpc_linux_amd64_v0.2
cd /root/Open-Sora
python gradio/app.py --share
等待片刻即可
复制分享链接,在浏览器打开,可以直接在网页上输入prompt生成视频。
4、查看推理结果
等待推理完成,我们打开output文件夹,可以看到产生的视频
TIPS:潞晨云的按需付费真是太方便了!使用完毕后别忘了关机哦,省钱又环保!
40万元福利大放送!羊毛速薅
潞晨云已准备首期总金额40万元的代金券,后续还会不断放出,可以持续关注!指路链接:
cloud.luchentech.com
•注册即送:前3000名新账户注册即送50元代金券,便捷试用多种AI算力。
•企业认证:完成企业认证的账户可额外获得1000元代金券,可稳定测试多机H800等稀缺资源。
•在线评价:用户在社交媒体和专业论坛(如知乎、小红书、微博、CSDN等)上分享使用体验,有效分享一次可得100元代金券。每月最佳分享可额外再获500元代金券(根据点赞、评论等真实活跃度;每个账号最多每月各计一次;发布24小时后请找小客服核对验证)
点击阅读原文即可参与活动。
微信扫码关注该文公众号作者