问题详情
佬们,现在还能免费部署模型至api上了吗?
才入坑,想部署一些70b的至魔搭的api上
- 但是好像看不能选择免费cpu框架的
- 不能选ollama的
- 也选不了具备免费额度的GPU实例。
咨询下,现在怎么才能部署在魔搭的api上?
我想结合cherry-studio用
版权:言论仅代表个人观点,不代表官方立场。转载请注明出处:https://www.stntk.com/question/1718.html
才入坑,想部署一些70b的至魔搭的api上
咨询下,现在怎么才能部署在魔搭的api上?
我想结合cherry-studio用
版权:言论仅代表个人观点,不代表官方立场。转载请注明出处:https://www.stntk.com/question/1718.html
70b太大了吧,亲测8b左右的模型可以免费部署上