365建站器中AI大模型中一键配置本地大模型操作教程:
待添加
这一节讲把本地部署的大模型接到软件里,让内容生成走本机服务而不调用线上接口。入口在软件的 AI 大模型模块,本地模型和线上模型共用同一套参数区,切换后要先确认模型状态是可用,再去做具体任务。
使用前提是本地已经跑起来一个模型服务,并能通过本机地址和端口访问;软件里填的模型名称要和实际提供的一致,名字对不上通常表现为接口能连通但不返回内容。若本地服务没启动就保存了参数,界面上会显示不可用,把服务起来后再刷新状态即可,不必反复重装。
和线上接口相比,本地模型不吃调用额度、内容不出本机,响应速度取决于机器本身。批量生成任务建议先拿少量关键词试跑一轮,把生成长度和字段要求调稳,再交给批量执行。不同版本的参数名称可能略有差别,具体以软件实际界面为准。