跳转到内容
无痕工具库 无痕工具库

Hostinger Ollama VPS 模板使用教程

Ollama 是一个多功能平台,专为运行和微调机器学习模型而设计,包括 Llama3 等高级语言模型。Hostinger 上的 Ollama VPS 模板预装了 Ollama、Llama3 模型和 Open WebUI,为你提供管理和运行这些模型的高效方式。本教程将带你逐步完成 Ollama 的访问和设置。

如果你还没有 VPS,可以在这里查看可用选项:LLM VPS 主机方案

访问 Ollama

打开你的浏览器,访问:

https://[your-vps-ip]:8080

将其中的 [your-vps-ip] 替换为你的 VPS 的 IP 地址。

首次访问时,系统会提示你创建账户:

Open WebUI 注册表单,包含姓名、邮箱、密码字段和创建账户按钮

这些将作为你后续访问时的登录凭据。

熟悉 Open WebUI

登录后,你可以浏览 Open WebUI 控制面板,在其中可以:

  • 监控活跃的模型
  • 上传新的数据集和模型
  • 跟踪模型训练和推理任务

Ollama 聊天机器人主屏幕,已选择 llama3 模型并显示提示建议卡片

预装的 Llama3 模型可以通过该界面进行微调和管理。你还可以点击齿轮图标打开设置,选择 Models 来添加更多模型:

Ollama 设置弹窗,位于 Models 标签页,突出显示 Manage Ollama Models 服务器字段

使用 Llama3 运行推理

你可以直接通过 Open WebUI 界面使用 Llama3 预训练模型进行推理,输入自定义提示词或数据集,观察模型的响应。

调整超参数,并尝试基于自定义数据进行微调,以提升性能:

Ollama VPS 模板页面,显示 My Modelfiles 表单,包含内容编辑器和 Save & Create 按钮

需要注意的是,模型的响应速度在很大程度上取决于所使用的具体语言模型以及可用的 CPU 核心数。参数更多的大型模型通常需要更多计算资源。如果你希望扩展机器学习项目,可以考虑**升级你的 VPS**,获得更多 CPU 核心,以实现最佳性能。

更多资源