WANGYIYANG.CC / ONLINE

翊行代码

Code, one stroke at a time.

翊码行远,仰观星辰 ——用代码丈量世界,以仰望探索未知

Writing

最新文章

  1. MLOps AI
  2. DeepSpeed Python3.10 CUDA Dockerfile

    因为官方目前给到的DockerfilePython是3.6的,所以我自己写了一个Python3.10的Dockerfile,供大家参考。中间删除了一些不必要的包,如果有需要的可以自行添加。

  3. 函数声明和函数实现

    函数声明和函数实现需要分开的主要原因是编译器的编译过程。编译器在一次通过代码时,会按顺序进行解析和编译。当编译器在遇到函数调用的地方时,它需要知道该函数的名称、参数类型和返回类型等信息。函数声明的作用就是提供这些信息,告诉编译器函数的存在和签名。

    Language
  4. MLOps AI
  5. 翻译-LLMOps 开发人员指南:用于操作 LLM 的 MLOps

    在过去几年中,在生产中操作机器学习模型并对其进行有效监控一直是一个新兴话题。每当模型在生产环境中开始以静默方式失败时,进行正确的设置以了解问题并及时对模型进行故障排除至关重要。使用 GPT-4 作为各种传统模型任务的替代品每天都在增长。许多团队今天认为的模型,可能只是未来的一对快速响应。随着团队将大型语言模型部署到生产环境,性能和任务度量方面的相同挑战仍然存在。因此,LLMOps 对于扩展大型语言模型并将其有效地部署到生产环境至关重要。

    LLMOps LLM MLOps AI
  6. Ruby rbenv
  7. LLM NLP 机器学习 AI
  8. MLOps LLM
  9. Other