博文日记

技术 生活 美食 最新博文

• 低成本部署、微调整、训练大语言模型 Vicuna、LLaMA

  原创

  想要对大语言模型进行微调所需要的硬件资源不是我们普通人能够企及的。如果我们只是想将自己的数据丢给大语言模型进行训练，训练成自己的模型。那么有一种低成本的方案将模型进行训练，然后将模型进行私有化部署

  嘟噜聪2023/05/27 22:49:21 vicuna chatgpt llama gpt vicuna-7b vicuna-13b 模型 大语言模型

  阅读更多

• 基于 LLaMA 模型的 vicuna-7b 安装教程

  原创

  基于FastChat实现web或命令行交互 ## 开始实施 实施之前请先保证你机器有足够的内存和CPU，最好能有16核CPU，64G内存。 这里就不介绍 python环境及显卡区动和cuda

  嘟噜聪2023/05/22 22:53:01 vicuna chatglm chatgpt llama

  阅读更多

• Goland pprof 火焰图

  原创

  > Golang的pprof是一个性能分析工具，可以用于分析程序的CPU、内存使用情况等，可以帮助我们快速定位代码中的性能瓶颈。 ![](http://source.qiniu.cnd.nsin

  嘟噜聪2023/03/02 15:35:32 Golang pprof 火焰图 性能分析 工具 go tools

  阅读更多

• Nginx流量镜像(Mirror)

  原创

  > 流量镜像 (Traffic Mirroring)，通常用于进行应用版本的测试，它将实时流量的副本发送给被镜像的服务。采用这种方法，可以搭建一个与原环境类似的环境以进行测试，从而提前发现问题。由

  嘟噜聪2023/03/02 15:09:47 nginx mirror 流量镜像

  阅读更多

• Goland 创建go文件时自动生成声明

  原创

  我们通常会将文件的相关信息带到注释里，如作者、创建时间、使用的软件等信息。 我们使用Goland写代码时，可以在新建文件时自动将信息带上。 ## 在Goland上配置 如果使用的是macOS

  嘟噜聪2023/02/26 17:14:23 Golang go goland

  阅读更多

• Linux 系统清空删除系统日志的方法

  原创

  在Linux系统下如何定时清除日志，避免因日志文件过大而占满磁盘空间导致系统崩溃。 对于正在写入的文件尽量不要直接交文件删除，否则并不会真正空出磁盘空间。 ### 手动清除 将 `/dev/

  嘟噜聪2022/12/31 21:54:36 linux crontab

  阅读更多

• k8s harbor 重置密码

  原创

  本文只介绍通过kubernetes部署的harbor镜像仓库，而不知道admin密码的方案。 1. 通过什么方式查询初始密码 2. 密码丢失通过什么方式修改密码 ![](http://sour

  嘟噜聪2022/12/23 15:08:53 Docker Kubernetes k8s harbor

  阅读更多

• go-kit 简易图型验证码

  原创

  图形生成包使用的是 [github.com/dchest/captcha](github.com/dchest/captcha)，为了方便go-kit使用，我对期进行了一层封装。 封装之后的包在

  嘟噜聪2022/12/04 19:14:42 Golang go go-kit

  阅读更多

• golang consul 实现简简易的api网关

  原创

  将consul作为服务作为注册中心实现服务发现 > 本期介绍如何通过go-kit写一个简易的网关代理 ## 微服务 > 微服务架构是一种应用架构类型，其中应用会开发为一系列服务。它提供了独立

  嘟噜聪2022/04/02 11:03:05 Golang kplcloud go go-kit consul registry 注册中心 服务发现 gateway 网关

  阅读更多

• golang consul 注册服务

  原创

  介绍一个 go-kit 注册到consul的简单案例，废话不多说，直接上源码。 ![](http://source.qiniu.cnd.nsini.com/images/2022/03/fd/9

  嘟噜聪2022/03/25 17:45:00 Golang kplcloud go-kit consul 注册中心 服务发现

  阅读更多