Transformers仓库是HuggingFace公司开源的非常火的预训练模型仓库，它把预训练模型处理的流程抽象包装成了高级的api接口，非常适合掉包侠快速使用。但如果是新手第一次分析源码，拆开一步步的功能的话，是有一定学习成本的。而且仓

为什么要编译so 源码安全： 当服务部署后，别人很容易进入docker容器内部，对你的py脚本一览无余。 即使py脚本编译pyc再部署，也是可以很轻易反编译的。但是若编译成so文件，反编译成本就非常高了。 什么是so文件Unix系統下

简要在docker容器很多的服务器上，一次性关掉所有服务时经常因为一些进程卡住等奇怪的问题，把docker服务卡住，本文记录了一个暴力的方式清理docker容器的方法 docker服务卡住处理过程1. 关闭所有docker容器时出现个别

为什么要压缩瘦身 空间：镜像占满硬盘 时间：拉取镜像缓慢 修改前后的dockerfile先上修改后的dockerfile FROM python:3.8-slim COPY /.build/ft/ /app/ COPY /patch/n

项目地址 提供一款中文版生成式摘要服务。 提供从数据到训练到部署，完整流程参考。初衷由于工作需要，在开源社区寻找汉语生成摘要模型时，几乎找不到可用的开源项目。 本项目在英文生成式摘要开源项目Text-Summarizer-Pytorch

简要本文记录了在同样硬件设备上的pytorch与tensorflow的推断对比，仅供参考。 数据cpu：20核 gpu：1080 跑一百次推断平均花费时间(ms) token个数 tf_cpu（v: 2.3.0） tf_gpu（v

简要elasticsearch在7+的版本上，支持把向量存储入字段中，进行距离搜索，本文记录了向量存储数据库的硬盘占用情况 1. 在es数据库上mapping向量字段数据类型1.1 dense_vector A dense_vector

简要这是一个实验记录，用GPU搭建flask服务器的资源释放优化过程 跑cpu的模型服务中跑模型训练时，从主进程分出子进程运行模型训练代码 import multiprocessing as mp while True: _