AI 模型边缘部署

文章目录

• • 这个文档主要是记录最新开源AI模型的部署
  • 整体架构流程
  • 技术名词解释
  • 技术细节
  • 小结

这个文档主要是记录最新开源AI模型的部署

开发环境的搭建、python数据处理、常规机器学习知识、开源模型、实际项目部署验证

anacoda 用于python版本管理，创建合适的Python环境保证一些包可以支持使用

参考文献： anaconda常用命令大全（保姆级别建议收藏)
打开

# 1. 环境创建
conda  create  --name  env_name
conda  create  --name  env_name python=3.6 # 创建指定python版本
conda  create  --name  env_name python=3.6 pandas numpy scipy # 创建指定python版本下包含某些包

#  2.激活/使用/进入某个虚拟环境
activate  env_name

#  3.退出当前环境
deactivate

# 4.删除某个环境
conda  remove  --name  env_name  --all

# 5.复制某个虚拟环境
conda  create  --name  new_env_name  --clone  old_env_name

# 6.查看当前所有环境
conda  info  --envs   或者  conda  env  list

# 7.查看当前虚拟环境下的所有安装包
conda  list  需进入该虚拟环境
conda  list  -n  env_name

# 8.安装或卸载包(进入虚拟环境之后）
conda  install  requests
conda  install  xx=版本号  # 指定版本号
conda  install  xxx -i 源名称或链接 # 指定下载源
conda  uninstall  xxx

# 9.分享虚拟环境
conda env export > environment.yml  # 导出当前虚拟环境
conda env create -f environment.yml  # 创建保存的虚拟环境

# 10.源服务器管理
conda config --show-sources #查看当前使用源
conda config --remove channels 源名称或链接 #删除指定源
conda config --add channels 源名称或链接 #添加指定源

举例：
conda config --add channels  https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels  https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/

# 11.批量导出虚拟环境中的所有组件
conda list -e > requirements.txt  # 导出
conda install --yes --file requirements.txt  # 安装

# 12.当前环境下的python环境版本
python --version

anacoda下juypter 启动

打开Anaconda Prompt，激活虚拟环境

conda activate env_name #进入指定环境

键入 jupyter notebook

ctrl+c 多次可以退出  //不理先

ctrl + entert 运行本单元
alt +enter 运行本单元，在下面插入一单元
A 上方添加单元cell
B上方添加单元cell
DD上方添加单元cell
shift-M 选中多个单元
F 弹出“查找和替换”菜单

vscode 配置不同版本的python 环境，使用anacoda生成的虚拟环境，选中，使用run python file，才能实际去使用到选中的环境，否则，使用run code 可能不是用到这个配置的python环境，以及代码需要编辑需要时UTF-8下来编辑

语音模型部署测试

实际部署时，可能需要一定的现存，借助开源平台

切换工作目录，再打开jupyter

基于jupyter notebook的python编程-----运用sklearn库，导入文件数据模拟一元线性回归分析

整体架构流程

提示：这里可以添加技术整体架构

例如：
在语言模型中，编码器和解码器都是由一个个的 Transformer 组件拼接在一起形成的。

技术名词解释

提示：这里可以添加技术名词解释

例如：

• Bert
• GPT 初代
• GPT-2
• GPT-3
• ChatGPT

视频转换为文本

技术细节

提示：这里可以添加技术细节

例如：

• API
• 支持模型类型

小结

提示：这里可以添加总结

例如：

提供先进的推理，复杂的指令，更多的创造力。