当前位置: 首页>编程语言>正文

最强开源大模型Meta LIama3抢先在线体验!

4月19日Facebook母公司Meta重磅推出了其迄今最强大的开源人工智能(AI)模型——Llama 3。模型分为两种规模:8B 和 70B 参数,每种规模都提供预训练基础版和指令调优版。最强开源大语言模型Meta LIama3可以在线体验啦!

https://gpumall.com/login?type=register&source=51cto

作为最强开源大模型,LIama3性能卓越,颇有亮点!比如与LIama2相比采用新的 Tokenizer,将词汇表大小扩展至 128,256,支持更高效地编码文本;基于超过15T token训练,相当于Llama 2数据集7倍还多;配备Llama Guard 2等新一代的安全工具等,而且目前在多个行业标准测试中Llama 3表现相当出色。此外,8B 版本的模型现在采用了分组查询注意力(GQA),这是一种效率更高的表达方式,有助于处理更长的上下文。


这么卓越的性能必须抢先体验!GpuMall为大家立马安排上啦!

到哪里可以找到?怎么使用?LIama3操作指南火速奉上!


LIama3操作指南

1. 选择镜像

点击社区镜像,选择meta-llama/LIama3/Llama3-8-Instruct-WebUI镜像

最强开源大模型Meta LIama3抢先在线体验!,最强开源大模型Meta LIama3抢先在线体验!_开源,第1张

2. 创建实例

点击创建实例。通过该模型创建实例,需要使用16G以上显存GPU,建议使用 3090 或 4090,否则因显存问题无法载入模型。

最强开源大模型Meta LIama3抢先在线体验!,最强开源大模型Meta LIama3抢先在线体验!_矩池云_02,第2张

3. 创建自定义端口

① 实例创建成功后,点击更多-创建自定义端口

最强开源大模型Meta LIama3抢先在线体验!,最强开源大模型Meta LIama3抢先在线体验!_矩池云_03,第3张

② 输入7860端口(该端口为实例中 text-generation-webui 监听的端口),然后点击确定

最强开源大模型Meta LIama3抢先在线体验!,最强开源大模型Meta LIama3抢先在线体验!_Facebook_04,第4张

③ 端口重置成功后点击自定义端口7860,跳转到Llama3模型的web控制台

最强开源大模型Meta LIama3抢先在线体验!,最强开源大模型Meta LIama3抢先在线体验!_矩池云_05,第5张

4. 载入模型

① 选择菜单栏Model

② 切换模型为Meta-Llama-3-8B-Instruct

最强开源大模型Meta LIama3抢先在线体验!,最强开源大模型Meta LIama3抢先在线体验!_llama_06,第6张

③ 点击Load加载模型,等待模型加载成功

最强开源大模型Meta LIama3抢先在线体验!,最强开源大模型Meta LIama3抢先在线体验!_矩池云_07,第7张

5. 使用模型

模型加载成功后,切换到Chat,此时可以开始使用Meta-Llama-3-8b-instruct模型进行对话#AutoDL#矩池云#autodl#算力云#GPU#GpuMall#GpuMall智算云#AI#大模型#开源#Meta Llama3#AutoDL算力云#Facebook#镜像

最强开源大模型Meta LIama3抢先在线体验!,最强开源大模型Meta LIama3抢先在线体验!_矩池云_08,第8张


复制下方链接至浏览器,直达镜像社区一键体验LIama3!

https://gpumall.com/image-list



https://www.xamrdz.com/lan/5j21930509.html

相关文章: