热门

最新

红包

立Flag

投票

同城

发布
rralucard123
因_果_律 云计算领域优质创作者
4 月前
truerralucard123

《超酷！在手掌大小设备上运行本地 LLM，M5 Cardputer + ModuleLLM 实现教程》
近年来，大语言模型（LLM）发展迅猛，像 OpenAI 的 ChatGPT 备受关注。以往在本地运行 LLM，要么需要能跑 CUDA 的 GPU，要么得是配备大量内存的 Apple Silicon Mac，硬件门槛较高。但如今，嵌入式微控制器用的边缘 LLM 模块不断涌现，为我们带来了新玩法。本文就来分享如何利用 M5Stack 公司推出的信用卡大小且带键盘的计算机 Cardputer，与能运行本地 LLM 的 ModuleLLM 相结合，实现 “在手掌大小设备上运行本地 LLM” 的神奇操作。
——来自博客 https://blog.csdn.net/rralucard123/article/details/145379733

您会尝试制作一个吗(单选)
3 人已经参与 已结束
会的
3人
不打算
0人
评论
1
  • 复制链接
  • 举报
下一条：
量化私募招前端工程师，3-5年经验核心技能1. 前端基础：· 精通 HTML5、CSS3、JavaScript 等前端基础技术。· 熟练掌握 Vue.js 等主流前端框架，并有实际项目开发经验。· 熟悉 Element UI 组件库和 ECharts 图形库的使用。2. UI 设计能力：· 具备 UI 设计经验，熟练使用 Photoshop、Adobe XD 等设计工具。· 能够独立完成界面设计和原型制作。3. 前端工程化：· 了解前端工程化工具（如 Webpack、Gulp），具备构建和优化前端项目的能力。4. 后端基础：· 熟悉 Python，了解 Django、Flask、FastAPI 等后端 Web 框架。· 熟悉 MySQL 数据库设计原理，能够独立完成数据库表结构设计和 SQL 语句编写。5. 部署与优化：· 了解 Gunicorn、Nginx 等服务器的部署、配置与优化。加分项6. 熟悉前端性能优化，能够提升页面加载速度和用户体验。7. 熟悉微信小程序的开发框架、API 及组件，有实际开发经验。8. 具备良好的沟通能力和团队协作精神，能够快速理解业务需求并落地实现。