Candle 是由 Hugging Face 开源的 ML 框架。Candle 一改机器学习惯用 Python 的做法,而是采用 Rust 编写,重点关注性能(包括 GPU 支持)和易用性。根据 Hugging Face 的介绍,Candle 的核心目标是让 Serverless 推理成为可能。Candle 允许部署轻量级二进制文件,还允许用户从生产工作负载中移除 Python。

Candle 的当前版本已经支持当前最前沿的模型,比如 llama2。经过改写的模型能够方便、快速地运行在容器环境中,甚至可以运行在浏览器中。这一举措为边缘 AI 带来了更广阔的应用场景。

🔍 你可以在这里了解 Candle 的详情:https://github.com/huggingface/candle





为何基于 Rust 编写

Hugging Face 为什么选择用 Rust 语言来重写这个 ML 框架?

Rust 是一种系统编程语言,以其出色的性能、内存安全和并发性而闻名,在区块链和 Web3 中广泛应用,大多数编程语言和开发框架都以 Rust 为核心,如 Polkadot、Solana、NEAR、Elrond(现名 MultiversX)、Hyperledger Sawtooth 等众多优质区块链项目都使用 Rust 语言开发,或用 Rust 语言开发其上的智能合约。

Rust 为无数技术和工具的突破提供了底层开发支撑,是面向未来的区块链技术语言。在 Rust 的帮助下,开发者能够专注于构建核心业务逻辑,进一步推动 Web3 项目的开发与创新。





Rust Candle 初试

本周三晚的「Rust 唠嗑室」我们就将深入介绍 Candle,揭开其神秘面纱,还将展示 Candle 代码的开发过程及 AI 框架展望。一起加入我们,探索 Rust 编程的新世界!

活动时间

1 月 3 日 周三 20:00 UTC+8

活动流程

20:00-20:30 Rust Candle 初试

20:30-21:00 Rust 新闻播报&线上交流会

活动嘉宾

主持人:TinTinLand 社区经理 Tracy

嘉宾:Rust.CC 发起人 Mike

活动语言

中文

活动形式

腾讯会议:https://meeting.tencent.com/dm/zoyQUAJBKjJY

或输入会议号:739-210-718


「Rust 唠嗑室」由 TinTinLand 和 Rust.CC 共同倡导,定期双周举行的线上活动。聚焦于实用案例分享、编程技巧传授,邀请 Rust 开发大咖与主持人共同分享最新应用案例和编程心得,同时呈现 Rust 领域的最新动态和资讯。不仅如此,在线听众更可融入讨论,共同促进 Rust 社区的发展与交流。不容错过的 Rust 交流盛会,每次活动,皆为 Rust 开发者们带来前沿见解与灵感。



往期精彩

Rust 训练营挑战赛 Demo Day 揭晓,一睹晋级项目精彩赛况

巧用 Rust 开启 Web3 开发之旅|Rust 训练营宣讲会精彩回顾

浅谈 Binius:用 Rust 实现的硬件优化 SNARK 协议


关于我们

ABOUT US



TinTinLand 是赋能下一代开发者的技术社区,通过聚集、培育、输送开发者到各开放网络,共同定义并构建未来。


Discord: https://discord.gg/kmPnTDSFu8

Twitter: https://twitter.com/OurTinTinLand

Bilibili: https://space.bilibili.com/1152852334

Medium: https://medium.com/@tintin.land2021

YouTube: https://www.youtube.com/channel/UCfHiMcFt-4btbC75FsReQh