跳到正文

技术方向

端侧 AI 最新动态

直接跑在手机、电脑等设备上的 AI:小模型、在本机运行模型的工具与端侧芯片。

21 条精选近 30 天 19 条共收录 46 条

更新

精选归档 · 第 2 页

7月29日周三第 21–21 条
  1. Berkeley AI Research78

    从 CUDA 到 MLX:K-Search 如何将数十年内核专家知识引入 Apple Silicon

    该研究提出了一种将 CUDA 专家知识自动迁移到 Apple Silicon 的方法,通过构建 CUDA 到 MLX 的翻译层,使 K-Search 框架能够利用现有的高性能 CUDA 内核作为知识基础,将优化策略适配到 Apple Silicon 架构上。

    推荐理由:该研究展示了如何利用 K-Search 框架结合 CUDA 到 MLX 的翻译层,将 NVIDIA 的专家级内核优化知识自动迁移到 Apple Silicon 上,使 AI 驱动的搜索能独立达到专家水平性能,为跨架构内核优化提供了可复用的方法。