开源AI平台Lightning AI发布AI编译器“Thunder”以加速模型训练

开源AI平台Lightning AI发布AI编译器“Thunder”以加速模型训练

    正在检查是否收录...

开源人工智能平台Lightning AI宣布与Nvidia合作,发布了名为“Thunder”的下一代AI编译器,旨在加速人工智能模型的训练速度。据Lightning AI称,该编译器在实际场景中相比未优化的代码,可将大型语言模型(LLMs)的训练速度提高高达40%。这一利好消息为AI领域带来了新的技术突破。

“Thunder”编译器的发布标志着Lightning AI在PyTorch开源机器学习框架上迈出的一大步。该公司表示,通过利用多个GPU,这一新工具旨在提高模型训练的效率,并为开发者提供更快速的训练体验。与此同时,“Thunder”采用开源模式,遵循Apache2.0许可,为用户提供了免费使用的机会,这意味着更多开发者可以利用其强大功能。

此前作为Grid AI的Lightning AI,早在2022年就开始了与Nvidia的合作,致力于为PyTorch打造下一代深度学习技术。他们的目标是提供与Nvidia系列产品兼容的解决方案,其中包括torch.compile、nvFuser、Apex、CUDA深度神经网络库(cuDNN)以及OpenAI的Triton等。

除了技术层面的突破,Lightning AI还注重团队建设。他们邀请了PyTorch核心开发者Thomas Viehmann领导“Thunder”编译器项目,以确保其能够为多GPU环境下的生成式AI模型提供支持。这一举措体现了Lightning AI对技术创新和人才培养的重视。

继该公司于2月份发布 Lightning2.2后,Thunder 现已可供使用。 Lightning Studios 的产品可以按四个定价级别购买:个人开发者免费,工程师、研究人员和科学家专业级;初创公司和团队的团队级别,以及大型组织的企业级别。

产品入口:https://top.aibase.com/tool/lightning-ai

开发者pytorch人工智能gpu智能平台免费使用技术创新llms研究人员ai模型科学家智能模型团队建设机器学习框架学习框架生成式ai模型个人开发者lms生成式工程师
  • 本文作者:李琛
  • 本文链接: https://wapzz.net/post-12054.html
  • 版权声明:本博客所有文章除特别声明外,均默认采用 CC BY-NC-SA 4.0 许可协议。
本站部分内容来源于网络转载,仅供学习交流使用。如涉及版权问题,请及时联系我们,我们将第一时间处理。
文章很赞!支持一下吧 还没有人为TA充电
为TA充电
还没有人为TA充电
0
  • 支付宝打赏
    支付宝扫一扫
  • 微信打赏
    微信扫一扫
感谢支持
文章很赞!支持一下吧
关于作者
2.3W+
5
0
1
WAP站长官方

【Stable Diffusion】专栏介绍和文章索引(持续更新中)

上一篇

DriveCoT:全面的开环端到端驾驶数据集和Benchmark

下一篇
  • 复制图片
按住ctrl可打开默认菜单