每日AIGC最新进展(25):复旦大学提出参数高效微调框架Adapter-X、上海交通大学提出大型多模态模型新测试标准A-Bench、腾讯提出统一多模态布局生成框架PosterLLaVa

每日AIGC最新进展(25):复旦大学提出参数高效微调框架Adapter-X、上海交通大学提出大型多模态模型新测试标准A-Bench、腾讯提出统一多模态布局生成框架PosterLLaVa

    正在检查是否收录...

Diffusion Models专栏文章汇总:入门与实战

Adapter-X: A Novel General Parameter-Efficient Fine-Tuning Framework for Vision

本文提出了一种新的参数高效微调框架ADAPTER-X,旨在解决视觉模型在不同任务间平衡高效率与良好泛化能力的问题。随着基础模型规模的增长,参数高效微调(PEFT)变得尤为重要。ADAPTER-X通过引入Sharing Mixture of Adapters(SMoA)模块,实现了在不同块之间共享适配器,增加了可训练参数的数量,并通过动态分配策略优化了参数的使用效率。

ADAPTER-X的核心创新在于其SMoA模块,该模块允许不同块从共享的适配器库中递归选择最合适的适配器。这种设计不仅减少了参数数量,还实现了对每个块的动态参数分配和块间共享。此外,框架还包括

适配器泛化能力fine-tuning视觉模型高效率diffusion基础模型
  • 本文作者:李琛
  • 本文链接: https://wapzz.net/post-17019.html
  • 版权声明:本博客所有文章除特别声明外,均默认采用 CC BY-NC-SA 4.0 许可协议。
本站部分内容来源于网络转载,仅供学习交流使用。如涉及版权问题,请及时联系我们,我们将第一时间处理。
文章很赞!支持一下吧 还没有人为TA充电
为TA充电
还没有人为TA充电
0
  • 支付宝打赏
    支付宝扫一扫
  • 微信打赏
    微信扫一扫
感谢支持
文章很赞!支持一下吧
关于作者
2.3W+
5
0
1
WAP站长官方

AI绘画ComfyUI工作流安装教程,新手入门安装部署教程

上一篇

不管黑丝或者白丝还是想撕坏它,都可以用LoRA(Stable Diffusion进阶篇:ComfyUI 附加网络)

下一篇
  • 复制图片
按住ctrl可打开默认菜单