从零入门AI生图原理&实践是Datawhale AI 夏令营（第四期）“AIGC”方向的学习活动，基于魔搭社区“可图Kolors-LoRA风格故事挑战赛”开展的实践学习。
在task01中，我们主要在魔搭社区搭建PAI实例并体验一下baseline~
学习链接：https://linklearner.com/activity/14/10/24
赛题任务
参赛者需在可图Kolors 模型的基础上训练LoRA 模型，生成无限风格，如水墨画风格、水彩风格、赛博朋克风格、日漫风格......
基于LoRA模型生成 8 张图片组成连贯故事，故事内容可自定义；基于8图故事，评估LoRA风格的美感度及连贯性 样例：偶像少女养成日记
速通指南
开通阿里云PAI-DSW试用
链接：https://free.aliyun.com/?productCode=learn
在魔搭社区进行授权
链接：https://www.modelscope.cn/my/mynotebook/authorization
（以上图例来自Datawhale AI 夏令营（第四期）“AIGC”方向的“从零入门AI生图原理&实践”）
报名赛事
赛事链接：https://tianchi.aliyun.com/competition/entrance/532254
在魔搭社区创建PAI实例
链接：https://www.modelscope.cn/my/mynotebook/authorization
（以上图例来自Datawhale AI 夏令营（第四期）“AIGC”方向的“从零入门AI生图原理&实践”）
体验Baseline！
打开实例
下载文件
在终端中运行以下代码
git lfs install git clone https://www.modelscope.cn/datasets/maochase/kolors.git进入得到的kolors文件夹，打开baseline文件
安装环境，然后重启kernel
如果想要不同的图片风格，可以依次调整8段prompt来修改图片的描述
依次运行剩余代码
生成的图像在这里
微调结果上传魔搭
移动结果文件
打开terminal（终端）并运行以下代码
mkdir /mnt/workspace/kolors/output & cd cp /mnt/workspace/kolors/models/lightning_logs/version_0/checkpoints/epoch\=0-step\=500.ckpt /mnt/workspace/kolors/output/ cp /mnt/workspace/kolors/1.jpg /mnt/workspace/kolors/output/下载结果文件
进入output文件夹，分别下载两个文件到本地
创建并上传模型所需内容
链接：https://www.modelscope.cn/models/create
流程如下：
（以上图例来自Datawhale AI 夏令营（第四期）“AIGC”方向的“从零入门AI生图原理&实践”）
最后记得关闭PAI实例，不然会一直消耗试用额度的
链接：https://www.modelscope.cn/my/mynotebook/authorization
代码详情
以下是Baseline中的代码解释
环境安装
!pip install simple-aesthetics-predictor !pip install -v -e data-juicer !pip uninstall pytorch-lightning -y !pip install peft lightning pandas torchvision !pip install -e DiffSynth-Studio代码导入了需要用到的库，包括 data-juicer 和微调的工具 DiffSynth-Studio
下载数据集
#下载数据集 from modelscope.msdatasets import MsDataset ds = MsDataset.load( 'AI-ModelScope/lowres_anime', subset_name='default', split='train', cache_dir="/mnt/workspace/kolors/data" ) import json, os from data_juicer.utils.mm_utils import SpecialTokens from tqdm import tqdm os.makedirs("./data/lora_dataset/train", exist_ok=True) os.makedirs("./data/data-juicer/input", exist_ok=True) with open("./data/data-juicer/input/metadata.jsonl", "w") as f: for data_id, data in enumerate(tqdm(ds)): image = data["image"].convert("RGB") image.save(f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg") metadata = {"text": "二次元", "image": [f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg"]} f.write(json.dumps(metadata)) f.write("\n")下载数据集kolors
处理数据集，保存数据处理结果
data_juicer_config = """ # global parameters project_name: 'data-process' dataset_path: './data/data-juicer/input/metadata.jsonl' # path to your dataset directory or file np: 4 # number of subprocess to process your dataset text_keys: 'text' image_key: 'image' image_special_token: '<__dj__image>' export_path: './data/data-juicer/output/result.jsonl' # process schedule # a list of several process operators with their arguments process: - image_shape_filter: min_width: 1024 min_height: 1024 any_or_all: any - image_aspect_ratio_filter: min_ratio: 0.5 max_ratio: 2.0 any_or_all: any """ with open("data/data-juicer/data_juicer_config.yaml", "w") as file: file.write(data_juicer_config.strip()) !dj-process --config data/data-juicer/data_juicer_config.yaml import pandas as pd import os, json from PIL import Image from tqdm import tqdm texts, file_names = [], [] os.makedirs("./data/lora_dataset_processed/train", exist_ok=True) with open("./data/data-juicer/output/result.jsonl", "r") as file: for data_id, data in enumerate(tqdm(file.readlines())): data = json.loads(data) text = data["text"] texts.append(text) image = Image.open(data["image"][0]) image_path = f"./data/lora_dataset_processed/train/{data_id}.jpg" image.save(image_path) file_names.append(f"{data_id}.jpg") data_frame = pd.DataFrame() data_frame["file_name"] = file_names data_frame["text"] = texts data_frame.to_csv("./data/lora_dataset_processed/train/metadata.csv", index=False, encoding="utf-8-sig") data_framelora微调
# 下载模型 from diffsynth import download_models download_models(["Kolors", "SDXL-vae-fp16-fix"]) #模型训练 import os cmd = """ python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py \ --pretrained_unet_path models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors \ --pretrained_text_encoder_path models/kolors/Kolors/text_encoder \ --pretrained_fp16_vae_path models/sdxl-vae-fp16-fix/diffusion_pytorch_model.safetensors \ --lora_rank 16 \ --lora_alpha 4.0 \ --dataset_path data/lora_dataset_processed \ --output_path ./models \ --max_epochs 1 \ --center_crop \ --use_gradient_checkpointing \ --precision "16-mixed" """.strip() os.system(cmd)加载微调好的模型
from diffsynth import ModelManager, SDXLImagePipeline from peft import LoraConfig, inject_adapter_in_model import torch def load_lora(model, lora_rank, lora_alpha, lora_path): lora_config = LoraConfig( r=lora_rank, lora_alpha=lora_alpha, init_lora_weights="gaussian", target_modules=["to_q", "to_k", "to_v", "to_out"], ) model = inject_adapter_in_model(lora_config, model) state_dict = torch.load(lora_path, map_location="cpu") model.load_state_dict(state_dict, strict=False) return model # Load models model_manager = ModelManager(torch_dtype=torch.float16, device="cuda", file_path_list=[ "models/kolors/Kolors/text_encoder", "models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors", "models/kolors/Kolors/vae/diffusion_pytorch_model.safetensors" ]) pipe = SDXLImagePipeline.from_model_manager(model_manager) # Load LoRA pipe.unet = load_lora( pipe.unet, lora_rank=16, # This parameter should be consistent with that in your training script. lora_alpha=2.0, # lora_alpha can control the weight of LoRA. lora_path="models/lightning_logs/version_0/checkpoints/epoch=0-step=500.ckpt" )图片生成
torch.manual_seed(0) image = pipe( prompt="二次元，一个紫色短发小女孩，在家中沙发上坐着，双手托着腮，很无聊，全身，粉色连衣裙", negative_prompt="丑陋、变形、嘈杂、模糊、低对比度", cfg_scale=4, num_inference_steps=50, height=1024, width=1024, ) image.save("1.jpg")调用训练好的模型生成图片
文生图基础知识介绍
文生图主要以SD系列基础模型为主，以及在其基础上微调的lora模型和人物基础模型等。
提示词（Prompt）
提示词可以分为正向提示词（Positive Prompt）和反向提示词（Negative Prompt），它们分别用于确定生成内容和排除不希望出现的元素。其中，正向提示词用于表明用户希望生成的内容类型、风格、质量等要求，而反向提示词则用于排除用户不希望出现的元素或特征，从而确保生成的内容符合用户的期望。
Lora
Lora（Low-Rank Adaptation，即低秩自适应）模型是一种轻量级的微调方法，它不是指单一的具体模型，而是指一类通过特定微调技术应用于基础模型的扩展应用。在处理图像和文本等复杂数据时，Lora模型通过学习和调整神经网络中特定层的权重，以较小的参数代价实现模型对特定任务的适应，从而在不显著影响原始模型性能的前提下，提高模型在特定任务上的表现。在Stable Diffusion这一文本到图像合成模型的框架下，Lora被用来对预训练好的大模型进行针对性优化，以实现对特定主题、风格或任务的精细化控制。
Lora的特点
低秩自适应：Lora模型通过引入低秩矩阵来近似原始模型中的权重变化，从而减少了需要学习的参数数量。这种方法可以在微调过程中更加高效。
灵活性：Lora模型可以应用在多种预训练模型上，例如GPT、BERT等。此外，Lora模型还可以与其他微调技术结合使用，从而进一步提高效率。
高效性：因为Lora模型只调整部分层的权重，所以它的训练速度通常比完全微调整个模型要快得多。因此Lora模型在需要快速适应新任务或数据集的场景中非常有效。
ComfyUI
ComfyUI 是一个工作流工具，主要用于简化和优化 AI 模型的配置和训练过程。通过直观的界面和集成的功能，用户可以轻松地进行模型微调、数据预处理、图像生成等任务，从而提高工作效率和生成效果。
ComfyUI的特点
节点式工作流程：ComfyUI通过拖拽和连接不同的节点来构建图像生成流程，每个节点代表一个特定的功能或模型，比如加载模型、文本编码、采样器、VAE解码等。
高度定制性：用户可以根据自己的需求自定义工作流程，通过连接不同的节点，可以实现更精准、更复杂的图像生成效果。
优化生成流程：ComfyUI的内部生成流程经过优化，生成图片的速度相较于传统的Web UI有明显提升，而且对显存的要求更低。
可复现性：由于工作流程是基于节点构建的，因此可以轻松地导出或分享工作流程，并确保生成效果的可复现性。
参考图控制
ControlNet是一种用于精确控制图像生成过程的技术组件。它是一个附加到预训练的扩散模型（如Stable Diffusion模型）上的可训练神经网络模块。扩散模型通常用于从随机噪声逐渐生成图像的过程，而ControlNet的作用在于引入额外的控制信号，使得用户能够更具体地指导图像生成的各个方面（如姿势关键点、分割图、深度图、颜色等）。
总结
**文章总结：从零入门AI生图原理与实践**本文介绍了Datawhale AI夏令营（第四期）“AIGC”方向的学习活动，特别是围绕魔搭社区“可图Kolors-LoRA风格故事挑战赛”的实践活动。学习者需要在可图Kolors模型基础上训练LoRA模型，以生成不同风格的图片（如水墨、水彩、赛博朋克、日漫等），并组成连贯的故事参与挑战。
**主要内容概览**：
1. **任务概述与速通指南**：
- 参赛者需训练LoRA模型生成多风格图片并构建故事，参赛链接和流程指南提供详尽步骤。
- 速通指南涉及阿里云PAI-DSW试用申请、魔搭社区授权、赛事报名及PAI实例创建等。
2. **实践体验与流程**：
- 搭建PAI环境，下载基础工作文件和代码，通过调整prompt修改风格并生成图像。
- 详细步骤包括安装环境、下载数据集、处理数据、LoRA模型微调、模型加载及图片生成。
- 提供了具体代码示例，展示环境配置、数据处理（通过data-juicer）、LoRA模型训练、加载及图片生成的全过程。
3. **技术知识点详解**：
- **提示词（Prompt）**：分为正向和反向提示词，分别用来确定生成内容和排除不希望出现的元素。
- **Lora（低秩自适应）**：介绍了Lora的定义、特点及其在图像生成中的应用，特别是在Stable Diffusion模型中对特定风格的精细化控制。
- **ComfyUI**： 作为AI模型工作流优化工具，通过节点式工作流程和高度定制性，提高模型训练和图像生成的效率与效果。
- **参考图控制（ControlNet）**：解释其如何作为扩散模型的附件，用于精确控制图像生成的多个方面。
**总结**：
本文通过实践活动介绍了AI生图领域的前沿技术，特别是LoRA模型在生成特定风格图像中的应用。通过详细的速通指南和代码解释，帮助学习者从零开始掌握AI生图的原理和具体实施步骤。同时，普及了提示词、Lora、ComfyUI和ControlNet等关键技术知识，为进一步深入学习和实践提供了坚实的理论基础和实践指导。 kol提示词promptjson图像生成工作流diffusioncomfyuitpu数据集pytorch工作流程aigcsdxlcontrolnetcode模型训练生成效果基础模型git
