简介该资源是一套基于WGAN-GP算法生成256×256像素动漫头像的完整设计源码面向深度学习入门者、GAN算法研究者及动漫图像生成爱好者帮助解决传统GAN训练不稳定、易模式崩塌、生成头像清晰度不足等问题。压缩包共26个文件约1.32MB其中2个Python源文件承担生成器、判别器与梯度惩罚等核心算法实现11个PNG图片展示不同训练阶段生成的头像效果6个XML及iml文件用于项目与IDE配置另含readme说明与gitignore等辅助文件。目前已有306人学习下载。读者可借此完整复现WGAN-GP训练流程理解Wasserstein距离与梯度惩罚的代码落地方式观察头像从模糊到清晰的生成过程并基于现有网络结构尝试调整输入条件生成不同发型、表情与配饰的动漫头像适用于在线游戏、虚拟形象与表情包制作等场景。1. 256×256 动漫头像生成为什么 WGAN-GP 是当前最稳的起手式做动漫头像生成最容易被低估的不是模型结构而是分辨率。64×64 能跑出轮廓128×128 能看出五官但一旦上到 256×256训练不稳定、模式崩塌、颜色偏移这些问题会集中爆发。WGAN-GP 之所以在这个任务上被反复拿出来用核心原因是它把判别器的 Lipschitz 约束从权重裁剪换成了梯度惩罚训练信号更平滑生成器不容易在 256 这个尺度上突然崩掉。这套方案适合两类人一是想从零复现一个可用的动漫头像生成器、拿到能看的 256×256 输出二是已经在跑 DCGAN 或原始 WGAN但被训练震荡和样本多样性差折磨过一轮想换一个更稳的损失。下面按数据、网络、训练、排错、进阶五段推进每一步都给到能直接抄的参数和命令。2. 数据管线256×256 动漫头像从哪来、怎么洗、怎么喂2.1 数据集来源与清洗边界动漫头像数据集常见做法是抓取公开的动漫角色头像站按角色或作品分目录再统一裁成正方形。这里有个血泪经验不要直接拿整张立绘去 resize脸会被压扁。正确流程是先做人脸/头部检测按检测框外扩 20% 到 30% 再裁保证头发和下巴完整。清洗阶段重点做三件事去掉分辨率低于 256 的图、去掉重复图用感知哈希阈值设 5 到 8、去掉明显非头像的全身图。最终数据集规模建议至少 2 万张低于这个数 256 分辨率下判别器会很快记住训练集。目录结构按data/faces/平铺即可文件名用哈希避免中文路径在部分环境下读取出错。下面是一个可复现的清洗脚本骨架import os import cv2 import imagehash from PIL import Image SRC raw DST data/faces MIN_SIZE 256 HASH_THRESH 6 os.makedirs(DST, exist_okTrue) seen set() kept 0 for name in os.listdir(SRC): path os.path.join(SRC, name) try: img Image.open(path).convert(RGB) except Exception: continue # 过滤低分辨率 if min(img.size) MIN_SIZE: continue # 感知哈希去重 h imagehash.phash(img) if any(abs(h - s) HASH_THRESH for s in seen): continue seen.add(h) # 中心裁剪到正方形再缩放 w, hgt img.size side min(w, hgt) left (w - side) // 2 top (hgt - side) // 2 img img.crop((left, top, left side, top side)) img img.resize((256, 256), Image.LANCZOS) img.save(os.path.join(DST, f{kept:07d}.jpg), quality95) kept 1 print(kept:, kept)逻辑说明先做尺寸过滤再做哈希能省掉大量无效计算中心裁剪只适合头像已经居中的情况如果原图头部偏移要换成检测框裁剪。参数上HASH_THRESH设 6 是经验值设太小去重不干净设太大容易把不同角色误删。quality95是为了避免 JPEG 压缩在 256 尺度上产生块效应判别器会把这些块当成高频特征学进去。2.2 归一化与数据增强的取舍256×256 下归一化到[-1, 1]是 WGAN-GP 的标配因为生成器最后一层用 tanh输出范围必须对齐。增强方面要克制水平翻转可以用随机裁剪不要用因为裁剪会破坏头像的构图先验生成器会学到偏移的脸。颜色抖动也不建议开动漫头像的配色本身就是分布的一部分抖动等于往标签里加噪。DataLoader 的配置直接决定训练吞吐。batch_size在单卡 8G 显存下建议 1612G 可以上 24。num_workers设 4 到 8pin_memoryTruedrop_lastTrue必须开否则最后一个不完整 batch 会让梯度惩罚的统计量偏掉。下面是对应的 Dataset 和 DataLoaderimport torch from torch.utils.data import Dataset, DataLoader from torchvision import transforms from PIL import Image import os class FaceDataset(Dataset): def __init__(self, root): self.files [os.path.join(root, f) for f in os.listdir(root)] self.tf transforms.Compose([ transforms.Resize((256, 256)), transforms.RandomHorizontalFlip(p0.5), transforms.ToTensor(), transforms.Normalize([0.5]*3, [0.5]*3), ]) def __len__(self): return len(self.files) def __getitem__(self, idx): img Image.open(self.files[idx]).convert(RGB) return self.tf(img) ds FaceDataset(data/faces) loader DataLoader(ds, batch_size16, shuffleTrue, num_workers8, pin_memoryTrue, drop_lastTrue)逻辑说明Normalize([0.5]*3, [0.5]*3)把像素从[0,1]映射到[-1,1]和 tanh 输出严格对齐。RandomHorizontalFlip是唯一安全的增强因为动漫头像左右翻转后仍然是合理头像。drop_lastTrue配合梯度惩罚很关键最后一个 batch 如果只有一两张图插值采样会退化成近似单点惩罚项失去意义。3. WGAN-GP 网络结构256 尺度下生成器和判别器怎么搭3.1 生成器从 4×4 到 256×256 的上采样路径256 分辨率下生成器不能照搬 64 尺度的四层结构否则感受野不够头发和眼睛的细节会糊。常见做法是 6 到 7 次上采样从 4×4 或 8×8 起步。每层用ConvTranspose2d或Upsample Conv2d后者更稳不容易出现棋盘格。通道数按512 → 256 → 128 → 64 → 32 → 16 → 3递减每层后接BatchNorm2d和ReLU最后一层用tanh。这里有个选型理由要讲清为什么不用 InstanceNorm因为 WGAN-GP 的梯度惩罚是对每个样本独立算的BatchNorm 在 batch 内引入耦合会让惩罚项的估计有偏。实践中 BatchNorm 仍然能用但如果训练出现周期性震荡第一个要换的就是它。下面是一个可用的生成器import torch.nn as nn class Generator(nn.Module): def __init__(self, z_dim128, base512): super().__init__() self.net nn.Sequential( # 输入 z: (B, 128, 1, 1) - 4x4 nn.ConvTranspose2d(z_dim, base, 4, 1, 0, biasFalse), nn.BatchNorm2d(base), nn.ReLU(True), # 4 - 8 nn.ConvTranspose2d(base, base//2, 4, 2, 1, biasFalse), nn.BatchNorm2d(base//2), nn.ReLU(True), # 8 - 16 nn.ConvTranspose2d(base//2, base//4, 4, 2, 1, biasFalse), nn.BatchNorm2d(base//4), nn.ReLU(True), # 16 - 32 nn.ConvTranspose2d(base//4, base//8, 4, 2, 1, biasFalse), nn.BatchNorm2d(base//8), nn.ReLU(True), # 32 - 64 nn.ConvTranspose2d(base//8, base//16, 4, 2, 1, biasFalse), nn.BatchNorm2d(base//16), nn.ReLU(True), # 64 - 128 nn.ConvTranspose2d(base//16, base//32, 4, 2, 1, biasFalse), nn.BatchNorm2d(base//32), nn.ReLU(True), # 128 - 256 nn.ConvTranspose2d(base//32, 3, 4, 2, 1, biasFalse), nn.Tanh(), ) def forward(self, z): return self.net(z.view(z.size(0), -1, 1, 1))逻辑说明z_dim128是 256 尺度下的常用值太小会导致多样性不足太大在早期训练时梯度噪声偏大。每个ConvTranspose2d的kernel4, stride2, padding1是标准的两倍上采样配置输出尺寸严格翻倍。biasFalse是因为后面接了 BatchNorm偏置会被抵消。最后一层Tanh把输出压到[-1,1]和前面数据归一化对齐。3.2 判别器不用 BatchNorm用 LayerNorm 或谱归一化判别器在 WGAN-GP 里承担的是拟合 Wasserstein 距离的 critic输出是标量不是概率。结构上和生成器镜像用Conv2d逐步下采样最后接一个全连接或AdaptiveAvgPool到 1。关键点判别器里不要用 BatchNorm因为梯度惩罚要对每个样本单独算梯度BatchNorm 会让样本之间互相影响。常见替代是LayerNorm或InstanceNorm或者干脆不加归一化只加谱归一化。下面是一个判别器实现用InstanceNorm2d加LeakyReLUclass Discriminator(nn.Module): def __init__(self, base64): super().__init__() def block(in_c, out_c, normTrue): layers [nn.Conv2d(in_c, out_c, 4, 2, 1, biasFalse)] if norm: layers.append(nn.InstanceNorm2d(out_c, affineTrue)) layers.append(nn.LeakyReLU(0.2, inplaceTrue)) return layers self.net nn.Sequential( block(3, base, normFalse), # 256 - 128 block(base, base*2), # 128 - 64 block(base*2, base*4), # 64 - 32 block(base*4, base*8), # 32 - 16 block(base*8, base*16), # 16 - 8 block(base*16, base*16), # 8 - 4 nn.Conv2d(base*16, 1, 4, 1, 0), # 4 - 1 ) def forward(self, x): return self.net(x).view(-1)逻辑说明第一层不加归一化因为输入是原始图像InstanceNorm 会破坏颜色统计。LeakyReLU(0.2)是 GAN 判别器的常规斜率低于 0.1 容易死神经元高于 0.3 梯度噪声偏大。最后用Conv2d直接压到 1×1 再 view 成向量比全连接层参数少也不容易过拟合。输出不加 sigmoid因为 WGAN-GP 的 critic 输出是实数分数。3.3 梯度惩罚项的实现细节WGAN-GP 的核心是梯度惩罚在真实样本和生成样本之间做随机插值要求判别器在插值点上的梯度范数接近 1。实现上有两个坑一是插值系数要对每个样本独立采样不能整个 batch 共用一个二是梯度要对该插值点求不是对参数求。下面是对应的训练步def gradient_penalty(D, real, fake, device, lambda_gp10.0): B real.size(0) # 每个样本独立采样 alpha alpha torch.rand(B, 1, 1, 1, devicedevice) interp (alpha * real (1 - alpha) * fake).requires_grad_(True) d_interp D(interp) # 对插值点求梯度 grads torch.autograd.grad( outputsd_interp, inputsinterp, grad_outputstorch.ones_like(d_interp), create_graphTrue, retain_graphTrue, only_inputsTrue, )[0] grads grads.view(B, -1) gp ((grads.norm(2, dim1) - 1) ** 2).mean() return gp * lambda_gp逻辑说明alpha的形状是(B,1,1,1)保证每个样本有独立的插值系数这是最容易被写错的地方写成标量会让惩罚项估计严重有偏。create_graphTrue必须开因为惩罚项本身要参与反向传播。lambda_gp10是原论文的默认值实践中 5 到 10 都可用太小约束不够太大会压制判别器的拟合能力。4. 训练循环与参数配置n_critic、学习率、优化器怎么定4.1 n_critic 与优化器选择WGAN-GP 的标准训练节奏是每更新一次生成器先更新n_critic次判别器。原论文建议n_critic5但在 256 尺度、数据量 2 万到 5 万的场景下n_critic3到 5 都常见。判别器更新太多次会让生成器梯度消失更新太少则 Wasserstein 距离估计不准。优化器统一用 Adambetas(0.5, 0.9)这是 GAN 训练的标配beta10.5而不是 0.9 是为了减少动量带来的震荡。学习率方面生成器和判别器都用1e-4起步判别器可以略高到2e-4。如果训练早期判别器 loss 迅速降到很负说明判别器太强要么降判别器学习率要么减少n_critic。下面是一个完整的训练循环骨架import torch from torch import optim device cuda G Generator().to(device) D Discriminator().to(device) opt_G optim.Adam(G.parameters(), lr1e-4, betas(0.5, 0.9)) opt_D optim.Adam(D.parameters(), lr2e-4, betas(0.5, 0.9)) z_dim 128 n_critic 5 lambda_gp 10.0 epochs 200 for epoch in range(epochs): for i, real in enumerate(loader): real real.to(device) B real.size(0) # ---- 更新判别器 n_critic 次 ---- for _ in range(n_critic): z torch.randn(B, z_dim, devicedevice) fake G(z).detach() d_real D(real).mean() d_fake D(fake).mean() gp gradient_penalty(D, real, fake, device, lambda_gp) loss_D d_fake - d_real gp opt_D.zero_grad() loss_D.backward() opt_D.step() # ---- 更新生成器一次 ---- z torch.randn(B, z_dim, devicedevice) fake G(z) loss_G -D(fake).mean() opt_G.zero_grad() loss_G.backward() opt_G.step() if i % 50 0: print(fepoch {epoch} iter {i} loss_D {loss_D.item():.3f} loss_G {loss_G.item():.3f})逻辑说明判别器 loss 是d_fake - d_real gp这是 Wasserstein 距离的负值加惩罚越小说明判别器区分得越好。生成器 loss 是-D(fake).mean()即最大化判别器对生成样本的评分。fake G(z).detach()在判别器更新时必须 detach否则梯度会回传到生成器浪费计算还可能污染生成器参数。n_critic5配合batch_size16单卡 8G 显存下每步大约 0.3 到 0.5 秒2 万张图跑 200 epoch 大概需要两到三天。4.2 学习率调度与早停判断WGAN-GP 不需要复杂的调度但可以在 loss 平台期手动降学习率。判断平台期的信号是判别器 loss 在 0 附近小幅震荡生成器 loss 不再下降同时目视样本质量停滞。这时候把两个学习率都乘 0.5再跑 20 到 30 epoch。不要用余弦退火因为 GAN 的 loss 曲线本身不单调退火容易在还没收敛时就把学习率压死。早停没有严格标准实用做法是每 10 epoch 存一次生成样本网格人工看。如果连续 30 epoch 样本质量没有可见提升且 FID 不再下降就可以停。FID 在 256 尺度上建议用pytorch-fid或clean-fid算参考集用训练集的 5000 张即可不需要额外验证集。5. 避坑与排查256 尺度 WGAN-GP 最常见的 5 个翻车点5.1 生成样本全是同一张脸现象训练到 50 epoch 后不管输入什么 z生成的头像几乎一样只有轻微颜色变化。原因模式崩塌判别器对多样性不敏感生成器找到了一个能骗过判别器的单点。解决先检查z_dim是不是太小128 以下建议提到 128 或 256再检查梯度惩罚的lambda_gp如果小于 5判别器约束不够生成器容易钻空子最后可以给生成器加一点噪声输入在每层上采样后接Dropout(0.1)强迫它利用 z 的信息。5.2 判别器 loss 一路降到 -50 以下现象训练前 10 epoch判别器 loss 从 0 迅速降到 -30 甚至 -50生成器 loss 持续上升。原因判别器太强生成器梯度消失。解决把n_critic从 5 降到 2 或 3判别器学习率从2e-4降到1e-4同时确认梯度惩罚真的在生效——打印gp的值正常应该在 5 到 20 之间如果接近 0 说明惩罚没算对。5.3 生成图出现棋盘格纹理现象放大生成样本能看到规则的网格状伪影尤其在头发和背景区域。原因ConvTranspose2d的 stride 和 kernel 不匹配导致重叠不均匀。解决把上采样换成nn.Upsample(scale_factor2, modenearest)加nn.Conv2d(3,3,1)或者把kernel_size从 4 改成 3、stride改成 2、padding改成 1 再配合输出裁剪。实践中Upsample Conv最稳代价是参数量略增。5.4 训练到一半 loss 突然爆炸现象前 80 epoch 正常某一步之后 loss 变成 NaN生成图全黑或全白。原因梯度爆炸常见于判别器某层输出过大或者梯度惩罚的create_graphTrue在长序列中累积了数值误差。解决加梯度裁剪torch.nn.utils.clip_grad_norm_(D.parameters(), 1.0)和clip_grad_norm_(G.parameters(), 1.0)同时检查输入数据有没有损坏的图一张全黑或全白的图足以让判别器输出异常。恢复训练时从最近一个 checkpoint 继续不要从 NaN 那步硬跑。5.5 显存不够batch_size 上不去现象8G 显存下batch_size16就 OOM降到 8 后训练震荡明显。原因256 尺度下判别器的激活值占用大梯度惩罚又需要保留计算图。解决用梯度累积batch_size8跑两步等效 16或者把判别器的base从 64 降到 48再不行就用混合精度torch.cuda.amp能把显存占用降 30% 到 40%但要注意梯度惩罚在 fp16 下容易溢出惩罚项计算建议强制 fp32。6. 进阶技巧用 EMA 和条件注入把 256 头像质量再抬一档训练到能出图之后真正拉开质量差距的是两个技巧EMA指数移动平均和条件注入。EMA 的做法是维护一份生成器参数的滑动平均推理时用这份平均参数而不是当前参数。原因是 GAN 的生成器参数在训练后期会在最优点附近震荡平均之后相当于免费集成FID 通常能降 10% 到 20%。实现上很简单class EMA: def __init__(self, model, decay0.999): self.decay decay self.shadow {k: v.clone().detach() for k, v in model.state_dict().items()} def update(self, model): for k, v in model.state_dict().items(): self.shadow[k] self.decay * self.shadow[k] (1 - self.decay) * v def apply(self, model): model.load_state_dict(self.shadow)逻辑说明decay0.999适合 200 epoch 以上的训练如果只跑 50 epoch用 0.99 更合适否则平均参数跟不上当前参数。update在每个生成器更新步之后调用apply只在推理和保存时调用。注意 EMA 只对生成器做判别器不需要。条件注入是另一个方向如果你有角色标签或发色标签可以把标签 embedding 拼到 z 上或者用 AdaIN 注入到生成器中间层。这样生成的头像可控也能缓解模式崩塌因为不同标签会强迫生成器覆盖不同区域。代价是需要标注数据如果只有无标签头像可以先跑无监督再用少量标注做微调。验证方面除了 FID建议加一个人工评分环节随机抽 100 张生成图按「结构合理、五官完整、配色自然」三项各 1 到 5 分打分取平均。FID 低但人工分低的模型通常是过拟合了训练集的纹理泛化反而差。我自己的习惯是每 20 epoch 存一次 EMA 权重和 64 张样本网格训练结束后横向对比选人工分最高而不是 FID 最低的那一版。这个习惯帮我避过好几次「指标好看但图不能看」的坑。希望帮到你。本文还有配套的精品资源点击获取