【深度学习实践】数据增强(数据增广)

该文章已生成可运行项目,

深度学习中的数据增强(数据增广)

数据增强(Data Augmentation)是一种通过对原始数据进行变换,生成更多训练样本的技术。它可以有效提高模型的泛化能力,减少过拟合现象,特别是在数据量较少的情况下。数据增强在图像、文本、语音等不同领域都有广泛应用。

1. 图像数据增强

图像数据增强主要通过几何变换、颜色变换、噪声添加等方式来增加数据多样性,常见方法包括:

  • 翻转(Flip):水平或垂直翻转图像。
  • 旋转(Rotation):随机旋转一定角度。
  • 缩放(Scaling):调整图像大小。
  • 裁剪(Cropping):随机裁剪部分图像。
  • 平移(Translation):图像沿X/Y轴移动。
  • 仿射变换(Affine Transformation):应用缩放、旋转、平移等组合变换。
  • 颜色变换(Color Jittering):改变亮度、对比度、饱和度。
  • 添加噪声(Adding Noise):加入高斯噪声、椒盐噪声。
  • 混合增强(Mixup, CutMix):混合多个样本数据。

常用的 Python 库:

  • imgaug:支持多种数据增强方法。
  • albumentations:高效的数据增强库,适用于深度学习。
  • torchvision.transforms:PyTorch 官方数据增强库。
  • opencv(cv2):计算机视觉库,支持基本图像变换。

2. 文本数据增强

文本数据增强相较于图像更加复杂,常见方法有:

  • 同义词替换(Synonym Replacement):用同义词替换句子中的部分词语。
  • 随机插入(Random Insertion):在句子中插入相关词语。
  • 随机交换(Random Swap):随机交换句子中的两个词语。
  • 随机删除(Random Deletion):随机删除句子中的部分词语。
  • 回译(Back Translation):将文本翻译成另一种语言再翻译回来。
  • 字词扰动(Character/Word Perturbation):打乱、拼写错误等变换。
  • EDA(Easy Data Augmentation):结合以上方法的文本增强技术。

常用的 Python 库:

  • nltk:提供文本处理和词义替换功能。
  • TextAttack:自然语言处理(NLP)对抗攻击与增强工具。
  • NLTKspaCy:可用于词性分析和同义词替换。
  • transformers(Hugging Face): 支持回译和生成式数据增强。

代码案例

案例 1:图像翻转与旋转增强(使用 torchvision

案例描述: 对一张图像进行水平翻转、垂直翻转以及随机旋转操作。

案例分析: 使用 torchvision.transforms 进行数据增强,主要包括:

  1. RandomHorizontalFlip() 进行水平翻转。
  2. RandomVerticalFlip() 进行垂直翻转。
  3. RandomRotation() 进行随机角度旋转。

算法步骤

  1. 读取或生成一张示例图像。
  2. 使用 torchvision.transforms 进行数据增强。
  3. 显示原图和增强后的图像。

Python 代码

import torch
import torchvision.transforms as transforms
from PIL import Image
import matplotlib.pyplot as plt

# 生成随机彩色图片
img = Image.new('RGB', (100, 100), color=(255, 0, 0))  # 生成100x100红色图像

# 定义数据增强方法
transform = transforms.Compose([
    transforms.RandomHorizontalFlip(p=1),  # 100% 概率翻转
    transforms.RandomVerticalFlip(p=1),    # 100% 概率翻转
    transforms.RandomRotation(degrees=45)  # 旋转 -45° 到 45° 之间
])

# 进行数据增强
img_flip_h = transforms.RandomHorizontalFlip(p=1)(img)
img_flip_v = transforms.RandomVerticalFlip(p=1)(img)
img_rotated = transforms.RandomRotation(45)(img)

# 显示图像
fig, ax = plt.subplots(1, 4, figsize=(12, 3))
ax[0].imshow(img); ax[0].set_title("Original")
ax[1].imshow(img_flip_h); ax[1].set_title("Horizontal Flip")
ax[2].imshow(img_flip_v); ax[2].set_title("Vertical Flip")
ax[3].imshow(img_rotated); ax[3].set_title("Rotated 45°")
plt.show()

案例 2:文本同义词替换增强(使用 NLTK

案例描述: 对输入文本的部分单词进行同义词替换,以生成新的样本。

案例分析

  • 使用 nltk.corpus.wordnet 获取单词的同义词。
  • 随机选择单词进行替换。

算法步骤

  1. 读取输入文本。
  2. 使用 NLTK 获取候选替换单词。
  3. 随机替换部分单词并返回新文本。

Python 代码

import nltk
from nltk.corpus import wordnet
import random

# 下载 WordNet 词库
nltk.download('wordnet')

def synonym_replacement(sentence, n=1):
    words = sentence.split()
    new_words = words[:]
    random_word_list = list(set([word for word in words if wordnet.synsets(word)]))
    
    if len(random_word_list) == 0:
        return sentence  # 没有可替换的单词

    num_replaced = 0
    while num_replaced < n:
        word_to_replace = random.choice(random_word_list)
        synonyms = wordnet.synsets(word_to_replace)
        lemmas = set(chain.from_iterable([word.lemma_names() for word in synonyms]))

        if len(lemmas) >= 1:
            synonym = random.choice(list(lemmas))
            new_words = [synonym if word == word_to_replace else word for word in new_words]
            num_replaced += 1

    return ' '.join(new_words)

# 示例文本
sentence = "The quick brown fox jumps over the lazy dog"
augmented_sentence = synonym_replacement(sentence, n=2)

print("Original:", sentence)
print("Augmented:", augmented_sentence)

结论

数据增强是一种提高模型泛化能力的有效方法,尤其在数据量较少的情况下具有显著作用。图像数据增强主要涉及几何变换、颜色变换、噪声注入等;文本数据增强主要包括同义词替换、回译、随机删除等方法。不同任务需要选择合适的增强方式,以避免引入不合理的数据变换。

下节更高级的增强方法,例如 Mixup、CutMix、GAN 生成数据回译增强

哈佛博后带小白玩转机器学习】 【限时5折-含直播】哈佛博后带小白玩转机器学习_哔哩哔哩_bilibili

总课时超400+,时长75+小时

本文章已经生成可运行项目
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值