ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

基于tensorflow2的yolov4训练自己的数据集

2020-12-21 17:30:11  阅读:434  来源: 互联网

标签:tensorflow2 yolov4 join 训练 VOC file path os dir


基于tensorflow2.0的yolov4训练自己的数据集(一)

       在windows和linux分别训练了基于tensorflow2的yolov4模型,将方法记录下来,方便其他同学参考借鉴。内容较多,分批写出来:

目录

一、制作数据集

1、下载LabelImage

2、安装LabelImage

4、制作数据集

5、制作VOC2007数据集

6、生成VOC2007数据集的文件

二、利用DarkNet训练你的数据集

1、下载yolov4工程

2、迁移学习,下载选中文件

3、训练模型

3.1 windows平台下训练模型


软件的训练环境及版本:tensorflow2.3.0,yolov4,windows10、ubuntu20,python3.7,VOC2007格式数据集。GPU环境可以参考我之前博客的环境安装方法。

一、制作数据集

使用LabelImage进行标注,LabelImage的下载安装方法,百度上用的比较多,这里就不赘述了。简单介绍一下LabelImage的标注方法,制作自己的数据集。

1、下载LabelImage

下载安装LabelImage,地址:LabelImage地址

2、安装LabelImage

解压进入到LabelImage的文件路径,运行命令:conda install pyqt=5,安装依赖,并完成之后运行命令:pyrcc5 -o resources.py resources.qrc(这里可能会提示路径问题,这里就不做解决办法了,网上而很多)。完成之后直接运行:python labelImg.py。不出意外的话可以直接打开Labelmage界面。如下图所示:

4、制作数据集

这里不做过多的LabelImage的使用,做一下基本的操作,达到我们可以制作自己的数据集即可。

点击上图1,可以直接打开自己图片的文件夹,LabelImage会加载到右下角的“File List”里面,将所有的图片显示到该窗口中。

在“File List”中选择要标注的图片,点击“w”建(Create RectBox的快捷键),可以对目标进行标注,如下图所示:

没标注完一张图片要保存标注的数据,否则切换图片的时候标注的结果会消失!!!!点击快捷方式(CTRL+S)直接保存标注的结果。

反复多张标注完成后,基础数据集已经标注完毕。

5、制作VOC2007数据集

构建结构目录,我的结构目录如下所示:

介绍一下各个文件夹的用途:

Annotations:里面是标注图片对应的标注信息,是xml格式的(标注你的xml,可以自行进去看一下结构,里面主要的就是类别和标注的坐标点,其他不重要)。

ImageSets:在后面里面生成Main文件夹,里面包含train和test,主要记录训练集的文件名称和测试集的文件名称。

JPEImages:原始的图片数据。

labels:该文件夹和ImageSets的Main文件夹在后面共同生成,用于生成VOC2007格式的数据集。

6、生成VOC2007数据集的文件

该步骤会将上一步的ImageSets和labels缺少的文件补齐,并生成2007_Train和2007_test的txt文件。下面的代码自动制作VOC2007的数据集,直接运行即可:

#缺少依赖包的同学自行下载一下,很好下
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
import random

#类别根据你的数据集类别进行定义
classes=["类别1","类别2","类别3"]


def clear_hidden_files(path):
    dir_list = os.listdir(path)
    for i in dir_list:
        abspath = os.path.join(os.path.abspath(path), i)
        if os.path.isfile(abspath):
            if i.startswith("._"):
                os.remove(abspath)
        else:
            clear_hidden_files(abspath)

def convert(size, box):
    dw = 1./size[0]
    dh = 1./size[1]
    x = (box[0] + box[1])/2.0
    y = (box[2] + box[3])/2.0
    w = box[1] - box[0]
    h = box[3] - box[2]
    x = x*dw
    w = w*dw
    y = y*dh
    h = h*dh
    return (x,y,w,h)
#下面的文件夹和文件的名称根据你的喜好自定定义,也可以按照我这里的代码直接运行
def convert_annotation(image_id):
    in_file = open('VOCdevkit\VOC2007\Annotations\%s.xml' %image_id)
    out_file = open('VOCdevkit\VOC2007\labels\%s.txt' %image_id, 'w')
    tree=ET.parse(in_file)
    root = tree.getroot()
    size = root.find('size')
    w = int(size.find('width').text)
    h = int(size.find('height').text)

    for obj in root.iter('object'):
        difficult = obj.find('difficult').text
        cls = obj.find('name').text
        if cls not in classes or int(difficult) == 1:
            continue
        cls_id = classes.index(cls)
        xmlbox = obj.find('bndbox')
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text), float(xmlbox.find('ymax').text))
        bb = convert((w,h), b)
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
    in_file.close()
    out_file.close()

wd = os.getcwd()
wd = os.getcwd()
work_sapce_dir = os.path.join(wd, "VOCdevkit\\")
if not os.path.isdir(work_sapce_dir):
    os.mkdir(work_sapce_dir)
work_sapce_dir = os.path.join(work_sapce_dir, "VOC2007\\")
if not os.path.isdir(work_sapce_dir):
    os.mkdir(work_sapce_dir)
annotation_dir = os.path.join(work_sapce_dir, "Annotations\\")
if not os.path.isdir(annotation_dir):
        os.mkdir(annotation_dir)
clear_hidden_files(annotation_dir)
image_dir = os.path.join(work_sapce_dir, "JPEGImages\\")
if not os.path.isdir(image_dir):
        os.mkdir(image_dir)
clear_hidden_files(image_dir)
VOC_file_dir = os.path.join(work_sapce_dir, "ImageSets\\")
if not os.path.isdir(VOC_file_dir):
        os.mkdir(VOC_file_dir)
VOC_file_dir = os.path.join(VOC_file_dir, "Main\\")
if not os.path.isdir(VOC_file_dir):
        os.mkdir(VOC_file_dir)

train_file = open(os.path.join(wd, "2007_train.txt"), 'w')
test_file = open(os.path.join(wd, "2007_test.txt"), 'w')
train_file.close()
test_file.close()
VOC_train_file = open(os.path.join(work_sapce_dir, "ImageSets\\Main\\train.txt"), 'w')
VOC_test_file = open(os.path.join(work_sapce_dir, "ImageSets\\Main\\test.txt"), 'w')
VOC_train_file.close()
VOC_test_file.close()
if not os.path.exists('VOCdevkit\\VOC2007\\labels'):
    os.makedirs('VOCdevkit\\VOC2007\\labels')
train_file = open(os.path.join(wd, "2007_train.txt"), 'a')
test_file = open(os.path.join(wd, "2007_test.txt"), 'a')
VOC_train_file = open(os.path.join(work_sapce_dir, "ImageSets\\Main\\train.txt"), 'a')
VOC_test_file = open(os.path.join(work_sapce_dir, "ImageSets\\Main\\test.txt"), 'a')
list = os.listdir(image_dir) # list image files
probo = random.randint(1, 100)
print("Probobility: %d" % probo)
for i in range(0,len(list)):
    path = os.path.join(image_dir,list[i])
    if os.path.isfile(path):
        image_path = image_dir + list[i]
        voc_path = list[i]
        (nameWithoutExtention, extention) = os.path.splitext(os.path.basename(image_path))
        (voc_nameWithoutExtention, voc_extention) = os.path.splitext(os.path.basename(voc_path))
        annotation_name = nameWithoutExtention + '.xml'
        annotation_path = os.path.join(annotation_dir, annotation_name)
    probo = random.randint(1, 100)
    print("Probobility: %d" % probo)
    if(probo < 75):
        if os.path.exists(annotation_path):
            train_file.write(image_path + '\n')
            VOC_train_file.write(voc_nameWithoutExtention + '\n')
            convert_annotation(nameWithoutExtention)
    else:
        if os.path.exists(annotation_path):
            test_file.write(image_path + '\n')
            VOC_test_file.write(voc_nameWithoutExtention + '\n')
            convert_annotation(nameWithoutExtention)
train_file.close()
test_file.close()
VOC_train_file.close()
VOC_test_file.close()

执行完上述步骤,如果没有报错的话,你的数据集已经制作完毕。

二、利用DarkNet训练你的数据集

1、下载yolov4工程

github下载基于DarkNet的yolov4的工程,下载地址:yolov4工程地址

下载并解压如下所示:


我就大概的列一下解压的文件,不用纠结这里面的东西,你不会少文件的放心吧^_^。

2、迁移学习,下载选中文件

        接下来就要用darknet训练你自己的数据集了,训练之前,我们肯定是用迁移学习的方式进行训练的,我们下载一下它训练好的权重文件:权重地址,可以科学上网,如果下载的慢的话可以私信我要一份全汇总文件,大概245M左右。

3、训练模型

        训练的话windows和linux训练过程是不一样的,习惯windows的同学这里是个福音。因为windows平台其实比linux更好训练,是不是很神奇,一般都是windows坑比较多,这里却相反。

3.1 windows平台下训练模型

        先说windows下面的训练吧,在当前darknet目录下,进入build\darknet中,可以看到下面的东西,做过vs环境开发的同学看到这它们是不是很开心^_^,连CMAKE都不用了:

        先不看x64文件夹里面的东西,就看vs的这些项目,从名字就很容易理解它们的分别的作用了,无非就是生成darknet.exe的工程,生成darknet.dll方便你融入自己项目的工程,是否是GPU的工程,根据自己项目需求习性选择吧,就不做过多解释了。这里再说一下我用的是vs2015做的,其实别的版本也无所谓。我直接用darknet.sln直接生成exe了,因为这个训练我只要它的模型,最后要转到tensorflow2.0的环境里。

        打开darknet.sln,编译运行,最后生成darknet.exe,这里面坑比较少,我编译的比较顺利,如果出现vs编译过程中出现错的话,自行解决一下吧,vs的错误还是很好解决的,因为每个人的错误可能不一样,这里就不做赘述了。

        编译成功后,会生成darknet.exe,如下图所示:

用这个程序就可以训练我们自己的yolov4模型了。到此我们已经把基础工作做好了,接下来我们就要正式训练我们的模型。先写到这里,后续步骤在基于tensorflow2的yolov4训练自己的数据集(二)中继续更新。

 

标签:tensorflow2,yolov4,join,训练,VOC,file,path,os,dir
来源: https://blog.csdn.net/wind82465/article/details/111472175

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有