Caffe学习使用__运行caffe自带的两个简单例子

为了程序的简洁，在caffe中是不带练习数据的，因此需要自己去下载。但在caffe根目录下的data文件夹里，作者已经为我们编写好了下载数据的脚本文件，我们只需要联网，运行这些脚本文件就行了。

注意：在caffe中运行所有程序，都必须在根目录下进行。

1、mnist实例

mnist是一个手写数字库。mnist最初用于支票上的手写数字识别, 现在成了DL的入门练习库。征对mnist识别的专门模型是Lenet，算是最早的cnn模型了。

mnist数据训练样本为60000张，测试样本为10000张，每个样本为28*28大小的黑白图片，手写数字为0-9，因此分为10类。

首先下载mnist数据

(caffe_src) root@ranxf-TEST:/workdisk/caffe# sh data/mnist/get_mnist.sh

Downloading...

---- ::--  http://yann.lecun.com/exdb/mnist/train-images-idx3-ubyte.gz

正在解析主机 yann.lecun.com (yann.lecun.com)... 216.165.22.6

正在连接 yann.lecun.com (yann.lecun.com)|216.165.22.6|:... 已连接。

已发出 HTTP 请求，正在等待回应...  OK

长度：  (9.5M) [application/x-gzip]

正在保存至: “train-images-idx3-ubyte.gz”

train-images-idx3-ubyte. %[===============================>]   9.45M  .5KB/s    in 14m 22s 

-- :: (11.2 KB/s) - 已保存 “train-images-idx3-ubyte.gz” [/])

---- ::--  http://yann.lecun.com/exdb/mnist/train-labels-idx1-ubyte.gz

正在解析主机 yann.lecun.com (yann.lecun.com)... 216.165.22.6

正在连接 yann.lecun.com (yann.lecun.com)|216.165.22.6|:... 已连接。

已发出 HTTP 请求，正在等待回应...  OK

长度：  (28K) [application/x-gzip]

正在保存至: “train-labels-idx1-ubyte.gz”

train-labels-idx1-ubyte. %[===============================>]  .20K  .8KB/s    in .5s    

-- :: (54.8 KB/s) - 已保存 “train-labels-idx1-ubyte.gz” [/])

---- ::--  http://yann.lecun.com/exdb/mnist/t10k-images-idx3-ubyte.gz

正在解析主机 yann.lecun.com (yann.lecun.com)... 216.165.22.6

正在连接 yann.lecun.com (yann.lecun.com)|216.165.22.6|:... 已连接。

已发出 HTTP 请求，正在等待回应...  OK

长度：  (1.6M) [application/x-gzip]

正在保存至: “t10k-images-idx3-ubyte.gz”

t10k-images-idx3-ubyte.g %[===============================>]   1.57M  .0KB/s    in 84s     

-- :: (19.3 KB/s) - 已保存 “t10k-images-idx3-ubyte.gz” [/])

---- ::--  http://yann.lecun.com/exdb/mnist/t10k-labels-idx1-ubyte.gz

正在解析主机 yann.lecun.com (yann.lecun.com)... 216.165.22.6

正在连接 yann.lecun.com (yann.lecun.com)|216.165.22.6|:... 已连接。

已发出 HTTP 请求，正在等待回应...  OK

长度：  (.4K) [application/x-gzip]

正在保存至: “t10k-labels-idx1-ubyte.gz”

t10k-labels-idx1-ubyte.g %[===============================>]   .44K  --.-KB/s    in 0s      

-- :: ( MB/s) - 已保存 “t10k-labels-idx1-ubyte.gz” [/])

运行成功后，在 data/mnist/目录下有四个文件：

(caffe_src) root@ranxf-TEST:/workdisk/caffe/data/mnist# lst10k-images-idx3-ubyte  训练集样本
t10k-labels-idx1-ubyte  训练集对应标注
train-images-idx3-ubyte  测试集图片
train-labels-idx1-ubyte  测试集对应标注

这些数据不能在caffe中直接使用，需要转换成LMDB数据

(caffe_src) root@ranxf-TEST:/workdisk/caffe# sh examples/mnist/create_mnist.sh

Creating lmdb...

I0912 ::06.644217   db_lmdb.cpp:] Opened lmdb examples/mnist/mnist_train_lmdb

I0912 ::06.644412   convert_mnist_data.cpp:] A total of  items.

I0912 ::06.644423   convert_mnist_data.cpp:] Rows:  Cols:

I0912 ::11.209887   convert_mnist_data.cpp:] Processed  files.

I0912 ::11.485198   db_lmdb.cpp:] Opened lmdb examples/mnist/mnist_test_lmdb

I0912 ::11.485344   convert_mnist_data.cpp:] A total of  items.

I0912 ::11.485355   convert_mnist_data.cpp:] Rows:  Cols:

I0912 ::12.264843   convert_mnist_data.cpp:] Processed  files.

Done.

如果想运行leveldb数据，请运行 examples/siamese/ 文件夹下面的程序。而examples/mnist/ 文件夹是运行lmdb数据

转换成功后，会在 examples/mnist/目录下，生成两个文件夹，分别是mnist_train_lmdb和mnist_test_lmdb，里面存放的data.mdb和lock.mdb，就是我们需要的运行数据。

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/mnist# cd mnist_test_lmdb/

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/mnist/mnist_test_lmdb# ls

data.mdb  lock.mdb

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/mnist/mnist_test_lmdb# cd ../mnist_train_lmdb/

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/mnist/mnist_train_lmdb# ls

data.mdb  lock.mdb

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/mnist/mnist_train_lmdb#

接下来是修改配置文件，如果你有GPU且已经完全安装好，这一步可以省略，如果没有，则需要修改solver配置文件。

需要的配置文件有两个，一个是lenet_solver.prototxt，另一个是train_lenet.prototxt.

首先打开lenet_solver.prototxt

(caffe_src) root@ranxf-TEST:/workdisk/caffe# vim examples//mnist/lenet_solver.prototxt

根据需要，在max_iter处设置最大迭代次数，以及决定最后一行solver_mode,是否要改成CPU。（我目前还没有GPU，只能改为CPU）

保存退出后，就可以运行这个例子了

(caffe_src) root@ranxf-TEST:/workdisk/caffe# time sh examples/mnist/train_lenet.sh

I0912 ::03.622133   caffe.cpp:] Use CPU.

I0912 ::03.622301   solver.cpp:] Initializing solver from parameters:

test_iter:

test_interval:

base_lr: 0.01

display:

max_iter:

………………

………………
I0912 14:05:13.225632  4867 data_layer.cpp:73] Restarting data prefetching from start.
I0912 14:05:13.387485  4864 solver.cpp:414]     Test net output #0: accuracy = 0.9913
I0912 14:05:13.387523  4864 solver.cpp:414]     Test net output #1: loss = 0.0285459 (* 1 = 0.0285459 loss)
I0912 14:05:13.387529  4864 solver.cpp:332] Optimization Done.
I0912 14:05:13.387535  4864 caffe.cpp:250] Optimization Done.

real    12m9.863s
user    12m12.844s
sys    0m0.236s

CPU运行时候大约13分钟，精度为99%左右。

(caffe) root@test:/opt/caffe# time sh examples/mnist/train_lenet.sh

I0924 ::55.730465  caffe.cpp:] Using GPUs

I0924 ::55.754664  caffe.cpp:] GPU : GeForce GTX TITAN X

I0924 ::56.068701  solver.cpp:] Initializing solver from parameters:

test_iter:

test_interval:

base_lr: 0.01

display:

max_iter:

lr_policy: "inv"

gamma: 0.0001

power: 0.75

momentum: 0.9

weight_decay: 0.0005

snapshot:

snapshot_prefix: "examples/mnist/lenet"

solver_mode: GPU

device_id:

net: "examples/mnist/lenet_train_test.prototxt"

train_state {

  level:

  stage: ""

}

…………

…………

I0924 ::42.541656  sgd_solver.cpp:] Snapshotting solver state to binary proto file examples/mnist/lenet_iter_10000.solverstate

I0924 ::42.546165  solver.cpp:] Iteration , loss = 0.00301418

I0924 ::42.546185  solver.cpp:] Iteration , Testing net (#)

I0924 ::42.783694  data_layer.cpp:] Restarting data prefetching from start.

I0924 ::42.792412  solver.cpp:]     Test net output #: accuracy = 0.9917

I0924 ::42.792433  solver.cpp:]     Test net output #: loss = 0.0296816 (*  = 0.0296816 loss)

I0924 ::42.792439  solver.cpp:] Optimization Done.

I0924 ::42.792444  caffe.cpp:] Optimization Done.

real    0m47.216s

user    0m48.420s

sys    0m10.966s

GPU运行时候大约48秒，精度为99%左右。

2、cifar10实例

cifar10数据训练样本50000张，测试样本10000张，每张为32*32的彩色三通道图片，共分为10类。

下载数据：

(caffe_src) root@ranxf-TEST:/workdisk/caffe# sh data/cifar10/get_cifar10.sh

(caffe_src) root@ranxf-TEST:/workdisk/caffe# sh data/cifar10/get_cifar10.sh

Downloading...

---- ::--  http://www.cs.toronto.edu/~kriz/cifar-10-binary.tar.gz

正在解析主机 www.cs.toronto.edu (www.cs.toronto.edu)... 128.100.3.30

正在连接 www.cs.toronto.edu (www.cs.toronto.edu)|128.100.3.30|:... 已连接。

已发出 HTTP 请求，正在等待回应...  OK

长度：  (162M) [application/x-gzip]

正在保存至: “cifar--binary.tar.gz”

cifar--binary.tar.gz                 %[==========================================================================>] 162.17M  .8KB/s    in 1h 43m  

-- :: (26.6 KB/s) - 已保存 “cifar--binary.tar.gz” [/])

Unzipping...

Done.

运行成功后，会在 data/cifar10/文件夹下生成一堆bin文件

(caffe_src) root@ranxf-TEST:/workdisk/caffe/data/cifar10# ll

总用量

drwxr-xr-x  root root      9月   : ./

drwxr-xr-x  root root      9月   : ../

-rw-r--r--           6月      batches.meta.txt

-rw-r--r--     6月      data_batch_1.bin

-rw-r--r--     6月      data_batch_2.bin

-rw-r--r--     6月      data_batch_3.bin

-rw-r--r--     6月      data_batch_4.bin

-rw-r--r--     6月      data_batch_5.bin

-rwxr-xr-x  root root       9月   : get_cifar10.sh*

-rw-r--r--           6月      readme.html

-rw-r--r--     6月      test_batch.bin

(caffe_src) root@ranxf-TEST:/workdisk/caffe/data/cifar10#

转换数据格式为lmdb：

(caffe_src) root@ranxf-TEST:/workdisk/caffe# sh examples/cifar10/create_cifar10.sh

Creating lmdb...

转换成功后，会在 examples/cifar10/文件夹下生成两个文件夹，cifar10_train_lmdb和cifar10_test_lmdb, 里面的文件就是我们需要的文件。

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10# cd cifar10_train_lmdb/

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10/cifar10_train_lmdb# ls

data.mdb  lock.mdb

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10/cifar10_train_lmdb# cd ../cifar10_test_lmdb/

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10/cifar10_test_lmdb# ls

data.mdb  lock.mdb

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10/cifar10_test_lmdb#

为了节省时间，我们进行快速训练（train_quick)，训练分为两个阶段，第一个阶段（迭代4000次）调用配置文件cifar10_quick_solver.prototxt, 学习率（base_lr)为0.001

第二阶段（迭代5000次）调用配置文件cifar10_quick_solver_lr1.prototxt, 学习率(base_lr)为0.0001

前后两个配置文件就是学习率(base_lr)和最大迭代次数（max_iter)不一样，其它都是一样。

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10# vim cifar10_quick_solver.prototxt

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10#

(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10# vim cifar10_quick_solver_lr1.prototxt

如果你对配置文件比较熟悉以后，实际上是可以将两个配置文件合二为一的，设置lr_policy为multistep就可以了。

base_lr: 0.001

momentum: 0.9

weight_decay: 0.004

# The learning rate policy

# lr_policy: "fixed"

lr_policy: "multistep"

# Display every  iterations

display:

# The maximum number of iterations

max_iter:

# snapshot intermediate results

snapshot:

snapshot_prefix: "examples/cifar10/cifar10_quick"

# solver mode: CPU or GPU

solver_mode: CPU

运行例子：

(caffe_src) root@ranxf-TEST:/workdisk/caffe# time sh examples/cifar10/train_quick.sh

I0912 ::04.298250   caffe.cpp:] Use CPU.

I0912 ::04.298424   solver.cpp:] Initializing solver from parameters:

test_iter:

test_interval:

base_lr: 0.001

display:

max_iter:

lr_policy: "fixed"

momentum: 0.9

weight_decay: 0.004

snapshot:

snapshot_prefix: "examples/cifar10/cifar10_quick"

solver_mode: CPU
………………

I0912 17:10:29.430344 10100 solver.cpp:474] Snapshotting to HDF5 file examples/cifar10/cifar10_quick_iter_5000.caffemodel.h5
I0912 17:10:29.526800 10100 sgd_solver.cpp:296] Snapshotting solver state to HDF5 file examples/cifar10/cifar10_quick_iter_5000.solverstate.h5
I0912 17:10:29.745208 10100 solver.cpp:327] Iteration 5000, loss = 0.480207
I0912 17:10:29.745240 10100 solver.cpp:347] Iteration 5000, Testing net (#0)
I0912 17:10:49.806242 10103 data_layer.cpp:73] Restarting data prefetching from start.
I0912 17:10:50.642014 10100 solver.cpp:414]     Test net output #0: accuracy = 0.7558
I0912 17:10:50.642050 10100 solver.cpp:414]     Test net output #1: loss = 0.739888 (* 1 = 0.739888 loss)
I0912 17:10:50.642055 10100 solver.cpp:332] Optimization Done.
I0912 17:10:50.642061 10100 caffe.cpp:250] Optimization Done.

real    47m46.393s
user    47m50.689s
sys    0m0.312

CPU大约48分钟左右，精度75%左右。

以下是GPU运行情况

real    2m6.112s

user    1m23.442s

sys    0m21.771s

巴特西

Caffe学习使用__运行caffe自带的两个简单例子

最新文章

热门文章