Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

训练速度很慢 #14

Open
Ghustwb opened this issue Mar 27, 2018 · 4 comments
Open

训练速度很慢 #14

Ghustwb opened this issue Mar 27, 2018 · 4 comments

Comments

@Ghustwb
Copy link

Ghustwb commented Mar 27, 2018

训练数据6万张图片,batch size设置512,训练PNet,读取数据就花了4个小时。迭代速度 20step 耗时4分钟。这个在哪里可以改吗

@libohit
Copy link

libohit commented Mar 28, 2018

我用wider训练没有这么慢呢!

@Ghustwb
Copy link
Author

Ghustwb commented Apr 1, 2018

@libohit 我用了自己的数据,没有用wider。 训练数据的数量大概6万张图片,在加载数据过程中很慢,然后生成样本保存在本地的时候直接把硬盘存满了。正样本加上负样本就已经有五百万了。这个代码里面加载数据的部分没有使用pytorch的dataloader的api,而是自己实现的,不知道作者为什么不使用api而是选择自己去实现数据输入。

@kuaikuaikim
Copy link
Owner

@Ghustwb 加载数据可以选用队列(pytorch内置队列功能), 硬件方面推荐使用闪存吧,文件系统推荐ext4或者F2FS。

@renyanfei12321
Copy link

想问为什么没有使用torch自带的dataloader,自己写的列表读的太慢了,而且占用内存太高

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

4 participants