-
Notifications
You must be signed in to change notification settings - Fork 352
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
训练速度很慢 #14
Comments
我用wider训练没有这么慢呢! |
@libohit 我用了自己的数据,没有用wider。 训练数据的数量大概6万张图片,在加载数据过程中很慢,然后生成样本保存在本地的时候直接把硬盘存满了。正样本加上负样本就已经有五百万了。这个代码里面加载数据的部分没有使用pytorch的dataloader的api,而是自己实现的,不知道作者为什么不使用api而是选择自己去实现数据输入。 |
@Ghustwb 加载数据可以选用队列(pytorch内置队列功能), 硬件方面推荐使用闪存吧,文件系统推荐ext4或者F2FS。 |
想问为什么没有使用torch自带的dataloader,自己写的列表读的太慢了,而且占用内存太高 |
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
训练数据6万张图片,batch size设置512,训练PNet,读取数据就花了4个小时。迭代速度 20step 耗时4分钟。这个在哪里可以改吗
The text was updated successfully, but these errors were encountered: