Skip to content

RenShuhuai-Andy/my-tools

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

50 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

My Tools

常用的一些轮子

shell script

python script

visualization
训练可视化
结果可视化
pytorch
printer
  • logger.py:使用 logging 模块同时将日志打印到终端和文件。
cuda_memory_tracker

参考:https://github.com/Oldpan/Pytorch-Memory-Utils

  • model_size_estimate.py:估计 pytorch 模型参数和中间变量所占显存的大小。
  • gpu_mem_track.py:精确跟踪 pytorch 模型的显存使用情况(需要安装 NVIDIA 的 python 环境库 pynvml:pip install nvidia-ml-py3,或 conda install -c conda-forge pynvml)。
  • examples.py:对于 gpu_mem_track.py 的使用示例。

另一种监控显存的方法:Pytorch Profiler

PyTorch显存机制分析 - Connolly的文章 - 知乎

configargparse

统一了命令行参数、配置文件、环境变量等设置,并创建为单例模式,使得它们在代码的任何地方都可以通过 Config.get_instatnce() 被导入和使用。

另一种指定实验配置的方法:Sacred

other
  • hook.py:使用 pytorch hook 获取中间层变量的值和梯度。
  • get_batch.py:获取一个 batch_siez 的 data。
  • time.py:计算程序运行时间。
  • model_stats.py:打印模型状态,包括参数名、参数量、显存开销、Flops、激活张量的大小等。
  • multi_process.py:多进程的使用示例。
  • gpus.py: 空占GPU资源的脚本

latex

v2ray script

  • README.md:v2ray的相关命令、配置、阅读材料。

About

my commonly-used tools

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages