JupyterNotebook运行Python代码实现传参方式,


目录
  • Jupyter Notebook运行Python代码实现传参
    • 例如,使用argv[1]时出现
    • 例如,在如下命令行中
  • jupyter notebook参数化运行python
    • Updates
    • Notes
    • Codes
    • in py file
    • in notebook
  • 总结

    Jupyter Notebook运行Python代码实现传参

    在Jupyter Notebook中,运行Python源代码非常方便,但是如何模拟命令行方式运行时的输入参数呢?

    如果直接使用sys.argv会出现错误。

    例如,使用argv[1]时出现

    运行错误截图

    导致上述错误的原因为:在Jupyter Notebook中运行Python代码时,argv中有三个默认参数,分别是:

    argv[0]: ‘路径\test.py' (源代码文件名)
    argv[1]: ‘-f'
    argv[2]: '路径\kernel-…json'

    而在命令行方式下运行Python代码时,argv[0]与上述argv[0]相同,但argv[1]为命令行中紧随在test.py之后的字符串

    例如,在如下命令行中

    python test.py test.txt
    argv[1]为 test.txt

    因此,解决方案就是对 list argv 进行修改,如下面的代码所示:

    #需要sys模块来使用argv
    from sys import argv
    #查看当前的argv列表
    print(len(argv))
    print(argv)
    #直接修改argv
    argv[1] = 'test.txt'
    #也可以添加新的参数
    argv.append('test.txt')

    这样,在后续代码中, .py 和 .ipynb源代码一致,无需为在Jupyter Notebook中运行而进行修改。

    jupyter notebook参数化运行python

    Updates

    (2019.8.14 19:53)吃饭前用这个方法实战了一下,吃完回来一看好像不太行:跑完一组参数之后,到跑下一组参数时好像没有释放之占用的 GPU,于是 notebook 上的结果,后面好几条都报错说 cuda out of memory。

    现在改成:将 notebook 中的代码写在一个 python 文件中,然后用命令行运行这个文件,比如:

    # autorun.py
    import os
    # print(os.getcwd())
    over = [  # 之前手工改参数跑完的参数组合
        [0, 1, 1], [0, 1, 2], [0, 1, 3],
        [0, 2, 1],
        [1, 0, 1],
        [1, 2, 1]
    ]
    for alpha in range(1, 4, 1):
        for beta in range(3):
            for gamma in range(3):
                if [alpha, beta, gamma] in over:
                    continue
                os.system(f'python main.py --alpha {alpha} --beta {beta} --gamma {gamma}')

    这里的 main.py 是训练用的主文件。改在 py 里用 os.system 跑,希望跑一组参数之后完会自动释放资源再跑下一组(?)

    Notes

    有多组参数组合需要尝试,不想每组参数都人工修改 python 代码,再在 notebook 中 %run 它。

    python 参数通过的 argparse 接收,在 notebook 中写个多重循环遍历参数组合传给 python 程序自动运行。

    记录一个简例。

    Codes

    test_dir

    |- test.py

    |- test.ipynb

    in py file

    # test.py
    import argparse
    parser = argparse.ArgumentParser()
    parser.add_argument('--number', type=int, default=0, help='number')
    parser.add_argument('--string', type=str, default='abc', help='string')
    args = parser.parse_args()
    print('number:', args.number, type(args.number))
    print('string:', args.string, type(args.string))

    in notebook

    注意传参数时 $ 的使用

    # test.ipynb
    for i in range(3):
        for s in ('a', 'b', 'c'):
            %run test.py --number $i --string $s

    总结

    以上为个人经验,希望能给大家一个参考,也希望大家多多支持3672js教程。

    您可能感兴趣的文章:
    • 使用jupyter notebook保存python代码为.py格式问题
    • Jupyter Notebook/VSCode导出PDF中文不显示的解决
    • 如何解决jupyter notebook中文乱码问题
    • jupyter notebook如何导出pdf并支持中文
    • Jupyter Notebook出现不是内部或外部的命令解决方案
    • jupyter notebook加载和运行.py文件方式

    评论关闭