多线程在python中的使用


最近想学习研究一下python中使用多线程,来提高python在爬虫项目中的效率。
现在我们在网页上查询到在python中使用的多线程的使用大多数都是使用的threading模块,但是python中还有一个模块叫做的thread模块,也能够完成多线程的任务。相比较两者来说,threading是更高级别的应用模块,但thread的存在必然有存在的理由。本篇主要讲介绍一下thread在python中的应用。
资源来自python开发文档的总结:https://docs.python.org/2/library/thread.html?highlight=thread#module-thread

thread模块提供了较底层的多线程处理模块(也被称作是轻量级的处理程序),提供了同步和简单锁(mutexes或binary semaphores)的功能。

在IDLE中import thread之后,通过help(thread) 可以查看thread的相关类函数及接口函数,在帮助文档中我们主要看到了一些有关thread的lock,error相关的函数说明,线程相关的函数说明。

主要函数说明: thread对象有以下几个函数

thread.interrupt_main():在主线程中引发一个KeyboardInterrupt(通常是Ctrl+C或者是delete)异常,子线程可以通过这个函数中断主线程。

thread.exit():

触发SystemExit异常,如果没有被捕获(不作出处理),将会影响此线程退出终止。

thread.allocate_lock():
返回一个新的lock对象,锁的方法下文将要介绍,这种锁起初是没有锁定的。

thread.get_ident():
返回当前线程的id号,返回值为一个非零的整形,它的值没有直接的意义。

thread.stack_size([size])
当建立新的线程的时候 返回栈的大小。

Lock对象有以下一个函数说明:

lock.acquire([waitflag])
当这个函数没有括号中的可选参数的时候,这个方法可以无条件地捕获这个lock。如果此锁被占用 则该方法会等待该锁被释放后将其捕获。如果这个int型的可选参数存在的话,函数的行为和这个int的值有关系:
如果是0的话,在此lock能够被无条件地捕获的前提下 lock只是被直接捕获;当waitflag为非0值时候,lock会像之前一样被无条件捕获。如果lock被成功捕获,则返回值为True,否则返回为False.

lock.release()
释放当前的lock对象;这里的lock必须是之前被捕获的,不过不要求是被同一个lock所捕获。

lock.locked():
返回当前所的状态。如果当前所被某个锁捕获,则返回值为True,否则返回为False.

另外,对于这些方法,lock对象也可以通过with声明来使用:

import thread  #导入thread模块
a_lock = thread.allocate_lock()
with a_lock:
    print a_lock is locked while this executes

分配一个锁:allocate_lock() -> lock object (allocate() is an obsolute synonym)
操作锁的方法:

2) 线程相关的函数说明:
创建一个新线程:start_new_thread(function,args[,kwargs]) (start_new() is an obsolete synonym)
退出线程:exit()和exit_thread() (PyThread_exit_thread() is an obsolete synonym)

lock相关的函数使用示例(略去error):

import thread

def print_status(a_lock):
    if a_lock.locked():
        print locked
    else:
        print not locked

a_lock = thread.allocate_lock()
print_status(a_lock)
a_lock.acquire()
print_status(a_lock)
a_lock.release()
print_status(a_lock)

thread相关的函数使用示例

import thread

def run(n):
    # a back door, can not be run 4 times
    if n == 4:
        thread.exit()
    for i in range(n):
        print i

thread.start_new_thread(run,(5,))

三 解决一个同步问题

试解决以下同步问题:使用两个线程交替输出“Hello”与“World”各5次,以“Hello”开始以“World”结束。
HelloWorld问题的同步模型建立:

semaphore h = 1, w = 0 
# because the semaphore w is 0,so we should acquire the lock w to let it be zero(locked) when we use python to .
thread1()
{
    while(true)
    {
        p(h)
        do something;
        v(w)
    }
}
thread2()
{
    while(true)
    {
        p(w)
        do something;
        v(h)
    }
}

②使用Python实现上述同步模型,两个解决方案如下。
方案A用main线程和另一个线程来交替打印。
方案B使用除main线程外的另两个线程交替打印“Hello”与“World”。

import thread

def world():    
    for i in range(5):
        w_lock.acquire()    # i want to print world
        print world
        h_lock.release()    # you can print hello now
    w_lock.release()

# main thread
print use two threads to print hello&world

h_lock = thread.allocate_lock()
w_lock = thread.allocate_lock()

w_lock.acquire(); # print world can not be started first
thread.start_new_thread(world,())
for i in range(5):
    h_lock.acquire()
    print hello
    w_lock.release()

# raw_input(finished)
import thread

def hello():
    for i in range(5):
        h_ok.acquire()
        print hello
        w_ok.release()
def world():
    for i in range(5):
        w_ok.acquire()        
        print world
        h_ok.release()

# main thread
print use two threads to print hello&world
h_ok = thread.allocate_lock()
w_ok = thread.allocate_lock()
w_ok.acquire()
thread.start_new_thread(hello,())
thread.start_new_thread(world,())

raw_input(finished) # !!it is necessary,in case main thread exit too early

 

评论关闭