后端开发|Python教程
python,变量,共享
后端开发-Python教程多进程共享变量和获得结果
微信平台活动报名系统源码,vscode编写c,ubuntu锁屏快捷键,移出tomcat,sqlite的rank,服务器四级,微信插件开发教程视频教程,前端登录页面框架,python爬虫用什么软件,php会消失,企业seo优化外包,仿阿里百秀网站模板,网页上显示时钟,php模板框架,菜单固定在页面左边,工作任务管理系统 代码,多线程端口扫描程序lzw
由于工程需求,要使用多线程来跑一个程序。但是因为听说python的多线程是假的,于是使用多进程,反正任务需要共享的参数少。
Pc微信互动系统源码,vscode 排除文件,ubuntu更新repo版本,tomcat 窗口改名,sqlite 删除 重复,表头固定插件源码,前端框架能混用吗,爬虫400错误,url .php,SEO文案配图,在线搭建表白网站源码,dreamweaver网页菜单栏怎么置顶,h5新闻模板,form提交跳转指定页面,校园管理系统网站模板下载,评优投票的程序lzw
查阅资料,发现实现多进程主要使用Multiprocessing,有两种方式,一种是Process,另一种是Pool。
表情源码,用vscode打一个菩萨,ubuntu 配置邮箱,tomcat 线程池长链接,pyhton爬虫教学,php操作redis实例,seo推广是要做什么检查lzw
p = Process(target=fun,args=(args))
再通过p.start()来启动一个子进程,通过p.join()方法来使得子进程运行结束后再执行父进程。
但是这样很烦,还要写个for 循环来开n个线程和join。
于是推荐用Pool。它可以开一个固定大小的进程池,然后每个线程执行apply_async()函数调用要执行的函数,最后再close和join。
代码如下:
pathm=Manager().Queue(len(pathlist))for d in pathlist: pathm.put(d)p=Pool(cp.threads)results=[]for i in range(cp.threads): temp=p.apply_async(ProcessWorker,args=(i,pathm,cp)) results.append(temp)print Waiting for all subprocesses done...p.close()p.join()print All subprocesses finish Processing. esults=[r.get() for r in results]
上面的代码演示了如何使用pool多进程,如何在Pool里的进程之间共享变量pathm,以及如何获得进程函数执行的结果。需要注意的是,ProcessWorker必须是个无界的函数,否则报错该函数无法被pickle从而不能分配到各个进程。
cPickle.PicklingError: Can pickle : attribute lookup __builtin__.instancemethod failed
有界函数和python的多进程机制
从上面引申到了一个概念,就是有界函数无界函数的概念。
查阅资料之后我总结如下:
有界函数是包在一个类中,并且只有当类被实例化之后才能使用的函数,它的界就是这个实例。我们常常把这些函数称为类方法。例如以self为参数的类方法。
无界函数可以是没有被包在类中的函数,也可以是类中的静态方法,它们跟类是独立的。如类中的静态方法,它即使在某个类中被定义,但是不能访问类中的参数和其他方法。
python多进程的机制应该是把每个进程要调用的方法和传入的参数(如上面例子中的ProcessWorker)编译然后打包,然后复制到每个进程中执行。如果输入的是一个有界函数,那么它的参数应该是它所属的类(包括参数和方法),但是这是无法获得的,而且类属性和方法可能会有坑,导致难以打包。所以python限定了多进程要调用的函数不能是类方法。
我们要把多进程调用的函数放到类外面,或者变成静态函数。但是静态函数的话不能被所属的类的方法调用(self.ProcessWorker的形式),需要在外部调用,如mc=MyClass(),mc.ProcessWorker来调用,或者MyClass().ProcessWorker来调用。
基于Python 装饰器装饰类中的方法
基于Python Numpy的数组array和矩阵matrix详解_python