广告位联系
返回顶部
分享到

python进程间通信的项目实践

python 来源:互联网 作者:佚名 发布时间:2023-03-12 09:20:38 人浏览
摘要

进程间通信表示进程之间的数据交换。 为了开发并行应用程序,需要在进程间交换数据。 下图显示了多个子过程之间同步的各种通信机制 - 各种通信机制 队列 队列可以用于多进程程序

进程间通信表示进程之间的数据交换。 为了开发并行应用程序,需要在进程间交换数据。 下图显示了多个子过程之间同步的各种通信机制 -

在这里插入图片描述

各种通信机制

队列

队列可以用于多进程程序。 多处理模块的Queue类与Queue.Queue类相似。 因此,可以使用相同的API。 Multiprocessing.Queue提供了进程间通信的线程和进程安全FIFO(先进先出)机制。

例子

下面是一个简单的例子,从python官方文档多处理了解Queue类的多处理概念

1

2

3

4

5

6

7

8

9

10

11

12

from multiprocessing import Process, Queue

import queue

import random

def f(q):

   q.put([42, None, 'hello'])

def main():

   q = Queue()

   p = Process(target = f, args = (q,))

   p.start()

   print (q.get())

if __name__ == '__main__':

   main()

执行上面示例代码,得到以下结果 -

[42, None, 'hello']

管道

它是一种数据结构,用于在多进程程序中的进程之间进行通信。Pipe()函数返回一对由管道连接的连接对象,默认情况下是双工(双向)。 它的工作原理如下 -
它返回一对代表管道两端的连接对象。
每个对象都有两个方法 - send()和recv(),以在进程之间进行通信。

例子

下面是一个简单的例子,摘自python官方文档多处理,以理解Pipe()函数的多进程概念

1

2

3

4

5

6

7

8

9

10

11

12

from multiprocessing import Process, Pipe

 

def f(conn):

   conn.send([42, None, 'hello'])

   conn.close()

 

if __name__ == '__main__':

   parent_conn, child_conn = Pipe()

   p = Process(target = f, args = (child_conn,))

   p.start()

   print (parent_conn.recv())

   p.join()

执行上面代码,得到以下结果 -

[42, None, 'hello']

管理器

Manager是一类多处理模块,它提供了一种协调所有用户之间共享信息的方式。管理器对象控制服务器进程,该进程管理共享对象并允许其他进程操纵它们。 换句话说,管理器提供了一种方法来创建可以在不同进程之间共享的数据。 以下是Manager对象的不同属性 -

  • 管理器的主要属性是控制管理共享对象的服务器进程。
  • 另一个重要属性是在任何进程修改它时更新所有共享对象。

例子

以下是使用管理器对象在服务器进程中创建列表记录,然后在该列表中添加新记录的示例。

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

import multiprocessing

 

def print_records(records):

   for record in records:

      print("Name: {0}\nScore: {1}\n".format(record[0], record[1]))

 

def insert_record(record, records):

   records.append(record)

      print("A New record is added\n")

 

if __name__ == '__main__':

   with multiprocessing.Manager() as manager:

 

      records = manager.list([('Computers', 1), ('Histoty', 5), ('Hindi',9)])

      new_record = ('English', 3)

 

      p1 = multiprocessing.Process(target = insert_record, args = (new_record, records))

      p2 = multiprocessing.Process(target = print_records, args = (records,))

      p1.start()

      p1.join()

      p2.start()

      p2.join()

执行上面代码,得到以下结果 -

A New record is added

Name: Computers
Score: 1

Name: Histoty
Score: 5

Name: Hindi
Score: 9

Name: English
Score: 3

管理器命名空间的概念

Manager类带有名称空间的概念,这是一种在多个进程间共享多个属性的快速方法。 命名空间不具有任何可以调用的公共方法,但它们具有可写的属性。

例子

以下Python脚本示例如何使用命名空间在主进程和子进程之间共享数据 -

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

import multiprocessing

 

def Mng_NaSp(using_ns):

 

   using_ns.x +=5

   using_ns.y *= 10

 

if __name__ == '__main__':

   manager = multiprocessing.Manager()

   using_ns = manager.Namespace()

   using_ns.x = 1

   using_ns.y = 1

 

   print ('before', using_ns)

   p = multiprocessing.Process(target = Mng_NaSp, args = (using_ns,))

   p.start()

   p.join()

   print ('after', using_ns)

执行上面示例代码,得到以下结果 -

before Namespace(x = 1, y = 1)
after Namespace(x = 6, y = 10)

Ctypes数组和值

Multiprocessing模块提供了Array和Value对象,用于将数据存储在共享内存映射中。 Array是从共享内存分配的Array和Value是从共享内存分配的ctypes对象。
Multiprocessing模块导入Process,Value,Array。

例子

下面的Python脚本是一个从python文档中获取的例子,它利用Ctypes Array和Value在进程间共享一些数据。

1

2

3

4

5

6

7

8

9

10

11

12

13

14

def f(n, a):

   n.value = 3.1415927

   for i in range(len(a)):

   a[i] = -a[i]

 

if __name__ == '__main__':

   num = Value('d', 0.0)

   arr = Array('i', range(10))

 

   p = Process(target = f, args = (num, arr))

   p.start()

   p.join()

   print (num.value)

   print (arr[:])

执行上面示例代码,得到以下结果 -

3.1415927
[0, -1, -2, -3, -4, -5, -6, -7, -8, -9]

顺序进程(CSP)

CSP用于说明系统与具有并行模型的其他系统的交互。 CSP是通过消息传递编写并发或编程的框架,因此它对于描述并发是有效的

Python PyCSP库

要实现在CSP中找到的核心原语,Python有一个名为PyCSP的库。 它使实现非常简短和易读,因此可以非常容易地理解它。 以下是PyCSP的基本流程网络 -

在这里插入图片描述

在上面的PyCSP过程网络中,有两个过程 - 进程1和进程2。这些过程通过传递消息通过两个通道 - 通道1和通道2进行通信

安装PyCSP

通过以下命令来安装Python的PyCSP库 -

1

pip install PyCSP

例子

下面的Python脚本是一个简单的例子,它可以并行运行两个进程。 它是在PyCSP库的帮助下完成的

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

from pycsp.parallel import *

import time

@process

def P1():

   time.sleep(1)

   print('P1 exiting')

@process

def P2():

   time.sleep(1)

   print('P2 exiting')

def main():

   Parallel(P1(), P2())

   print('Terminating')

if __name__ == '__main__':

   main()

在上面的脚本中,已经创建了两个函数,即P1和P2,然后用@process进行装饰,将它们转换为进程。执行上面代码后,得到以下输出结果 -

P2 exiting
P1 exiting
Terminating


版权声明 : 本文内容来源于互联网或用户自行发布贡献,该文观点仅代表原作者本人。本站仅提供信息存储空间服务和不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权, 违法违规的内容, 请发送邮件至2530232025#qq.cn(#换@)举报,一经查实,本站将立刻删除。
原文链接 : https://blog.csdn.net/weixin_36058228/article/details/129419325
相关文章
  • Python操作MongoDB数据库的方法(非 ODM)

    Python操作MongoDB数据库的方法(非 ODM)
    一、连接器的安装和配置 pymongo:MongoDB 官方提供的 Python 工具包。官方文档:https://pymongo.readthedocs.io/en/stable/pip安装,命令如下: 1 pip inst
  • python进程间通信的项目实践

    python进程间通信的项目实践
    进程间通信表示进程之间的数据交换。 为了开发并行应用程序,需要在进程间交换数据。 下图显示了多个子过程之间同步的各种通信机制
  • Python实现构建一个仪表板

    Python实现构建一个仪表板
    这将为我们的团队节省每天重复的数据处理时间...... 简介 如果你目前在一个数据或商业智能团队工作,你的任务之一可能是制作一些每日、
  • Python导入模块的3种方式总结

    Python导入模块的3种方式总结
    很多初学者经常遇到这样的问题,即自定义 Python 模板后,在其它文件中用 import(或 from...import) 语句引入该文件时,Python 解释器同时如下
  • Python中私有属性“_“下划线和“__“双下划线区
    在Python中,使用一个下划线(_)和两个下划线(__)来表示私有属性。 1、一个下划线 一个下划线的属性名(例如 _x)表示这个属性是受保
  • 14个Python处理Excel的常用操作总结

    14个Python处理Excel的常用操作总结
    自从学了Python后就逼迫用Python来处理Excel,所有操作用Python实现。目的是巩固Python,与增强数据处理能力。 这也是我写这篇文章的初衷。废
  • python星号(*)和双星号(**) 函数动态参数匹配及解包
    1.乘法和幂运算符 ● 单个 * 用于乘法运算 ● 两个 ** 表示幂运算 1 2 3 4 2*3 6 2**3 8 2.函数接收数量不固定的入参 在定义函数时,我们可以定义
  • pandas读取Excel批量转换时间戳
    一、安装 1 pip install pandas 如果出报错,不能运行,可以安装 1 pip install xlrd 二、 代码如下 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 import pandas as pd import
  • 用Python绘制一个仿黑洞图像

    用Python绘制一个仿黑洞图像
    黑洞图像大家都知道,毕竟前几年刚发布的时候曾火遍全网,甚至都做成表情包了。 问题在于,凭什么认为这就是黑洞的照片,而不是一个
  • python __init__与 __new__的区别
    一、构造函数 __init__ 与__new__ __new__ 作用: 创建对象,并分配内存 __init__ 作用: 初始化对象的值 注意: 1、与java相比,java只有一个构造器
  • 本站所有内容来源于互联网或用户自行发布,本站仅提供信息存储空间服务,不拥有版权,不承担法律责任。如有侵犯您的权益,请您联系站长处理!
  • Copyright © 2017-2022 F11.CN All Rights Reserved. F11站长开发者网 版权所有 | 苏ICP备2022031554号-1 | 51LA统计