并行与并发的区别

并行 - parallel

同时做某些事情，可以互不干扰的同一时刻做几件事情

并行：是一条高速路上的多条车道，每条车道上可能同时有车辆在跑，是同时发生的概念 

并发 - concurrency

同时做某些事情，但是一个时间段内有事情要处理

并发：是众多车辆在一个时间内要通过路面的时间，比如下班时一大波人向食堂涌去，抢购时一大波请求向服务端涌去 

如何处理并发？

1、队列、缓冲区

打菜时排队，先进先出，这个队列就是缓冲区，如果女士优先的话还可以设置一个优先队列

queue 模块的类，Queue、LifoQueue、PriorityQueue

2、争抢

打菜时谁抢到打菜窗口谁就先打，这里就是一种锁机制，争抢也是一个高并发解决方案，但是有一点不好，可能有人很长时间抢不到。

3、 预处理

将热门的菜提前准备好，冷门的菜临时做，这一种提前加载用户需要的数据的思路，预处理思想，缓存常用。

4、并行

太多人吃饭，可以打开多个窗口，形成多个队列并行打菜，成本上升，就像日常通过购买更多服务器，或多开进程、线程实现并行处理，解决并发，这是水平扩展的思想

注意：

如果线程在单 CPU 上运行的话就不是并行处理了。

但是多数的服务器都是多 CPU 的，服务的部署往往是多机的、分布式的，这都是并行处理

5、 提速

提到单个打菜窗口的打菜速度，即提高单个 CPU 的性能，或单个服务器安装更多的 CPU ，这是一种垂直扩展思想。

6、 消息中间件

在食堂外部建立九曲回肠的走廊。

在第一点提到的是在程序内部建立排队，这里的消息队列是在程序的外部。

常见的消息中间件有 RabbitMQ、ActiveMQ（Apache）、RocketMQ（阿里Apache）、Kafka