搜索
您的当前位置:首页正文

Swoole+Lumen:同步编程风格调用MySQL异步查询

来源:二三娱乐

LNMP的不足

LNMP是经典的Web应用架构组合,虽然(Linux、NginX、MySQL和PHP-FPM)四者各种是优秀的系统或软件,但是组合到一起的总体性能并不尽人意,明显的不是1+1+1+1>4,而是4+3+2+1<1。Linux系统无可厚非,主要问题出现在:

从NginX到PHP-FPM

从PHP-FPM到MySQL

由于PHP代码本身是同步执行,PHP-FPM连接MySQL查询数据时,只能空闲等待MySQL返回查询结果。一个查询语句执行时间可能会需要几秒钟,期间PHP-FPM若是能暂时放下当前用户慢查询请求,而去处理其他用户请求,效率必然有所提高。

Swoole HTTP服务器

压力测试

在4GB+4Core的虚拟机下,测试HTTP服务器的静态输出:

  • 2000客户端并发500000请求,不开启HTTP Keepalive,平均QPS:
NginX + HTML               QPS:25883.44
NginX + PHP-FPM + Lumen    QPS:828.36
Swoole + Lumen             QPS:13647.75
  • 2000客户端并发500000请求,开启HTTP Keepalive,平均QPS:
NginX + HTML               QPS:86843.11
NginX + PHP-FPM + Lumen    QPS:894.06
Swoole + Lumen             QPS:18183.43

可以看出,Swoole + Lumen组合的执行效率远高于NginX + PHP-FPM + Lumen组合。

异步MySQL客户端

以上都是铺垫,以下才是整篇文章的重点😂😂😂

一个PHP应用要做的事不会是单纯的数据计算和数据输出,更多的是与数据库数据交互。以MySQL数据库为例,在只有一个PHP进程的情况,有10个用户同时请求执行select sleep(1);(耗时1秒)查询语句,若是使用MySQL同步查询,那么总耗时至少是10秒;若是使用MySQL异步查询,那么总耗时可能压缩到1到2秒内。

在PHP应用中能够实现数据库异步查询,才能更大的突破性能瓶颈。

Yield

yield是个动词,意思是“生成”,PHP中yield生出的东西叫Generator,意思是“生成器”😂😂😂。

个人理解是:yield将当前执行的上下文作为当前函数的结果返回(yield必须在函数中使用)。

在系统层面,各个进程的运行秩序由CPU调度;而有了yield,在PHP进程内,程序员可以自由调度各个代码块的执行顺序。比如,当“发现”当前用户请求的MySQL查询将会花费较多的时间,那么可以将当前执行上下文记录起来,交给异步MySQL客户端处理(与用户请求相关的$request$response也传递过去),而主进程继续处理下一个用户请求。

约定声明

<?php
namespace BL\SwooleHttp\Database;

class SlowQuery
{
    public $sql = '';

    public function __construct($sql)
    {
        $this->sql    = $sql;
    }
}

比如,Lumen项目中有这么一个Controller:

<?php
namespace App\Http\Controllers;
use App\Http\Controllers\Controller;
use DB;

class TestController extends Controller
{
    public function test()
    {
        $a = DB::select('select sleep(1);');
        response()->json($a);
    }
}

上面的DB::select使用的同步MySQL客户端查询,我们用SlowQuery对象替换它:

<?php
namespace App\Http\Controllers;
use App\Http\Controllers\Controller;
use BL\SwooleHttp\Database\SlowQuery;

class TestController extends Controller
{
    public function test()
    {
        $a = yield new SlowQuery('select sleep(1);');
        response()->json($a);
    }
}

以Swoole HTTP服务器运行Lumen项目时,我们一定会获取Controller的返回结果。Controller的返回结果一般可以直接包装成Lumen响应返回给用户的,但返回结果若是一个生成器Generator对象,而且其当前值是一个慢查询SlowQuery对象的话,那么我们可以取出SlowQuery对象的sql属性,交由异步MySQL客户端执行;在异步查询的回调函数中将查询结果放回Generator对象存储的上下文中运行,得到最后结果才返回给用户;而主进程没有阻塞,可以继续处理其他用户请求。

<?php
namespace App\Http\Controllers;
use App\Http\Controllers\Controller;
use App\Models\User;
use DB;

class TestController extends Controller
{
    public function test()
    {
        $a = yield User::select(DB::raw('sleep(1)'))->yieldGet(); // 注意User须继承自\BL\SwooleHttp\Database\Model
        response()->json($a);
    }
}

以上三个Controller最终产出的用户响应都是一样的,不过后两者使用的是异步MySQL客户端,效率更高。

任务调度器

连接限制

其实,每开启一个Swoole异步MySQL客户端,主进程就会新建一个线程连接MySQL,若是建立太多连接(线程),会增加自身服务器的压力,也会增加MySQL数据库服务器的压力。
这种利用yield来调用异步MySQL客户端处理慢查询而产生的线程,暂且称它为“慢查询协程”。
为了限制数据库连接数量,我们可以设置一个全局变量记录可新建慢查询协程的数量MAX_COROUTINE,开启一个异步MySQL客户端时让其减一,关闭一个异步MySQL客户端时让其加一;当用户请求慢查询时,MAX_COROUTINE大于0则由异步MySQL客户端处理,MAX_COROUTINE等于0时则由主进程“硬着头皮”自己处理。

压力测试

在4GB+4Core的虚拟机下,测试HTTP服务器与数据库读写:

一般的快速查询和快速写入测试:

  • 200并发50000请求读,利用HTTP Keepalive,平均QPS:
NginX + PHP-FPM + Lumen + MySQL    QPS:521.56
Swoole + Lumen + MySQL             QPS:7509.99
  • 200并发50000请求写,利用HTTP Keepalive,平均QPS:
NginX + PHP-FPM + Lumen + MySQL    QPS:449.44
Swoole + Lumen + MySQL             QPS:1253.93

慢查询协程测试:

  • 16worker的Swoole HTTP服务器,并发执行select sleep(1);请求的最大效率是15.72rps;
  • 16worker x 10coroutine的Swoole HTTP服务器,并发执行select sleep(1);请求的最大效率是151.93rps。

这里为什么说最大效率呢?因为当并发量远大于worker数目 x coroutine数目时,可开启慢查询协程的Swoole HTTP服务器的效率会逐渐跌向普通Swoole HTTP服务器。

select sleep(1);查询语句耗时1秒,每个用户请求都需要1秒时间来处理;不过,16进程的、每个进程可开启10个慢查询协程的Swoole HTTP服务器的每秒最多可以处理160个用户请求,而16进程的普通Swoole HTTP服务器每秒最多只能处理16个用户请求。

延伸

最后

  • ...
Top