2025年6月8日 星期日 乙巳(蛇)年 三月十二 设为首页 加入收藏
rss
您当前的位置:首页 > 计算机 > 编程开发 > PHP

thinkphp-queue 源码阅读笔记 之 前言

时间:12-14来源:作者:点击数:7
城东书院 www.cdsy.xyz

当前笔记中的内容针对的是 thinkphp-queue 的 v2.0 版本

传统的程序执行流程一般是 即时|同步|串行的,在某些场景下,会存在并发低,吞吐量低,响应时间长等问题。在大型系统中,一般会引入消息队列的组件,将流程中部分任务抽离出来放入消息队列,并由专门的消费者作针对性的处理,从而降低系统耦合度,提高系统性能和可用性。

一般来说,可以抽离的任务具有以下的特点:

  • 允许延后|异步|并行处理 (相对于传统的 即时|同步|串行 的执行方式)
    • 允许延后:抢购活动时,先快速缓冲有限的参与人数到消息队列,后续再排队处理实际的抢购业务;
    • 允许异步:业务处理过程中的邮件,短信等通知
    • 允许并行:用户支付成功之后,邮件通知,微信通知,短信通知可以由多个不同的消费者并行执行,通知到达的时间不要求先后顺序。
  • 允许失败和重试
    • 强一致性的业务放入核心流程处理
    • 无一致性要求或最终一致即可的业务放入队列处理

thinkphp-queue 是thinkphp 官方提供的一个消息队列服务,它支持消息队列的一些基本特性:

  • 消息的发布获取执行删除重发失败处理延迟执行超时控制
  • 队列的多队列, 内存限制 ,启动停止守护
  • 消息队列可降级为同步执行

thinkphp-queue 内置了 RedisDatabaseTopthink ,Sync这四种驱动。本文主要介绍 thinkphp-queue 结合其内置的 redis 驱动的使用方式和基本原理。

注1:如无特殊说明,下文中的 ‘消息’ 和 ‘任务’两个词指代的是同一个概念,即队列中的一个成员。该成员对消息队列而言是其内部保存的消息; 对业务应用而言是一个待执行的任务。请根据语境区分。

注2:本文编写时(2019-01-30)使用的 thinkphp-queue 的版本号是 v2.0 。如有变更,请以官方最新版为准。

一 代码示例

先通过一段代码,了解一下 thinkphp-queue 的基本使用流程。

目标:在业务控制器中推送一个新消息到一个名为 ‘helloJobQueue’ 的队列中,该消息中包含我们自定义的业务数据,然后,编写一个名为 Hello 的消费者类,并通过命令行去调用该消费者类获取这个消息,拿到定义的数据。

1.1 安装 thinkphp-queue
  • composer install topthink/think-queue
1.2 搭建消息队列的存储环境
  • 使用 Redis [推荐]
    • 安装并启动 Redis 服务
  • 使用数据库 [不推荐]
    • CREATE TABLE `prefix_jobs` (
    • `id` int(11) NOT NULL AUTO_INCREMENT,
    • `queue` varchar(255) NOT NULL,
    • `payload` longtext NOT NULL,
    • `attempts` tinyint(3) unsigned NOT NULL,
    • `reserved` tinyint(3) unsigned NOT NULL,
    • `reserved_at` int(10) unsigned DEFAULT NULL,
    • `available_at` int(10) unsigned NOT NULL,
    • `created_at` int(10) unsigned NOT NULL,
    • PRIMARY KEY (`id`)
    • ) ENGINE=InnoDB DEFAULT CHARSET=utf8;
1.3 配置消息队列的驱动

根据选择的存储方式,在 \application\config\queue.php 这个配置文件中,添加消息队列对应的驱动配置

  • return [
  • 'connector' => 'Redis', // Redis 驱动
  • 'expire' => 60, // 任务的过期时间,默认为60秒; 若要禁用,则设置为 null
  • 'default' => 'default', // 默认的队列名称
  • 'host' => '127.0.0.1', // redis 主机ip
  • 'port' => 6379, // redis 端口
  • 'password' => '', // redis 密码
  • 'select' => 0, // 使用哪一个 db,默认为 db0
  • 'timeout' => 0, // redis连接的超时时间
  • 'persistent' => false, // 是否是长连接
  • // 'connector' => 'Database', // 数据库驱动
  • // 'expire' => 60, // 任务的过期时间,默认为60秒; 若要禁用,则设置为 null
  • // 'default' => 'default', // 默认的队列名称
  • // 'table' => 'jobs', // 存储消息的表名,不带前缀
  • // 'dsn' => [],
  • // 'connector' => 'Topthink', // ThinkPHP内部的队列通知服务平台 ,本文不作介绍
  • // 'token' => '',
  • // 'project_id' => '',
  • // 'protocol' => 'https',
  • // 'host' => 'qns.topthink.com',
  • // 'port' => 443,
  • // 'api_version' => 1,
  • // 'max_retries' => 3,
  • // 'default' => 'default',
  • // 'connector' => 'Sync', // Sync 驱动,该驱动的实际作用是取消消息队列,还原为同步执行
  • ];

1.3.1 配置文件中的 expire 参数说明

expire 参数指的是任务的过期时间, 单位为秒。 过期的任务,其准确的定义是

  1. 任务的状态为执行中
  2. 任务的开始执行的时刻 + expire > 当前时刻

expire 不为null 时 ,thinkphp-queue 会在每次获取下一个任务之前检查并重发过期(执行超时)的任务。

expire 为null 时,thinkphp-queue 不会检查过期的任务,性能相对较高一点。但是需要注意:

  • 这些执行超时的任务会一直留在消息队列中,需要开发者另行处理(删除或者重发)!

对expire 参数理解或者使用不当时,很容易产生一些bug,后面会举例提到。

1.4 消息的创建与推送

我们在业务控制器中创建一个新的消息,并推送到 helloJobQueue 队列

新增 \application\index\controller\JobTest.php 控制器,在该控制器中添加 actionWithHelloJob 方法

  • <?php
  • /**
  • * 文件路径: \application\index\controller\JobTest.php
  • * 该控制器的业务代码中借助了thinkphp-queue 库,将一个消息推送到消息队列
  • */
  • namespace app\index\controller;
  • use think\Exception;
  • use think\Queue;
  • class JobTest {
  • /**
  • * 一个使用了队列的 action
  • */
  • public function actionWithHelloJob(){
  • // 1.当前任务将由哪个类来负责处理。
  • // 当轮到该任务时,系统将生成一个该类的实例,并调用其 fire 方法
  • $jobHandlerClassName = 'app\index\job\Hello';
  • // 2.当前任务归属的队列名称,如果为新队列,会自动创建
  • $jobQueueName = "helloJobQueue";
  • // 3.当前任务所需的业务数据 . 不能为 resource 类型,其他类型最终将转化为json形式的字符串
  • // ( jobData 为对象时,存储其public属性的键值对 )
  • $jobData = [ 'ts' => time(), 'bizId' => uniqid() , 'a' => 1 ] ;
  • // 4.将该任务推送到消息队列,等待对应的消费者去执行
  • $isPushed = Queue::push( $jobHandlerClassName , $jobData , $jobQueueName );
  • // database 驱动时,返回值为 1|false ; redis 驱动时,返回值为 随机字符串|false
  • if( $isPushed !== false ){
  • echo date('Y-m-d H:i:s') . " a new Hello Job is Pushed to the MQ"."<br>";
  • }else{
  • echo 'Oops, something went wrong.';
  • }
  • }
  • }

注意: 在这个例子当中,我们是手动指定的 $jobHandlerClassName ,更合理的做法是先定义好消息名称与消费者类名的映射关系,然后由某个可以获取该映射关系的类来推送这个消息。这样,生产者只需要知道消息的名称,而无需指定哪个消费者类来处理。

除了 Queue::push( $jobHandlerClassName , $jobData , $jobQueueName );这种方式之外,还可以直接传入 Queue::push( $jobHandlerObject ,null , $jobQueueName ); 这时,需要在 $jobHandlerObject 中定义一个 handle() 方法,消息队列在执行到该任务时会自动反序列化该对象,并调用其 handle()方法。 该方式中, 数据需要提前挂载在 $jobHandlerObject 对象上。

1.5 消息的消费与删除

编写 Hello 消费者类,用于处理 helloJobQueue 队列中的任务

新增 \application\index\job\Hello.php 消费者类,并编写其 fire() 方法

  • <?php
  • /**
  • * 文件路径: \application\index\job\Hello.php
  • * 这是一个消费者类,用于处理 helloJobQueue 队列中的任务
  • */
  • namespace app\index\job;
  • use think\queue\Job;
  • class Hello {
  • /**
  • * fire方法是消息队列默认调用的方法
  • * @param Job $job 当前的任务对象
  • * @param array|mixed $data 发布任务时自定义的数据
  • */
  • public function fire(Job $job,$data)
  • {
  • // 有些消息在到达消费者时,可能已经不再需要执行了
  • $isJobStillNeedToBeDone = $this->checkDatabaseToSeeIfJobNeedToBeDone($data);
  • if(!$isJobStillNeedToBeDone){
  • $job->delete();
  • return;
  • }
  • $isJobDone = $this->doHelloJob($data);
  • if ($isJobDone) {
  • // 如果任务执行成功, 记得删除任务
  • $job->delete();
  • print("<info>Hello Job has been done and deleted"."</info>\n");
  • }else{
  • if ($job->attempts() > 3) {
  • //通过这个方法可以检查这个任务已经重试了几次了
  • print("<warn>Hello Job has been retried more than 3 times!"."</warn>\n");
  • $job->delete();
  • // 也可以重新发布这个任务
  • //print("<info>Hello Job will be availabe again after 2s."."</info>\n");
  • //$job->release(2); //$delay为延迟时间,表示该任务延迟2秒后再执行
  • }
  • }
  • }
  • /**
  • * 有些消息在到达消费者时,可能已经不再需要执行了
  • * @param array|mixed $data 发布任务时自定义的数据
  • * @return boolean 任务执行的结果
  • */
  • private function checkDatabaseToSeeIfJobNeedToBeDone($data){
  • return true;
  • }
  • /**
  • * 根据消息中的数据进行实际的业务处理...
  • */
  • private function doHelloJob($data)
  • {
  • print("<info>Hello Job Started. job Data is: ".var_export($data,true)."</info> \n");
  • print("<info>Hello Job is Fired at " . date('Y-m-d H:i:s') ."</info> \n");
  • print("<info>Hello Job is Done!"."</info> \n");
  • return true;
  • }
  • }

至此,所有的代码都已准备完毕,在运行消息队列之前,我们先看一下现在的目录结构:

1.6 发布任务

在浏览器中访问 http://your.project.domain/index/job_test/actionWithHelloJob ,可以看到消息推送成功。

1.7 处理任务

切换当前终端窗口的目录到项目根目录下,执行

  • php think queue:work --queue helloJobQueue

可以看到执行的结果类似如下:

至此,我们成功地经历了一个消息的 创建 -> 推送 -> 消费 -> 删除 的基本流程,下文将介绍 thinkphp-queue 的详细使用方法。如配置介绍,基本原理,各种特殊情况的处理等。

城东书院 www.cdsy.xyz
方便获取更多学习、工作、生活信息请关注本站微信公众号城东书院 微信服务号城东书院 微信订阅号
推荐内容
相关内容
栏目更新
栏目热门
本栏推荐