当前笔记中的内容针对的是 thinkphp-queue 的 v2.0 版本
传统的程序执行流程一般是 即时|同步|串行的,在某些场景下,会存在并发低,吞吐量低,响应时间长等问题。在大型系统中,一般会引入消息队列的组件,将流程中部分任务抽离出来放入消息队列,并由专门的消费者作针对性的处理,从而降低系统耦合度,提高系统性能和可用性。
一般来说,可以抽离的任务具有以下的特点:
thinkphp-queue 是thinkphp 官方提供的一个消息队列服务,它支持消息队列的一些基本特性:
thinkphp-queue 内置了 Redis,Database,Topthink ,Sync这四种驱动。本文主要介绍 thinkphp-queue 结合其内置的 redis 驱动的使用方式和基本原理。
注1:如无特殊说明,下文中的 ‘消息’ 和 ‘任务’两个词指代的是同一个概念,即队列中的一个成员。该成员对消息队列而言是其内部保存的消息; 对业务应用而言是一个待执行的任务。请根据语境区分。
注2:本文编写时(2019-01-30)使用的 thinkphp-queue 的版本号是 v2.0 。如有变更,请以官方最新版为准。
先通过一段代码,了解一下 thinkphp-queue 的基本使用流程。
目标:在业务控制器中推送一个新消息到一个名为 ‘helloJobQueue’ 的队列中,该消息中包含我们自定义的业务数据,然后,编写一个名为 Hello 的消费者类,并通过命令行去调用该消费者类获取这个消息,拿到定义的数据。
- composer install topthink/think-queue
- 安装并启动 Redis 服务
-
- CREATE TABLE `prefix_jobs` (
- `id` int(11) NOT NULL AUTO_INCREMENT,
- `queue` varchar(255) NOT NULL,
- `payload` longtext NOT NULL,
- `attempts` tinyint(3) unsigned NOT NULL,
- `reserved` tinyint(3) unsigned NOT NULL,
- `reserved_at` int(10) unsigned DEFAULT NULL,
- `available_at` int(10) unsigned NOT NULL,
- `created_at` int(10) unsigned NOT NULL,
- PRIMARY KEY (`id`)
- ) ENGINE=InnoDB DEFAULT CHARSET=utf8;
根据选择的存储方式,在 \application\config\queue.php 这个配置文件中,添加消息队列对应的驱动配置
- return [
- 'connector' => 'Redis', // Redis 驱动
- 'expire' => 60, // 任务的过期时间,默认为60秒; 若要禁用,则设置为 null
- 'default' => 'default', // 默认的队列名称
- 'host' => '127.0.0.1', // redis 主机ip
- 'port' => 6379, // redis 端口
- 'password' => '', // redis 密码
- 'select' => 0, // 使用哪一个 db,默认为 db0
- 'timeout' => 0, // redis连接的超时时间
- 'persistent' => false, // 是否是长连接
-
- // 'connector' => 'Database', // 数据库驱动
- // 'expire' => 60, // 任务的过期时间,默认为60秒; 若要禁用,则设置为 null
- // 'default' => 'default', // 默认的队列名称
- // 'table' => 'jobs', // 存储消息的表名,不带前缀
- // 'dsn' => [],
-
- // 'connector' => 'Topthink', // ThinkPHP内部的队列通知服务平台 ,本文不作介绍
- // 'token' => '',
- // 'project_id' => '',
- // 'protocol' => 'https',
- // 'host' => 'qns.topthink.com',
- // 'port' => 443,
- // 'api_version' => 1,
- // 'max_retries' => 3,
- // 'default' => 'default',
-
- // 'connector' => 'Sync', // Sync 驱动,该驱动的实际作用是取消消息队列,还原为同步执行
- ];
1.3.1 配置文件中的 expire 参数说明
expire 参数指的是任务的过期时间, 单位为秒。 过期的任务,其准确的定义是
expire 不为null 时 ,thinkphp-queue 会在每次获取下一个任务之前检查并重发过期(执行超时)的任务。
expire 为null 时,thinkphp-queue 不会检查过期的任务,性能相对较高一点。但是需要注意:
对expire 参数理解或者使用不当时,很容易产生一些bug,后面会举例提到。
我们在业务控制器中创建一个新的消息,并推送到 helloJobQueue 队列
新增 \application\index\controller\JobTest.php 控制器,在该控制器中添加 actionWithHelloJob 方法
- <?php
- /**
- * 文件路径: \application\index\controller\JobTest.php
- * 该控制器的业务代码中借助了thinkphp-queue 库,将一个消息推送到消息队列
- */
- namespace app\index\controller;
- use think\Exception;
-
- use think\Queue;
-
- class JobTest {
- /**
- * 一个使用了队列的 action
- */
- public function actionWithHelloJob(){
-
- // 1.当前任务将由哪个类来负责处理。
- // 当轮到该任务时,系统将生成一个该类的实例,并调用其 fire 方法
- $jobHandlerClassName = 'app\index\job\Hello';
-
- // 2.当前任务归属的队列名称,如果为新队列,会自动创建
- $jobQueueName = "helloJobQueue";
-
- // 3.当前任务所需的业务数据 . 不能为 resource 类型,其他类型最终将转化为json形式的字符串
- // ( jobData 为对象时,存储其public属性的键值对 )
- $jobData = [ 'ts' => time(), 'bizId' => uniqid() , 'a' => 1 ] ;
-
- // 4.将该任务推送到消息队列,等待对应的消费者去执行
- $isPushed = Queue::push( $jobHandlerClassName , $jobData , $jobQueueName );
-
- // database 驱动时,返回值为 1|false ; redis 驱动时,返回值为 随机字符串|false
- if( $isPushed !== false ){
- echo date('Y-m-d H:i:s') . " a new Hello Job is Pushed to the MQ"."<br>";
- }else{
- echo 'Oops, something went wrong.';
- }
- }
- }
注意: 在这个例子当中,我们是手动指定的 $jobHandlerClassName ,更合理的做法是先定义好消息名称与消费者类名的映射关系,然后由某个可以获取该映射关系的类来推送这个消息。这样,生产者只需要知道消息的名称,而无需指定哪个消费者类来处理。
除了 Queue::push( $jobHandlerClassName , $jobData , $jobQueueName );这种方式之外,还可以直接传入 Queue::push( $jobHandlerObject ,null , $jobQueueName ); 这时,需要在 $jobHandlerObject 中定义一个 handle() 方法,消息队列在执行到该任务时会自动反序列化该对象,并调用其 handle()方法。 该方式中, 数据需要提前挂载在 $jobHandlerObject 对象上。
编写 Hello 消费者类,用于处理 helloJobQueue 队列中的任务
新增 \application\index\job\Hello.php 消费者类,并编写其 fire() 方法
- <?php
- /**
- * 文件路径: \application\index\job\Hello.php
- * 这是一个消费者类,用于处理 helloJobQueue 队列中的任务
- */
- namespace app\index\job;
-
- use think\queue\Job;
-
- class Hello {
-
- /**
- * fire方法是消息队列默认调用的方法
- * @param Job $job 当前的任务对象
- * @param array|mixed $data 发布任务时自定义的数据
- */
- public function fire(Job $job,$data)
- {
- // 有些消息在到达消费者时,可能已经不再需要执行了
- $isJobStillNeedToBeDone = $this->checkDatabaseToSeeIfJobNeedToBeDone($data);
- if(!$isJobStillNeedToBeDone){
- $job->delete();
- return;
- }
-
- $isJobDone = $this->doHelloJob($data);
-
- if ($isJobDone) {
- // 如果任务执行成功, 记得删除任务
- $job->delete();
- print("<info>Hello Job has been done and deleted"."</info>\n");
- }else{
- if ($job->attempts() > 3) {
- //通过这个方法可以检查这个任务已经重试了几次了
- print("<warn>Hello Job has been retried more than 3 times!"."</warn>\n");
-
- $job->delete();
-
- // 也可以重新发布这个任务
- //print("<info>Hello Job will be availabe again after 2s."."</info>\n");
- //$job->release(2); //$delay为延迟时间,表示该任务延迟2秒后再执行
- }
- }
- }
-
- /**
- * 有些消息在到达消费者时,可能已经不再需要执行了
- * @param array|mixed $data 发布任务时自定义的数据
- * @return boolean 任务执行的结果
- */
- private function checkDatabaseToSeeIfJobNeedToBeDone($data){
- return true;
- }
-
- /**
- * 根据消息中的数据进行实际的业务处理...
- */
- private function doHelloJob($data)
- {
- print("<info>Hello Job Started. job Data is: ".var_export($data,true)."</info> \n");
- print("<info>Hello Job is Fired at " . date('Y-m-d H:i:s') ."</info> \n");
- print("<info>Hello Job is Done!"."</info> \n");
-
- return true;
- }
- }
至此,所有的代码都已准备完毕,在运行消息队列之前,我们先看一下现在的目录结构:
在浏览器中访问 http://your.project.domain/index/job_test/actionWithHelloJob ,可以看到消息推送成功。
切换当前终端窗口的目录到项目根目录下,执行
- php think queue:work --queue helloJobQueue
可以看到执行的结果类似如下:
至此,我们成功地经历了一个消息的 创建 -> 推送 -> 消费 -> 删除 的基本流程,下文将介绍 thinkphp-queue 的详细使用方法。如配置介绍,基本原理,各种特殊情况的处理等。