Files
OpenFlare/.agent/new-async-task/SKILL.md
T
2026-06-08 20:37:52 +08:00

8.9 KiB
Raw Blame History

name, description
name description
new-async-task 项目专用:指导如何在本项目中新增异步任务(TaskHandler),包括常量定义、处理器实现、注册、Cron 调度、AppendLog 日志规范等完整步骤。

新增异步任务开发指南

本项目中异步任务基于 Asynq(Redis 任务队列)构建。开发者只需编写业务逻辑,框架负责执行记录、状态流转、日志、重试等全部外围工作。

架构概览

DispatchTask (创建记录 + 入队)
        │
        ▼
   Asynq Redis Queue
        │
        ▼
ProcessTask (状态 pending→running,调用 handler)
        │
        ▼
TaskHandler.Execute (← 你写这一步)
        │
   成功 → succeeded + 存储结果
   失败 → failed + 记录错误 + Asynq 可能自动重试

关键文件:

  • internal/task/handler.go — TaskHandler 接口、TaskResult 类型
  • internal/task/constants.go — 任务类型常量、TaskMeta、DispatchableTasks
  • internal/task/executor.go — 注册、下发、执行、日志追加
  • internal/task/worker/worker.go — Worker 启动、处理器注册、路由
  • internal/task/scheduler/scheduler.go — Cron 定时调度
  • internal/model/task_execution.go — TaskExecution GORM 模型

新增任务的完整步骤

第 1 步:在 constants.go 添加常量和 TaskMeta

打开 internal/task/constants.go,添加三样东西:

1. Asynq 任务类型常量(作为 Redis 消息类型标识,格式 {module}:{action}):

const CleanupUnusedUploadsTask = "upload:cleanup_unused"

2. 管理员下发用的任务类型常量(用于 Admin API 调用):

const TaskTypeCleanupUploads = "cleanup_unused_uploads"

3. 在 DispatchableTasks 切片中添加 TaskMeta:

var DispatchableTasks = []TaskMeta{
    {
        Type:         TaskTypeCleanupUploads,       // 管理员 API 用的标识
        AsynqTask:    CleanupUnusedUploadsTask,     // Asynq 路由用的标识
        Name:         "清理未使用上传",               // 管理后台显示名
        Description:  "清理超过1小时未使用的上传文件",    // 管理后台显示描述
        SupportsTime: false,                        // 是否支持时间范围参数(暂未使用)
        MaxRetry:     3,                            // Asynq 最大自动重试次数
        Queue:        QueueDefault,                 // 投递到的队列名
        Retryable:    true,                         // 管理端是否允许手动重试
    },
}

第 2 步:实现 TaskHandler

在 internal/apps/<module>/ 下创建 tasks.go,定义结构体并实现 TaskHandler 接口:

package upload

import (
    "context"
    "fmt"
    "time"

    "github.com/linux-do/credit/internal/db"
    "github.com/linux-do/credit/internal/model"
    "github.com/linux-do/credit/internal/task"
)

// MyTaskHandler 你的任务处理器
type CleanupUnusedUploadsHandler struct{}

// Execute 实现 TaskHandler 接口
//   - ctx: 已注入 OTel Span 和 taskID,传给 task.AppendLog 使用
//   - payload: 下发时传入的原始字节(可为 nil)
func (h *CleanupUnusedUploadsHandler) Execute(ctx context.Context, payload []byte) (*task.TaskResult, error) {
    task.AppendLog(ctx, "开始扫描未使用上传文件,阈值: %s", time.Now().Add(-1*time.Hour).Format(time.RFC3339))

    // ... 业务逻辑 ...
    // 如需处理批量数据,使用游标分页模式(参见 upload/tasks.go)

    msg := fmt.Sprintf("共处理 %d 个文件,成功删除 %d 个", totalProcessed, totalDeleted)
    task.AppendLog(ctx, "%s", msg)
    return &task.TaskResult{Message: msg}, nil
}

返回值约定:

  • 成功:返回 &task.TaskResult{Message: "摘要", Detail: "可选详细JSON"}。ProcessTask 会将 Message + "\n" + Detail 存入 TaskExecution.Result。
  • 失败:返回 nil, fmt.Errorf("...")。ProcessTask 会将错误信息存入 TaskExecution.ErrorMessage,状态标记为 failed,并将 error 返回给 Asynq 触发自动重试。

第 3 步:在 worker.go 注册

打开 internal/task/worker/worker.go,做两件事:

1. 在 init() 中注册处理器:

func init() {
    task.RegisterHandler(task.CleanupUnusedUploadsTask, &upload.CleanupUnusedUploadsHandler{})
    // 添加你的:
    task.RegisterHandler(task.YourNewTask, &yourmodule.YourHandler{})
}

2. 在 StartWorker() 的 mux 中添加路由:

mux := asynq.NewServeMux()
mux.Use(taskLoggingMiddleware)
mux.HandleFunc(task.CleanupUnusedUploadsTask, task.ProcessTask)
// 添加你的:
mux.HandleFunc(task.YourNewTask, task.ProcessTask)

所有路由都指向同一个 task.ProcessTask,它内部根据 Asynq task type 查找对应的 handler 分发执行。

第 4 步(可选):添加 Cron 定时调度

如果任务需要定时执行,编辑 internal/task/scheduler/scheduler.go,在 StartScheduler() 中注册:

if _, err = scheduler.Register(
    config.Config.Scheduler.CleanupUnusedUploadsTaskCron, // cron 表达式
    asynq.NewTask(task.CleanupUnusedUploadsTask, nil),
    asynq.Unique(23*time.Hour), // 防止重复执行
    asynq.MaxRetry(3),
); err != nil {
    return
}

然后在 internal/config/model.go 的 schedulerConfig 中添加字段:

type schedulerConfig struct {
    CleanupUnusedUploadsTaskCron string `mapstructure:"cleanup_unused_uploads_task_cron"`
    YourNewTaskCron              string `mapstructure:"your_new_task_cron"`
}

在 config.example.yaml 的 scheduler 段添加:

scheduler:
  cleanup_unused_uploads_task_cron: "0 */2 * * *"
  your_new_task_cron: "0 */6 * * *"

注意:通过 Scheduler 定时触发的任务不会创建 TaskExecution 记录(直接入队 Asynq)。ProcessTask 执行时若在数据库中找不到对应记录,会打印警告日志但仍会正常执行业务逻辑。如果需要状态追踪,应通过 Admin API 手动下发。

AppendLog 使用指南

task.AppendLog(ctx, format string, args ...interface{}) 在 TaskHandler.Execute 内部调用,将日志追加到 TaskExecution.Log 字段。管理端 API 可查看完整执行日志。

日志格式:每行自动添加 [HH:MM:SS] 时间前缀,使用 SQL COALESCE(log, '') || ? 拼接到 log 字段末尾。

何时记录日志:

时机 示例
任务开始时 task.AppendLog(ctx, "开始扫描,阈值: %s", threshold)
批量处理的每一批次 task.AppendLog(ctx, "本批次处理 %d 条记录", len(batch))
关键中间状态 task.AppendLog(ctx, "已删除对象 %s", filePath)
遇到可继续的错误时 task.AppendLog(ctx, "清理文件失败 [ID:%d]: %v", id, err)
任务完成时 task.AppendLog(ctx, "共处理 %d 个,成功 %d 个", total, success)

降级行为:如果 ctx 中没有 taskID(比如 Scheduler 触发的任务没有数据库记录),AppendLog 会降级为 logger.InfoF 输出到应用日志,不会报错。

不要过度记录:避免在循环中对每条记录都追加日志(尤其是处理量很大的场景),可以在批次级别记录摘要。每个 AppendLog 都会执行一次数据库 UPDATE。

框架自动处理的事项

开发者不需要关心以下内容,全部由 ProcessTask 框架层透明处理:

  • 记录创建:DispatchTask 自动创建 TaskExecution 记录,生成唯一 TaskID(格式 {triggeredBy}_{taskType}_{snowflakeID})
  • 状态流转:pending → running → succeeded/failed
  • 耗时统计:自动记录 StartedAt、FinishedAt、Duration(毫秒)
  • 错误记录:失败时自动存储 ErrorMessage
  • 结果存储:成功时自动存储 TaskResult.Message 和 TaskResult.Detail
  • OTel 追踪:自动创建 Span,记录任务类型、Payload 大小、TaskID
  • 重试计数:手动重试时自动递增 RetryCount,校验 RetryCount < MaxRetry
  • 队列路由:根据 TaskMeta.Queue 投递到对应优先级队列

重试机制

项目中存在两层重试机制,互不干扰:

Asynq 自动重试:ProcessTask 返回 error 时,Asynq 根据入队时设置的 MaxRetry 自动重试。但 TaskExecution 记录在第一次失败时已标记为 failed,后续重试会覆盖同一条记录。

管理端手动重试:通过 POST /api/v1/admin/tasks/executions/{id}/retry 触发。会创建一个全新的 TaskExecution 记录(新 TaskID retry_{count}_{originalTaskID}),RetryCount 递增。校验条件:状态必须为 failed、Retryable 为 true、RetryCount < MaxRetry。

参考:现有任务处理器

完整的任务处理器示例参见 internal/apps/upload/tasks.go 中的 CleanupUnusedUploadsHandler,它展示了:

  • 游标分页批量处理
  • 每批次的 AppendLog 记录
  • 事务内操作(DB 状态更新 + 外部调用)
  • 单条失败时记录日志并 continue 而非整体终止
  • 最终汇总结果通过 TaskResult.Message 返回