V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
NoKey
V2EX  ›  程序员

异步记录日志,主体数据回滚了怎么办

  •  
  •   NoKey · 2023-04-04 15:20:21 +08:00 · 2596 次点击
    这是一个创建于 604 天前的主题,其中的信息可能已经有所发展或是发生改变。

    小弟有个问题请教各位大佬:

    有个功能,用户在执行操作的时候,会记录日志(写表)

    为了让记录日志这步不影响主体数据的执行

    我们打算把日志异步记录

    那么问题来了,如果执行到一定位置,主体发生异常,回滚了

    怎么让异步写的日志跟着回滚呢。。。

    或者有没有用的比较广泛的符合这类需求的日志系统呢?

    谢谢

    28 条回复    2023-04-06 10:07:53 +08:00
    LeegoYih
        1
    LeegoYih  
       2023-04-04 15:25:26 +08:00
    冲正,再写一条反日志
    optional
        2
    optional  
       2023-04-04 15:29:15 +08:00 via iPhone
    transaction ?
    opengps
        3
    opengps  
       2023-04-04 15:29:35 +08:00   ❤️ 3
    日志作为历史发生信息的记录,不应该跟着回滚吧,你说的日志是不是具体业务数据了?
    dqzcwxb
        4
    dqzcwxb  
       2023-04-04 15:37:19 +08:00
    @LeegoYih #1 如果反日志也异常了咋办 手动狗头
    liuxu
        5
    liuxu  
       2023-04-04 15:43:09 +08:00
    日志就是日志,回滚会打一条回滚的日志
    NoKey
        6
    NoKey  
    OP
       2023-04-04 15:47:58 +08:00
    @LeegoYih 比如日志记录了一个用户的操作,执行任务,暂停任务,取消任务,那么日志会有三条,如果主体那边回滚了,日志这边咋记录?跟 sql 回滚一样,一条对一条?难度有点大哟🤣
    NoKey
        7
    NoKey  
    OP
       2023-04-04 15:48:40 +08:00
    @opengps 可以不跟着回滚,那需要表达哪些日志是无效的(主体回滚了)
    jones2000
        8
    jones2000  
       2023-04-04 15:56:43 +08:00
    建 id 关联, 关联不上的 id 就是废日志。
    abelyao
        9
    abelyao  
       2023-04-04 16:00:24 +08:00
    不回滚,记录一条 XX 执行失败的日志(不是给用户看的那种日志)
    Oilybear
        10
    Oilybear  
       2023-04-04 16:32:19 +08:00
    我也同意上面 opengps 老哥的说法,应该记录一条日志说上面若干无效。然后再有独立的 job 加锁冲正解锁,不然就不算日志系统了
    adoal
        11
    adoal  
       2023-04-04 16:36:27 +08:00
    @NoKey “一条对一条?难度有点大哟” 同一事务的每条操作日志里都额外记录事务 id
    Nooooobycat
        12
    Nooooobycat  
       2023-04-04 16:43:47 +08:00
    write ahead log? 写入的话就直接对文件末尾顺序写入,删除 /回滚也是写入,写入一个墓碑日志标记前一个日志失效
    leeqingshui
        13
    leeqingshui  
       2023-04-04 16:59:01 +08:00
    异步写的日志为啥需要回滚?
    这个需求好奇怪呀,不想在日志表里看出错的日志?
    一般不是需要看日志中的标识字段查询请求的处理结果是否成功嘛?

    正常来说:代码出错了应该会报异常,对异常做回滚处理,而在日志表一般直接是用相关标识字段来标识(比如 Is_success_flag )请求是否处理成功,比如 Is_success_flag 为 1 ,那么请求是成功的,Is_success_flag 是 0 ,那么请求是失败的(失败也可以把出错信息记录到另一字段存储)。

    为啥需要回滚呢???
    xiri
        14
    xiri  
       2023-04-04 17:02:22 +08:00 via Android
    主体异常这一情况不应该也记录到日志中吗?为什么反过来是日志要回滚。
    你如果要从日志追溯这一次主体的异常怎么办呢?
    huajia2005
        15
    huajia2005  
       2023-04-04 17:03:50 +08:00
    日志不是给用户看的,主题回滚了,肯定有一条是错误日志,真要找也是有办法的.日志回滚没必要
    Wh1te
        16
    Wh1te  
       2023-04-04 17:14:28 +08:00
    事务提交成功后再触发日志异步记录
    tedzhou1221
        17
    tedzhou1221  
       2023-04-04 17:19:58 +08:00
    不是业务逻辑通过后才异步记录日志吗?有点好奇啊
    cryboy007
        18
    cryboy007  
       2023-04-04 17:31:09 +08:00
    不应该通过事务提交事件去做嘛
    zhaogaz
        19
    zhaogaz  
       2023-04-04 20:39:56 +08:00
    我猜一下, 我觉得可能是没定义清楚业务概念。

    你说的这个记录日志,应该是一种业务数据, 不是正常意义上的一种程序输出的日志。所以你这个记录日志应该是某一个业务需求的一部分。

    感觉上你这个可能是某些审计需求。

    如果是我的话,根据你的描述,可能会套一个事务里面,完成之后,再发异步消息。大概这个思路。
    securityCoding
        20
    securityCoding  
       2023-04-04 20:47:47 +08:00
    日志为啥要回滚,记录异常日志不就好了吗
    ychost
        21
    ychost  
       2023-04-04 21:09:20 +08:00
    回滚了再写一条就行了呗,
    DinnyXu
        22
    DinnyXu  
       2023-04-04 21:23:09 +08:00
    感觉很多人没明白 op 说的意思,op 的意思其实就是一个典型的异步事务管控,主体就好比是 A 表,日志就好比是 B 表,而 A 表不在异步事务内,B 表在异步事务内,倘若 A 表出现异常了,这个时候的事务只能回滚 A ,无法回滚 B 。

    而 op 需要的就是 A 回滚的时候,也把 B 回滚,以下说几种方法:

    1:手动事务提交,主体完成后修改事务为待提交,B 完成后,整体提交事务,这种情况需要注意的是主体的执行时间和日志记录的执行时间不能相差太多,好比主体执行 1s ,日志执行 5s...

    2:主体与日志进行某种程度的关联,主体失败后马上记录一条失败的消息到本地表,日志业务执行完成后,检测一下本地表的主体任务是否是完成状态,根据状态进行修正

    3:异步消息回滚,类似于 MQ 之类的,这个说起来就比较复杂了,建议还是上面 2 种比较切合实际
    ihuotui
        23
    ihuotui  
       2023-04-04 21:26:47 +08:00
    参考数据库的实现
    546L5LiK6ZOt
        24
    546L5LiK6ZOt  
       2023-04-05 10:25:32 +08:00
    两个线程同时操作数据库,又要保证一致性,这相当于是分布式事务了。不过分布式事务的框架比较重,直接搞个定时任务来检查日志是否需要回滚更简单点,做到最终一致。

    异步操作是为了不影响主流程,保证可用性,但是可用性和一致性不可兼得。。
    Red998
        25
    Red998  
       2023-04-05 13:23:01 +08:00
    主体成功才异步操作、不成功就不操作
    Dganzh
        26
    Dganzh  
       2023-04-05 15:52:26 +08:00
    怎么确保这个异步日志写成功的?
    NoKey
        27
    NoKey  
    OP
       2023-04-06 10:06:56 +08:00
    @zhaogaz 嗯嗯,对的,我没说清楚,操作日志,也算业务数据,用户要查看的,或者出现疑问了,要根据这个操作日志来判断到底是用户自己操作的,还是服务有问题
    NoKey
        28
    NoKey  
    OP
       2023-04-06 10:07:53 +08:00
    @DinnyXu 感谢,是这个意思
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4966 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 09:53 · PVG 17:53 · LAX 01:53 · JFK 04:53
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.