首页   注册   登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
sipangzi
V2EX  ›  程序员

如何识别出 URL 中的某一个部分是一段随机字符串呢?

  •  
  •   sipangzi · 137 天前 · 1077 次点击
    这是一个创建于 137 天前的主题,其中的信息可能已经有所发展或是发生改变。

    比如说有这样一个 URL

    /api/v1/user/NRbFH9wuGFGXjRMxy

    可以理解成 NRbFH9wuGFGXjRMxy 是一个用户的 ID 了吧,怎么才能识别出 URL 中这类复杂 ID 或者是 Token 的部分呢

    md5 uuid 做正则匹配,很单一算是方式之一,但是不够,会漏很多

    用类似 nostril 这种库判断是不是随机字符串,但是判断效果也不是很好,而且训练好之后,如果不重新增加样本数据,就可能导致一类随机字符串上边说的 id 或者 token 是识别不出来的

    想了 api,user 这种在大量 url 中出现次数肯定很高,NRbFH9wuGFGXjRMxy 出现次数肯定很低,然后利用这个做区分,但是拿到流量之后看了下,有不少接口字段出现的也是很低的很难和这类 ID 变量区分开

    有什么好办法或者思路可以解决这个问题么

    12 回复  |  直到 2019-09-05 00:39:33 +08:00
    ysc3839
        1
    ysc3839   137 天前
    先做分词,比如你给的例子可以分成 api, v1, user, NRbFH9wuGFGXjRMxy,然后建立一个“不是随机字符串”的表,比如表里面有 api, v1, user,把这些去掉,剩下的就是“随机字符串”了。
    to
        2
    to   137 天前 via Android
    你可能想复杂了。其实只要判断一个字符串不是自然文本就行。dump 个词典库,写个 rule based 的代码就行。
    chairuosen
        3
    chairuosen   137 天前
    Google 去搜,搜不到就是随机字符串。手动 doge
    sipangzi
        4
    sipangzi   137 天前
    @ysc3839 做了分词,统计了 15 万条 url 的结果,前 600 个字段里没有随机字符串,随机的分布在 600-末尾 2000 之间,api 这种确实出现次数很多,但 refundModify 或者 reqRepayState 类似这种,出现次数和 NRbFH9wuGFGXjRMxy 的出现次数都是 1 和 2 左右,并且 1 和 2 的词特别多,很难自动建立这么一个表,辅助 nostril 后确实能识别出 refundModify 这种的不是随机字符串,但是也不是很理想,没想到更好的解决办法
    momocraft
        5
    momocraft   137 天前
    不要指望一个正则搞定,不要指望 100%置信度搞定

    多加些特征,比如在字典中出现 0 次加一分,匹配 /[:alpha:][:digit:]/ 2 次加一分
    hst001
        6
    hst001   137 天前 via Android
    突然想到个小概率问题,如果生成的随机串刚好是个单词,请问是随机的还是不随机的
    sipangzi
        7
    sipangzi   137 天前
    @to nostril 是检查是不是自然文本的库,单纯依赖这种可能导致样本或者词典少导致有些没有匹配到,然后数据量很大,人不会一直去看有没有漏下的,匹配出现问题的,可能就会一直有问题,所以想能不能有什么方式根据字段出现的频率或者很多 url 相似度做一些工作,让程序动态的做些调整,但是没有想出个好思路
    sipangzi
        8
    sipangzi   137 天前
    @momocraft 嗯,就是想能不能根据字段出现的频率或者很多 url 相似度,发现实际测试的数据不是很理想,不知道怎么把各种方式判断的结果结合起来了
    ysc3839
        9
    ysc3839   137 天前
    @sipangzi 没什么好办法的,人工判断基本上也是类似的规则,只不过人脑中已经有了庞大的词汇库。对于 refundModify 可以额外加一些规则,比如不是连续大写字母。
    sutra
        10
    sutra   137 天前
    “ refundModify ”,在分词时,是不是分成“ refund ”和“ Modify ”就解决了?
    momocraft
        11
    momocraft   137 天前
    最簡單是加起來看看效果怎樣

    如果你很閒可以訓練一個模型...
    aguesuka
        12
    aguesuka   136 天前 via Android
    正常单词元音出现的几率远远高于期望值。先解码成 path /path key value 的形式,让后对每个单词判断元音几率,短单词可以自己建个库
    关于   ·   FAQ   ·   API   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   2605 人在线   最高记录 5168   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.3 · 29ms · UTC 12:35 · PVG 20:35 · LAX 04:35 · JFK 07:35
    ♥ Do have faith in what you're doing.