V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
这是一个专门讨论 idea 的地方。

每个人的时间,资源是有限的,有的时候你或许能够想到很多 idea,但是由于现实的限制,却并不是所有的 idea 都能够成为现实。

那这个时候,不妨可以把那些 idea 分享出来,启发别人。
garywill
V2EX  ›  奇思妙想

用视觉和 AI 把 Vimium 功能弄到全屏幕任意按钮

  •  2
     
  •   garywill · 312 天前 · 1948 次点击
    这是一个创建于 312 天前的主题,其中的信息可能已经有所发展或是发生改变。

    不管你用过 vim 没,vimium 应该体验过

    搞的一个实验性玩意,目前只需要 300 行 python 代码,能粗浅地识别屏幕上任意位置的“物件”,并用键盘去点击它们

    demo.gif

    现在就只是简单地用了 opencv 的 MSER 算法

    使用视觉的优势有:

    1. 跨平台
    2. 无论 GUI 库
    3. 无论 Accesebility API 是否可用

    也已经有其他的能够在 Mac/Windows 上通过某些 API 找到按钮的项目(在 readme 里列出了)

    虽然这种类型的软件里,好像只有浏览器上的 Vimium 成功了。其他的者还算在实验状态

    若能把 AI 、API 、视觉三者结合,可能会比较好用。目前的演示看起来界面有点杂乱,想像改进后应该会好吧

    各位有什么 idea 来 share 一下

    20 条回复    2023-05-23 12:11:04 +08:00
    garywill
        1
    garywill  
    OP
       312 天前   ❤️ 1
    SWALLOWW
        2
    SWALLOWW  
       312 天前
    挺好的
    expkzb
        3
    expkzb  
       312 天前   ❤️ 1
    会不会在辅助残疾人的功能里已经有类似的实现了
    7gugu
        4
    7gugu  
       312 天前
    图有点小,看不清楚具体的作用
    garywill
        5
    garywill  
    OP
       312 天前
    @7gugu 把图点开呀
    garywill
        6
    garywill  
    OP
       312 天前
    @expkzb 有吗?残疾辅助不是干朗读文字之类的事吗?
    7gugu
        7
    7gugu  
       312 天前
    @garywill 点开很糊,你那边能看清?
    7gugu
        8
    7gugu  
       312 天前
    @garywill 噢,我的问题,插件默认只是放大了,没发现可以跳到图床上
    zhangdszq
        9
    zhangdszq  
       312 天前
    PRStarDust
        10
    PRStarDust  
       312 天前
    之前用过一些全桌面的,要么速度不够快,要么就是准确度不够,经常有些按钮识别不出来或者错位
    PRStarDust
        11
    PRStarDust  
       312 天前
    先 star 一波
    zagfai
        12
    zagfai  
       312 天前
    我也有过这个想法,哈哈哈
    iX8NEGGn
        13
    iX8NEGGn  
       312 天前 via iPhone
    哈哈,我也有过这想法,但界面一复杂后,一是识别正确率问题,二是就算识别正确也眼花潦乱,后来还是采用了 “眼动仪+ autohotkey + AI 修正” 来抛弃鼠标
    anjiannian
        14
    anjiannian  
       312 天前 via Android
    这个之前 vimperator 和 tridactyl 都有实现,他们用的是字母或者拼音的检索,不用二次确认选中的元素是 DE 还是 DF ,比如需要选择 vimium ,可以<leader>+f 之后直接敲 vim ,多个可以继续敲 ium 筛选
    remenberl
        15
    remenberl  
       312 天前 via Android
    mac 上有 vimac 和 homerow.app 两者是一个作者
    garywill
        16
    garywill  
    OP
       312 天前
    @iX8NEGGn 哇你用了眼动仪?! 最终产品使用体验如何,快让我们看一看
    20015jjw
        17
    20015jjw  
       311 天前 via iPhone
    nice
    hackpro
        18
    hackpro  
       311 天前 via iPhone
    @garywill #1 这个是 chrome extension 吗
    是 python runas backgroud service 还是怎么用啊😄
    garywill
        19
    garywill  
    OP
       311 天前
    @hackpro 不是 extension ,就是直接在 windows/Linux 桌面上运行那个 python 文件
    hackpro
        20
    hackpro  
       311 天前
    @garywill 明白 谢谢
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2878 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 38ms · UTC 11:35 · PVG 19:35 · LAX 04:35 · JFK 07:35
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.