爱意满满的作品展示区。
murongxdb

做了一个 Skill:让 AI 真正操作电脑(看屏幕->找元素->等待->点击/输入)

  •  
  •   murongxdb · Feb 27 · 1536 views
    This topic created in 104 days ago, the information mentioned may be changed or developed.

    让 AI 真正去“操作电脑”,而不是只给你步骤建议。

    这个 Skill 现在已经能跑完整闭环:

    截图 -> 解析 UI 元素 -> find/wait 定位目标 -> click/type/hotkey 执行 -> 再截图继续

    它提供的能力:

    • UI 截图解析(元素类型、文字、坐标、可点击状态)
    • find:按 type/文本/正则找元素
    • wait:等元素出现/消失再执行
    • click / click-xy / type / key / hotkey / screenshot
    • calibrate:多屏、DPI 、窗口偏移坐标校准

    这个 Skill 可以直接安装到 OpenClaw ,让 OpenClaw 的 agent 调用它来控制电脑执行任务。

    边界也说清楚:

    • 需要 GUI 会话时,才可真实点击/输入/截图
    • 无 GUI ( headless )下,可做解析、find/wait/calibrate ,但不能真实操作桌面

    https://github.com/murongg/ui-element-ops

    2 replies    2026-02-28 19:00:36 +08:00
    kevan
        1
    kevan  
       Feb 28
    成熟的解决方案: https://midscenejs.com/zh/skills.html
    murongxdb
        2
    murongxdb  
    OP
       Feb 28
    @kevan 挺好
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1359 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 23:50 · PVG 07:50 · LAX 16:50 · JFK 19:50
    ♥ Do have faith in what you're doing.