V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
noobMing
V2EX  ›  OpenAI

特德·姜: ChatGPT 是网上所有文本的模糊图像

  •  
  •   noobMing · 2023-02-14 13:35:07 +08:00 · 1917 次点击
    这是一个创建于 408 天前的主题,其中的信息可能已经有所发展或是发生改变。

    源文在这里: https://www.thepaper.cn/newsDetail_forward_21877769

    这篇文章讲 chatgpt 只是模仿人类说话,是从人类提供得语料里面有损压缩出得一段话,但是实际上 chatgpt 没有理解里面得意思,离真正得智能还有差距。

    chatgpt 在说文学或者概念的时候会是像他说的通过筛选得数据拟合得东西,但是让他写一段 python 代码得时候,在网上搜相同东西是搜不到的,他却能写出符合要求的代码,在我看来更像是他学会了 python 代码得逻辑然后写出来的,有大佬能讲一下这是怎么做到的吗

    13 条回复    2023-02-15 09:01:25 +08:00
    deorth
        1
    deorth  
       2023-02-14 13:38:47 +08:00 via Android
    人类的本质就是复读机
    zhlxsh
        2
    zhlxsh  
       2023-02-14 13:44:17 +08:00 via iPhone
    人类的本质呀是复读机
    luckyjack
        3
    luckyjack  
       2023-02-14 16:31:02 +08:00
    人类の本质呀是复读机
    cwyalpha
        4
    cwyalpha  
       2023-02-14 16:34:49 +08:00 via iPhone   ❤️ 1
    zhuanlan.zhihu.com/p/597586623 看一下这篇文章,一部分是模糊图像,但是另一部分确实是有逻辑推理
    kop1989smurf
        5
    kop1989smurf  
       2023-02-14 16:42:55 +08:00
    "但是让他写一段 python 代码得时候,在网上搜相同东西是搜不到的,他却能写出符合要求的代码"

    代码一样有概率和权重。所以能够生成统计学意义上的“通解”。
    和 AI 生成艺术品的道理一样。世界万物都有其局部最优的解。但也只是局部最优。

    这个局部限制于他的学习资料范围和算力上限。
    kop1989smurf
        6
    kop1989smurf  
       2023-02-14 16:44:58 +08:00
    但是局部最优不等于正确。
    正确和最优其实是两个维度的问题。

    机器学习 AI 在游戏、棋牌领域能够找到真正的通解(至少是比人类理解力强的解),是因为游戏、棋牌的特性是规则固定。
    规则固定就可以无监督学习,可以极致化的自我迭代。
    Ediacaran
        7
    Ediacaran  
       2023-02-14 16:45:43 +08:00 via iPhone
    说明编程语言和自然语言结构上有一定相似性。机器能做好一部分自然语言生成,也能做好一部分编程语言的生成
    hertzry
        8
    hertzry  
       2023-02-14 19:18:14 +08:00
    我想到了 Github Copilot 。
    cmdOptionKana
        9
    cmdOptionKana  
       2023-02-14 19:36:15 +08:00   ❤️ 1
    > 这篇文章讲 chatgpt 只是模仿人类说话,是从人类提供得语料里面有损压缩出得一段话,但是实际上 chatgpt 没有理解里面得意思,离真正得智能还有差距。

    看到这句话,什么是真正的智能?

    以前认为 “图灵测试” 很重要,如果通过对话交流,无法轻易区分对方是否人类,那就认为对方是人类或具有等同人类的智能。

    但现在 AI 不断发展,我想可能需要看 “它” 能否发明创造、或发现物理定律。比如,假设不久的未来有一个 AI ,它能独立解决一些人类多年为解决的数学猜想、能做手机、汽车等的工业设计并且得到市场认可,能发现物理定律并且自行写论文(并且如果先隐瞒 AI 身份,借用人类身份去投稿能被发表),那么,我认为这就是有真正的智能了。

    甚至,可能不需要那么严格,毕竟我们普通人也不是每个人都有那个能力。想到这里,突然发现,那么我普通人算不算有真正的智能?!
    bainian18
        10
    bainian18  
       2023-02-14 20:23:25 +08:00
    这篇文章说的感觉还是挺有道理的。
    Aloento
        11
    Aloento  
       2023-02-14 20:26:15 +08:00
    复读机是人类の本质
    lmmortal
        12
    lmmortal  
       2023-02-14 21:21:50 +08:00 via Android
    代码搜不到?上次微软出的那个啥是怎么做到的?
    twor2
        13
    twor2  
       2023-02-15 09:01:25 +08:00
    我说 人 只是模仿人类说话,是从人类提供得语料里面有损压缩出得一段话,但是实际上 人没有理解里面得意思,离真正得智能还有差距。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   3260 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 11:51 · PVG 19:51 · LAX 04:51 · JFK 07:51
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.