📄 本文来自微博旧文归档（原微博）。
本月共 1 条微博，按时间顺序整理。
11-23 13:09
降临派、拯救派预备
转发自 @宝玉xp：
不知道你们还记不记得当年 Google 的 Alpha Go，就是下围棋超级牛的人工智能，早已经打赢了人类。而且值得一提的是，最开始它是用人类的棋谱训练的，后来在人类的棋谱训练完了后，它开始自己和自己下棋，也就是说是自己生成棋谱自己训练自己。
在GPT-4训练的时候，几乎用到了所有互联网上能用到的文本，很多人都担心GPT-4训练完了后在没有高质量的文本供训练了。
在前面《独家：OpenAI 研究员在 CEO 被撤职前向董事会发出 AI 突破警告 — 据知情人士透露》
网页链接
那篇文章中，提到了OpenAI的一个神秘项目叫Q-Star，而这个项目背后的一些秘密正在被一点点的揭开神秘面纱。
根据 theinformation《OpenAI Made an AI Breakthrough Before Altman Firing, Stoking Excitement and Concern》的这篇报道中，提到了一个细节：“他们的研究主要使用计算机生成的数据，而不是从互联网上提取的真实世界数据，如文本或图像来训练新模型。”
这意味着他们也像AlphaGo一样，实现了让计算机生成无限的高质量数据，而不需要去互联网上抓取数据！！！
现在还不知道这篇报道的准确性如何，但是结合这些信息，可能性还是相当大的！很期待不久能看到GPT-5的发布！
《OpenAI Made an AI Breakthrough Before Altman Firing, Stoking Excitement and Concern》部分内容翻译：OpenAI 在 Sam Altman 被解雇前夕实现重大 AI 突破，引发期待与忧虑
网页链接
在 Sam Altman 上周被 OpenAI 董事会解雇的前一天，他曾在 APEC 首席执行官峰会上暗示该公司最近取得了一项技术进展。他表示，这一进展让公司能够揭开无知的面纱，推进知识的边界。这番神秘的言论在公司陷入混乱之际并未引起太多关注。
据知情人士透露，部分 OpenAI 员工认为 Altman 的这番话是在提及公司研究人员今年早些时候的一项创新。这项创新可能使他们能够开发出更强大的人工智能模型。然而，由首席科学家 Ilya Sutskever 领衔的这一技术突破，也引发了一些员工的担忧，他们认为公司在商业化这些高级 AI 模型时可能缺乏适当的安全措施。
据悉，Sutskever 的这一突破帮助 OpenAI 克服了在获取足够高质量数据来训练新模型方面的限制。这一直是开发下一代模型的主要障碍。他们的研究主要使用计算机生成的数据，而不是从互联网上提取的真实世界数据，如文本或图像来训练新模型。
多年来，Sutskever 一直致力于研究如何让像 GPT-4 这样的语言模型解决涉及推理的任务，例如数学或科学问题。2021 年，他启动了一个名为 GPT-Zero 的项目，以向 DeepMind 的 AlphaZero 程序致敬，后者能够下国际象棋、围棋和将棋。
OpenAI 研究团队利用这一创新成果，构建了能解决基础数学问题的系统，这一直是现有 AI 模型的难题。两位顶尖研究人员 Jakub Pachocki 和 Szymon Sidor 运用 Sutskever 的研究成果，开发出了一个名为 Q*（“Q-Star”）的模型。
原微博 · 2023-11-23 13:09