AI产品设计
Joined August 2013
- Tweets 310
- Following 398
- Followers 36
- Likes 26
30 Photos and videos
May 9
人类偏好
May 7
真的，只有大牛才敢站出来这么说！
全世界公认的最聪明的人之一，Terence Tao，亲自站出来把AI最致命的缺陷直接戳破了。
他问了一个所有人都回避的根本问题：
“我们该如何使用一个强大、却极度不可靠的工具？”
AI的核心方程写得清清楚楚：
W = ∑(wᵢ ⋅ xᵢ) b
它不是在追求“正确”，
而是在追求“看起来正确”。
所有权重都被优化成plausibility（似是而非），而不是veracity（真实性）。
于是我们造出了一个超级会“装”的镜子：
它在医学、金融、法律等领域，能用最自信、最流畅的语气，
给你最危险、最错误的建议。
“Convincing”和“Correct”之间的鸿沟，
才是AI时代最致命的风险。
我们越是依赖它，它就越容易把我们带进自己都看不出来的陷阱。
当最顶尖的数学家都在认真讨论“如何安全使用不可靠的AI”时，
我们普通人还在为“它写代码好快”鼓掌吗？
这段视频值得每一个用AI的人反复看。
21
刘大鸿 retweeted
Apr 7
26年最新出炉，全程高能。
斯坦福教授AI讲座，本质上就是把未来3年谁赚钱，谁被淘汰，提前剧透了一遍。
看懂的人已经在布局了，看不懂的人还在拼命学技术。
754
1,486
7,070
687,085
8 Dec 2025
我投Tony Fadell一票出任苹果CEO，外界只知道他是iPod之父，而他在被乔布斯拉去做外包开发iPod的时候，已经创办了一家公司做智能手机，推动并领导了从iPod到iPhone的产品开发。之后又创业被Google收购。
苹果现在需要一名真正的产品经理领导，在强大技术积累的基础上，创新真正实用的产品
6 Dec 2025
I actually like the idea of Tony becoming the next @Apple CEO. He's a brilliant engineer and entrepreneur that could shake things up in Cupertino. 9to5mac.com/2025/12/05/tony-…
1
100
4 Mar 2025
这三条信息你放在一起看，这就是当年互联网刚来时候的盛况。互联网时代结束了，正在下沉成为语料和基础设施。智能硬件、机器人是未来。一个10倍大的新世界。
3
87
13 Feb 2025
Agents解决问题的次序
Agents，第一批接管的就是那些看似专业其实只是一种执行性的流程类的已经数字化的工作。
其次是过程中需要动脑的
然后就是有胳膊腿的事
62
5 Nov 2024
不知道这个帖子会不会大量AI来领奖
5 Nov 2024
如果特朗普在今天的选举中获胜
我会在这篇推文抽10个人 每个人300U
只需要点赞转发随便评论，给我点关注
必须要关注我，否则将会被移出奖池
一共是3000U的奖金
59
刘大鸿 retweeted
5 Nov 2024
如果特朗普在今天的选举中获胜
我会在这篇推文抽10个人 每个人300U
只需要点赞转发随便评论，给我点关注
必须要关注我，否则将会被移出奖池
一共是3000U的奖金
3,349
1,343
3,301
827,646
刘大鸿 retweeted
15 Oct 2024
想翻译一本英文书电子书到中文
微信读书翻译质量不行，ChatGPT 推荐我用 DeepL
DeepL 先是不支持 epub，我转换格式之后，又说 PDF 不能大于 5M，放弃
是我没找对工具，还是 AI 尚未普及？
41
122
622
283,714
7 Sep 2024
小心互联网大厂油子
一堆非互联网行业的，天天骂互联网996，
这些大傻逼也不想想，每天高强度工作12小时，为什么这些人还能干10年，难道不早就累死了吗？
真相是，这帮人午饭睡一觉，晚饭睡一觉，下午喝杯奶茶，早晨喝杯咖啡，出去转一圈，晚上吃饱喝足睡醒了就刷抖音、打游戏、吃零食，熬到10点准时下班，打车回家。
然后这些程序员吃着免费的食堂，喝着免费的奶茶，拿50万人民币白菜价的起薪，看你们这些非互联网行业的天天心疼自己，痛骂资本家，痛骂互联网，哈哈一乐。
我从2018年就骂过这些大傻逼，天天反996，反的是什么都不知道。
真正这些人都是在表演加班，表演到10点准时回家，等于把在家里吃零食、看电视剧、躺着睡觉的时间，都搬到公司来了。
有一些人晚上偶尔开个会，或者deadline快到了稍微多干点活，其实也是能拖就拖，想拖就拖，不是这些大傻逼想象的，每天写12小时代码，写完当场猝死。
这么多年，互联网行业这么多从业者，也是挺傻逼的，一边表演996，一边喊996太累了，要晚上6点下班，一边又拿着所在城市社会平均工资的10倍工资（对，字面意义上的10倍工资），还痛骂资本家。
结果一群非互联网行业的纯傻逼型的吃瓜群众，还真他妈共情起来了，一边声援他们打倒资本家，一边庆幸自己没血计算机，不用吃这种苦。
所以我跟他们说，在美国很正常的一种文化，就是6点准时下班，在家做饭、吃饭，然后7点准时进办公室，加班到11点，
他们都无比惊讶，“我操，你们居然来真的啊？你们加班原来不是演的啊？”
68
27 May 2024
为啥简中网友很喜欢用数学题来测试大语言模型，大抵是因为被PUA多年，潜意识认为数学好约等于聪明罢。鲁迅可不这么认为。文科其实很难的，会算数学的人一大把，能把文章写好了，试试看。
辅导孩子作业时留下的痛点？
把4o看的很重要，甚至我认为这是大模型的硬分叉，基本翻了快1/3相关的信息，继续。
1
108
27 May 2024
ChatGPT的发布开天劈地，人类登月，4o就像在火星建了个基地，当然在地球上看都是外太空的事，但这俩事性质可不一样。
以目前节奏看，两年之内国内怕是孵化不出来omini.
112
上次给同学推荐了快速了解大模型的视频，有另外的同学说他想系统的学习大语言模型。
我推荐这本书，适合有一定基础，愿意深入了解大模型知识的同学。
github.com/LLMBook-zh/LLMBoo…
9
190
789
86,373
OpenAI 创始人 John Schulman 访谈节选：为什么 GPT-4 比一年前更“聪明”了？主要都是后训练（Post-Training）带来的！
另外他认为，在强化学习研究领域，研究人员需要具备丰富的经验和敏锐的直觉。了解整个技术堆栈，并对各个部分充满好奇心是关键。此外，从第一性原理出发思考问题，而不仅仅依靠实验证据，也能够帮助研究人员在数据操控和环境设置方面做出更好的决策。
***
Dwarkesh Patel：在未来，用于训练的计算力中，预训练与后训练的比例是否会明显偏向后训练呢？
John Schulman：确实，有一些观点支持这种说法。
Dwarkesh Patel：我是说，现在这个比例非常不平衡。
John Schulman：但你可以认为，模型生成的输出质量比网上的大多数内容都要高。因此，让模型自己思考似乎更有道理，而不仅仅是训练来模仿网络上的内容。所以，我认为从第一性原理上来说，这是有说服力的。我会说，我们通过后训练取得了很多进步。因此，我不确定。所以，我希望我们会继续推动这种方法，并且可能会增加投入到后训练中的计算力。
Dwarkesh Patel：当前的 GPT-4 的 ELO 分数比最初发布的版本高出了大约 100 分。这是否全都是后训练带来的改进呢？
John Schulman：对，我会说大部分都是后训练带来的。
Dwarkesh Patel：这很有意思。
John Schulman：因此，有很多不同的改进方向。我们会考虑数据质量，数据数量，进行更多的部署和收集新数据的迭代，改变你收集的注解种类。因此，有很多因素叠加在一起。但是全部加在一起，就会带来一个相当不错的，有效的计算力提升。
Dwarkesh Patel：后训练的优化程度对于竞争优势有多大影响呢？
John Schulman：目前，我会区别公司是通过我们的模型有多大等等。那么，找出你之前提到的所有这些数据的复杂问题的公司，会占据大优势吗？
John Schulman：我认为这确实是一个优势，因为这是一个非常复杂的任务。因此，你必须有很多有技能的人来执行它。因此，存在大量的隐性知识。同时也需要大量的组织知识。我认为后训练的过程，创建一个具备人们所关心的所有功能的模型，是十分复杂的。这需要付出大量的努力，它是大量研发工作的积累。我会说这种情况在某种程度上形成了一种壁垒，要想立即启动这种模型并非易事。
Dwarkesh Patel：看起来那些正在进行最严肃的预训练努力的公司，也在进行严肃的后训练努力。因此，看起来这种模型有可能被复制或有更多的类似努力出现。
John Schulman：另外，还有一种情况使得这个壁垒并非那么明显，那就是你可以提取模型，或者复制别人的模型输出，或者使用别人的模型进行比较。我认为大公司可能并不会这样做，因为这违反了服务条款，也会损害他们的自尊心，但我预计一些规模较小的参与者可能正在这样做以便更好地起步。
Dwarkesh Patel：那些真正擅长进行这种强化学习（RL）研究的人有什么样的特质呢？我听说这种研究非常具有挑战性，但是什么样的直觉能帮助你找到操控数据和设置环境的方法呢？
John Schulman：我觉得有相当多的经验是关键。自从研究生时期以来，我一直在研究 RL 算法，涉及到数据收集、到注释过程，再到与语言模型的交互。所以，我算是涉猎了这些领域。我认为，在这类研究中表现出色的人通常对整个技术堆栈有全面的了解，并且对其中的各个部分充满好奇心。他们不仅依靠实验证据来更新自己的观点，还会从第一性原理出发思考问题。比如，假设深度学习是有效的，那么理想的收集数据的类型应该是什么，等等。
youtube.com/watch?v=JclnqKZB…
11
67
164
57,157