热门
最新
红包
立Flag
投票
同城
我的
发布
以下是最新的新功能和性能改进，使其更简单、更快速和成本更低：
👉 AI驱动的性能：提高4倍
👉 为SQL分析师提供的AI助手
👉 直接通过SQL利用AI模型
了解详情：https://dbricks.co/3XGxZSh
CSDN App 扫码分享
1
19
- 复制链接
- 举报
下一条：
上周末，我的两个孩子在玩捉迷藏游戏时，合谋上演了一次搞笑的拙劣企图，试图误导我去错误的地方找他们。这让我想起，无论是在人类还是在人工智能中，大多数能力都是慢慢发展起来的。有些人担心人工智能有一天会故意欺骗人类。如果真的发生那样的事情，我相信我们会从很远的地方就能察觉到，并有足够的时间来阻止它。当我闭着眼睛数到10的时候，我五岁的女儿招募了三岁的儿子，让他告诉我她藏在浴室里，而她实际上藏在壁橱里。但她那夹杂着笑声的悄悄话声音太大了，我清楚地听到了她的指示。而当我儿子指向浴室时，他那夸张的表演实在是太搞笑了，我不得不忍住笑。也许他们有一天会学会欺骗我，但还不是现在！（在那糟糕的表演中，我觉得我儿子像我。直到今天，我仍然没有扑克脸，这也导致我在每场扑克游戏中都输得很惨！）去年，Rylan Schaeffer、Brando Miranda和Sanmi Koyejo撰写的论文《大型语言模型的突现能力是海市蜃楼吗？》获得了NeurIPS杰出论文奖，文章讨论了大型语言模型的“突现”属性，这指的是随着模型规模的增加，能力似乎突然出现的现象。作者指出，扩展规律意味着每个令牌的错误率会随着规模的增加而缓慢减少（提高），突现属性可能是研究人员研究非线性或不连续度量时的产物，这些度量将逐渐减少的每个令牌的错误率转化为看起来像阶跃函数的现象。考虑一种需要正确解出许多项的“组合锁”度量。如果我们测量一个大型语言模型正确解出10个独立数字的概率，如果它每个数字正确的几率逐渐从0提高到1，那么它解出全部10个数字的几率会看起来突然跳跃。但如果我们看连续的度量，比如正确数字的总数，我们会看到其底层性能实际上是逐步提高的。（公众对某项技术的看法也可能由于社会动态的作用而以不连续的方式转变。）这就是为什么许多人在ChatGPT出现之前就认为GPT-3是改变文本处理的一个有希望的步骤：BERT、GPT、GPT-2和GPT-3代表了一个连续进步的光谱。或者，回顾AI历史，即便AlphaGo在围棋比赛中战胜李世石令公众感到意外，实际上那代表了AI围棋能力多年来的逐步提升。虽然将人类学习和机器学习进行类比可能会产生误导，但我认为，正如一个人的数学能力、推理能力乃至欺骗能力是逐渐增长的一样，人工智能也是如此。这意味着AI技术的能力将逐渐增长（我真希望我们能在一夜之间实现通用人工智能！），而AI在有害应用中的能力也会逐渐增长。只要我们继续进行红队演练并监控系统能力的发展，我有信心我们将有足够的时间提前发现问题，而科幻小说中的AI引发的末日恐惧将继续只是科幻小说。[原文（含链接）：https://www.deeplearning.ai/the-batch/issue-266/]
