分享这本书
第886章 650 通用模型（4k）
陆奇有被碳矽掌门人扭转了意愿上的方向，但他距离真正加入DLF基金会还有一个重要的前提需要弄清楚。
这次的自注意力机制为什么值得俞总这么大费周章？
换句话说，ranfrmer真的展现出颠覆级别的潜力了？
陆奇不是深度学习领域的研究者，但也一直在关心这个领域的进展，对于这次的ranfrmer也有了解，知道它展现出了机器翻译领域新一代0A技术的定位潜力。
所谓A，ae f he Ar，也就是业界所说的最强水平。
问题在于，仅仅是机器翻译领域，这值得俞总又是要内部推动，又是要外部竞争，还不惜让吴恩达拉自己过来吗？
陆奇在百度的时候就已经要推动公司ALL IN AI，彼时还没有ranfrmer，而之所以那时就要把战略定在这个领域，是因为全球顶级公司几乎已经取得共识，AI会是网际网路之后的下一代通用技术革命，会重构所有的行业。
谷歌2011年成立“谷歌大脑”，次年收购DeepMind，至今已经把深度学习广泛应用在搜索、安卓、翻译等上百个产品之中，微软2013年大规模转向Ai，旗下0ffie、语音等产品都已经完成深度学习改造，脸书则在2013年邀请杨立昆组建FAIR，全面布局视觉和语言以及推荐系统。
作为曾经的微软执行副总裁，陆奇本身就是这波深度学习发展浪潮里的亲历者和推动
者，认同的是俞总对深度学习的战略重视，不解的是他选择重视的节点。
但是，陆奇对于俞总这种不见兔子不撒鹰的态度也在彼此短暂的交流里有种合适的猜想，DLF这边已经就着ranfrmer搞出了东西。
他握了手，现在就需要俞总把真家伙端出来了。
吴恩达干的就是这个活。
他在两人虚情假意之后给出来自DLF没有对外公布的判断：“ranfrmer不单单是机器翻译，它在自然语言处理NLP方面展现了现在远远没有挖掘出来的庞大潜力。”
吴恩达看着陆奇，用眼神表达严肃：“陆总，我们认为，ranfrmer在自然语言方面有成为通用模型的可能性。”
自然语言处理NLP，这个领域一直是深度学习研究的重点，是为了让计算机能够听懂人话，也能说出来人话。
NLP之前基本是每个任务单独设计模型，再单独训练，很依赖大量标注数据，不同任务之间的技术栈并不通用，也就是导致研发进展很缓慢。
通用模型意味着只用ranfrmer就能快速适配不同的任务。
以前是很多模型干不同方向的活，现在是用一个ranfrmer做不同方向的活，意义自然完全不同，如果能够继续推动，许多设想中的场面都可能会实现。
陆奇不用吴恩达多解释就知道这种判断的意义，但他的第一反应是十分怀疑：“通用模型？ranfrmer？这个判断是怎么得出来的？”
“我们基于ranfrmer做了一个模型，用它去做NLP的能力测试，它在GLUE的9个任务里已经有5个达到0A，这还只是我们的初步尝试。”吴恩达说道，“另外，它在机器理解的2个任务里也拿到了高分。”
GLUE是目前业内公认的NLP通用能力评测，包含9个不同类型的语言理解任务，而机器理解也是NLP领域最受关注的任务之一。
吴恩达拿出了平板，展示具体的模型处理效果，过去需要不同模型的任务在基于ranfrmer的模型测试里拿到5项最优，剩下4项也接近最优。
在机器理解的2个任务里，模型的F1值拿到89分，超越了人类平均水平的87.9
分。
吴恩达时刻注意着陆奇的视线和浏览，等到他看到机器理解这部分，不轻不重的说了句：“这是大模型在机器领域第一次超过人类在通用数据集的表现。”
陆奇沉默了。
俞兴这时提到一个关键的问题：“这还是他们在很短时间里的成果，从去年到现在，从机器翻译领域转到NLP领域，也就不到4个月的时间。”
“这4个月，这11个任务里大部分的提升幅度已经相当于业内过去三到五年的总和。”
“啧，就这个情况，时间再多点，恐怕11个任务都能达到0A。”
全球业内数年的提升在过去四个月时间里被基于ranfrmer的模型做到了。
这些正是吴恩达发起联名信的底气，他有信心可以进一步推动新模型的发展，至于到底能不能成为NLP通用大模型，谨慎的说，需要进一步验证。
从感性与直觉来看，吴恩达认为就是这个了。
陆奇翻来覆去的看着平板上的测试展示，颇有些抓耳挠腮。
他看了好一会，猛然擡头问道：“这是真的？没有造假？”
吴恩达举手发誓：“我用我的人格担保，这就是最真实的情况。”
俞兴笑了句：“我是最见不了造假的，也没有在这方面造假的意义，总不能是编个大谎，就为把你骗过来吧？”
陆奇长长的呼了一口气，喃喃道：“要是这样————”
要是这样，下一代产业革命真要来了吗？
他从微软回国时，矽谷科技圈的主流判断是如今处于产业变革的前夜，AI会是下一个时代最重要的突破，深度学习已经证明它可以解决一些复杂的决策类问题，这也是特斯拉自动驾驶和工业控制等领域具备想像空间的基础。
可是，这会出现在致力于机器翻译领域进步而推出的ranfrmer吗？
陆奇很难相信，但面前的经典NLP任务表现又让他不得不相信，确实有这个潜力。
他一会摇头，一会点头，末了看向倒茶的俞总，问道：“俞总，碳矽集团的智能驾驶也有这方面的推进吗？”
俞兴愣了下，摇头道：“没有，还没那么快，但这确实会是一个新能源产品快速发展的领域，也能增加市场里的竞争力，不过，我们造车不一样，这方面要更加谨慎。”
陆奇只是受到的冲击太大，同时又想到了之前百度在做的自动驾驶研究，情不自禁就对如今国内的新能源领军人物问出这样的问题。
他听到俞总的回答之后也反应过来，这方面的推进没有那么快，不会像大模型做任务这样快速拿到成绩。
陆奇终究还是放下了平板，沉思一会后感叹道：“这个东西要是发出来会让大家都震动的！”
俞兴点点头：“嗯，但我觉得谷歌他们可能也在这方面研究了，新的机制放在这里，NLP任务放在那里，很难不一起研究尝试。”
“其实，我们车上的语音功能就是来自深度学习的研究，那个是卷积神经网络，今年应该就能考虑切换到ranfrmer，没准是它最先落地的一个商业领域。”
陆奇没有立即说话，低头沉思了一会，冒出来一个问题：“百度怎么办————”
俞兴摊摊手：“好歹也在做这方面的研究，我祝福它。”
陆奇估摸着百度在这些领域的研究都要面临很大的挑战了。
他悠悠的叹息，一时间也不知是为百度，还是为面前一次有望推动产业变革的突破。
陆奇慢慢喝了一杯茶，也在结合最新的情况梳理思路，等到再换新茶，他慢慢的说道：“模型是需要数据喂的，自然语言模型会是一个人和信息交换的新媒介。”
他在尝试思考新技术带来的变化，网际网路领域的信息交换总能造就巨头，雅虎，谷歌，微软，脸书————
如果机器真能听懂人话，也能说出来人话，机器背后的庞大信息都能源源不断的向外输出。
陆奇这么一说，瞬间又想起俞总先前的话，深度学习的发展很可能就是在吞噬百度搜索的未来。
搜索大概真会受到很大冲击。
“陆总，其实我觉得人机互动的新媒介不能单纯的当做一款网际网路产品。”俞兴说道，“它要是出现，不能再往传统的网际网路产品上套，它不会是QQ，不会是微信，也不会是抖音，背后情况是完全不同的。”
陆奇闻言，有些茫然：“俞总，怎么说？”
“网际网路产品有一个很重要的特点，就是边际效应，一款产品开发出来的前期投入很高，一旦取得一定的规模，用户越滚越多，相应的成本越来越低。”俞兴斟酌道，“这是我们做网际网路里最喜欢看到的场面。”
陆奇点了点头，俞总是亲自带人做出来微信的，这种体会必然很深，现在碳矽数据的抖音也已经形成规模优势。
“但是，AI不一样，人与AI的交互很可能会存在算力成本。”俞兴说道，“我和吴总聊过，他们与模型交流，我与模型交流，再增加人交流，它的使用成本也是跟着增加的，它的总成本很可能并不随着用户的增加而大幅减少，那就代表着它可能只是披着网际网路产品外衣的重资产产品。”
陆奇的眉头皱了起来，重资产？
他看向吴恩达，后者则是点了点头，认可俞总的说法。
陆奇因为新模型成绩所带来的惊喜消散了一些，如果这种说法正确，那AI的商业化可能不会那么乐观，成本跟着走高，盈利也会困难。
如果不盈利，内部造血机制不健康，就需要外部输血。
陆奇思考了一会，问道：“那俞总是怎么想的？”
“我想着先让你过来，先把班子搭起来，先把新发现都告诉大家，先把钱融进来。”俞兴很坦诚的说道，“怎么办，先烧着呗。”
吴恩达听到这话又有点不安了。
陆奇却笑了，反而十分赞同：“是的，先烧着，就算是重资产，俞总，这也值得投入啊，如果新模型能够有通用性，你的车至少能卖更多了。”
他这么说着，脑海里却是思绪万千，能够想像的空间很大，具体落实却需要大量工作
“这会是碳矽与碳矽数据的合作之一，但我们现在因为电气化的进步也还卖得不错。”俞兴淡定的说道，“目前我对这一块的考虑是先活着，一边活一边进步，然后看看最终能够通过什么样的商业模式运转。”
“我们可以吃吃百度搜索的份额，吃吃阿里电商的业务，吃吃企鹅社交的利益，也吃吃脸书，吃吃外面金融市场的涨幅。”
“反正，先活下来，然后再看我们能推动哪些方向的落地。”
俞兴展现了谨慎的乐观。
陆奇看到了临港之蛇的复杂性，食谱是有点多啊。
不过，如果说深度学习的发展是吞噬百度搜索的未来，如今抖音搜索的增长已经在威胁百度搜索的现在了。
陆奇用力的抓了抓头，由衷说道：“俞总，这得好好考虑，这要是做出来，我感觉很多行业都会有深刻的变化，硬体，软体————”
俞兴瞧着他露出这样不那么精英的动作，忍不住笑了笑，点头道：“是，我也这么想。”
陆奇感觉嘴唇有些干，自己去拿了一瓶矿泉水又一口气干掉大半。
他放下瓶子，冷静了一些，突然盯着俞总问道：“俞总，你不会拿着这种可能的冲击去做空吧？”
吴恩达从来没有想过这一层，闻言也用余光打量老板。
俞兴摇摇头：“我一心想着公司内外的良性竞争，没往那方面想。”
下一刻，他笑道：“，你倒是提醒我了。”
吴恩达立即对陆奇说道：“陆总，你看你干了什么，你把过山峰放出来了！”
陆奇看俞总虽然脸上带笑，却一点也不像是开玩笑的模样，思索几秒后摇头道：“不是我放的，过山峰从来都没进去过。”
“不用关心那些了，我现在希望的就是DLF基金会有独立的运作和发展，新模型在通用领域的突破能够尽快落实并发布，相关的融资都可以等正式亮相后推出。”俞兴认真的说道，“涉及到这种突破，过山峰基金会的资金也可以投过来，陆总，我希望DLF基金可
以成为这方面最强的研究机构。”
陆奇问道：“比碳矽数据还强？”
俞兴毫不犹豫的点头：“当然，这就是我邀请你来的意义。”
陆奇彻底接受了来自碳矽掌门人的邀请，回了句：“嗯，如切如磋，如琢如磨。”
如切如磋，如琢如磨，是为君子之争。
多我一个后富怎么了
加载中…