好意思国国度工程院外籍院士沈向洋（图片来源：IDEA）

11 月 22 日举行的 2024 年 IDEA 大会上，IDEA 磋议院创院理事长、好意思国国度工程院外籍院士沈向洋以"从技艺突破到产业交融"为主题发扮演讲，其对东说念主工智能"三件套"（算力、算法、数据）的最新念念考。

沈向洋指出，在技艺大爆发时期开展改进，对技艺的深度表露尤为紧迫。他认为，从算力来看，改日十年 AI 的发展可能需要增长 100 万倍的算力，远超摩尔定律预言的 100 倍增长，而英伟达成为了 AI 行业最了不得、最得手的一家公司。

凭证 EPOCH AI 的数据，每年最新的大模子对算力的需求王人在以惊东说念主的速率增长，年均增长率超越四倍（400%）。扫尾咫尺，全球照旧"烧掉"了超越 1000 万张 GPU 算力卡。

"英伟达硬生生把我方从我方从作念硬件、芯片的乙方变成了甲方，今天能拿得到英伟达的卡就不错说是得手了一半。"沈向洋称，"讲（GPU）卡伤情谊，没卡没情谊。"

沈向洋现场表现，未来黄仁勋会到香港科技大学摄取荣誉博士学位的授予，而他准备当今和黄仁勋策动一些对于技艺、诱导力和创业的故事，至极是在针对算力发展的问题，探讨改日十年还会不会像往常十年那样能够达到 100 万倍的增长。

会后，沈向洋还向钛媒体 App 表现，Scaling Law（规范定律）放缓的原因是 GPT-5 还没发布，背后主要与数据筹商。

据悉，粤港澳大湾区数字经济磋议院（International Digital Economy Academy，简称" IDEA 磋议院"）于 2020 年由微软公司原全球扩充副总裁、好意思国国度工程院外籍院士沈向洋创建，是一家面向 AI 和数字经济产业和前沿科技的国外化改进型磋议机构。

IDEA 磋议院致力于于 AI 和数字经济边界前沿磋议与产业落地。咫尺该院包括低空经济磋议中心、缠绵机视觉与机器东说念主磋议中心、AI 金融与深度学习磋议中心、基础软件中心、AI 安全普惠系统磋议中心等。

这次，IDEA 发布视觉、具身智能、合成数据、AI for Science、AI for Coding、低空经济等多个边界的新技艺和新模子的前沿磋议与产业落地扫尾，终了 AI 从技艺突破到产业交融。

视觉大模子：IDEA 团队本次大会发布了该系列最新的 DINO-X 通用视觉大模子，领有果然的物体级别表露身手，终了敞开全国（Open-world）宗旨检测，无需用户领导，径直检测万物。在零样本评估配置中，DINO-X   Pro 在业界公认的 LVIS-minival 数据集上取得了 59.7% 的 AP，在 LVIS-val 数据集上，DINO-X Pro 也阐扬亮眼，取得了 52.4% 的 AP。具体到 LVIS-minival 数据集上的各个长尾类别评估中，DINO-X Pro 在真贵类别上取得了 63.3% 的 AP（比 Grounding DINO 1.5 Pro 还要高出 7.2%），在常见类别上取得了 61.7% 的 AP，在频繁类别上取得了 57.5% 的 AP。 行业平台架构：IDEA 团队还推出行业平台架构，通过一个大模子基座，诱导通用识别技艺诱导，让模子不需从头巡视，就可边用边学，复旧多种各样的 B 端利用需求。 具身智能：IDEA 磋议院这次便一连秘书三个合营：与腾讯合营，在深圳福田区、河套深港科技改进合营区落地缔造福田实验室，聚焦东说念主居环境具身智能技艺；与好意思团合营，探索无东说念主机视觉智能技艺；与比亚迪合营，拓展工业化机器东说念主智能利用。 合成数据：IDEA 团队自研了语境图谱技艺，措置过往文本数据合成决议的各样性匮乏等问题。该技艺为合成数据引入"指导手册"，以图谱为纲，指导用于合成的语境采样。实验扫尾高慢，IDEA 团队的决议能执续为大模子带来身手培植，阐扬超越咫尺的最好执行（SOTA）；从 token 奢靡来看，平均省俭资本 85.7%。咫尺，该技艺内测平台已敞开，通过 API 提供作事。 AI for Science：在预计方面，IDEA 研发了多个化学边界内行大模子，分子属性预计和化学反应预计身手均处业界率先水平；在数据方面，IDEA 开导了化学文件多模态大模子，连结晶泰科技发布专利数据挖掘平台 PatSight，将药物边界的专利化合物数据挖掘时刻，从数周镌汰至 1 小时。 AI for Coding（编程话语）：IDEA 磋议院的 MoonBit 团队展示了其开导平台执意的 AI for coding 体验。MoonBit 是专为云缠绵与边际缠绵遐想的 AI 云原生编程话语及器用链，已具备完备的多后端支执和跨平台身手，可在硬件上径直运行，支执 RISC-V。MoonBit 的开源开导平台，将于 12 月稳妥敞开。 低空经济：IDEA 推出低空经管与作事操作系统 OpenSILAS 1.0 Alpha 版，还联袂 17 家产业伙伴发起 OpenSILAS 改进连结体，以及《低空经济白皮书 3.0》低空安全体系的发布等。

此外，IDEA 还展示包括学术大模子和 AI 科研神器 ReadPaper、营销创作大模子，以及面向经济与金融边界的经济大模子、运筹演谋大模子、投资大模子等多款新 AI 技艺与居品。

沈向洋暗示，在往常通盘广受接待的编程话语中，还莫得一个是由中国开导者创造的，而如今，AI 时期也必将催生新的编程范式，中国开导者将会起到关键作用。

" ChatGPT 展示了一种新的可能：当技艺突破达到一定程度，不错跳过传统的居品市集匹配 ( PMF ) 历程，径直终了技艺市集匹配 ( TMF ) 。"沈向洋暗示，如果 GPT-5 问世，按照其揣摸，可能需要 200T（200 万亿）限度的数据。

沈向洋强调，AI 正在调动科研神气。从"详情标的"（ARCH）到"采取课题"（Search），再到"深入磋议"（Research），每个重要王人将被重塑。今天 o1 不仅不错作念数据、作念编程，还不错作念物理、作念化学等。

"我认为接下来这几年，算法沿着 SRL（强化学习）这条说念路走下去，一定会有令东说念主惊艳的全新突破。"沈向洋暗示。

（本文首发于钛媒体 App，作家｜林志佳，裁剪｜胡润峰）

以下是沈向洋演讲的主要内容，钛媒体 AGI 裁剪全心整理了其中精彩部分：

今天是 IDEA 磋议院在深圳举办的第四届 IDEA 大会。

总结发展历程，三年前的第一届大会上，IDEA 初次向公众展示了磋议院的责任扫尾。在第二届大会上，咱们邀请了李泽湘教会、徐扬生教会、高文教会等学界翘楚进行深入对话。群众开打趣讲地咱们四个东说念主叫作念深圳 F4。

值得一提的是，这些学者王人是我 90 年代初赴好意思留学时最早结子的中国粹者。三十年后咱们能在深圳重聚，赶巧印证了深圳手脚改进创业热土的私有魔力。

经过四年发展，IDEA 磋议院已发展成领有 7 个磋议中心、约 450 名职工的科研机构。咱们采取这些职工，双向采取的历程中咱们强调这样的理念，"科学家头脑、企业家教导、创业者精神"。来到深圳、来到福田、来到 IDEA 王人是想干一番奇迹。

往常几年，东说念主工智能的兴奋发展让通盘这个词行业充满憧憬和期待。在东说念主工智能发展进度中，"算力、算法、数据"这三件套耐久是中枢成分。接下来，我将从这三个方面，详备分享我方的不雅察和念念考。

开首从算力提及。

手脚缠绵机边界的从业者，咱们一直见证着通盘这个词缠绵行业往常 40、50 年来算力的束缚培植。早期有著明的"摩尔定律"，英特尔提议每 18 个月算力增长一倍。

但在往常十几年，跟着东说念主工智能，至极是深度学习的发展，对算力的需求呈现出前所未有的增长态势。

凭证 EPOCH AI 的数据，每年最新的大模子对算力的需求王人在以惊东说念主的速率增长，年均增长率超越四倍。

这个数字意味着什么？如果按照这个增长速率，十年间算力需求的增长将达到惊东说念主的 100 万倍。比较之下，传统的摩尔定律下 18 个月翻一倍的增长，十年也不外是 100 倍的增长。

算力是关键，算力即是出产力。为什么这样讲？往常十几年不错绝不夸张的讲，IT 行业、东说念主工智能行业最了不得的一家公司、最得手的一家公司，不管从哪个角度看即是 NVIDIA 英伟达。

英伟达照旧从一家单纯的硬件芯片供应商，调遣为通盘这个词行业的中枢辅助。当今行业里流传着这样一句话：英伟达硬生生把我方从作念硬件、芯片的乙方公司作念成了甲方，而今天拿得到英伟达的卡，那你就得手了一半。

让咱们望望具体的数据：2023 年英伟达最新址品 H100 的出货量执续攀升，各大公司争相采购。包括马斯克最近就部署了一个领有 10 万张 H100 卡的大限度集群。到 2024 年为止，微软、谷歌、亚马逊等科技巨头王人在大量采购 H100 芯片。

为什么需要如斯重大的算力？这与大模子的发展密不可分。

Scaling Law 告诉咱们，大模子不仅参数目巨大（从百亿到千亿，再到万亿参数），何况巡视所需的数据量也在束缚增长。更关键的是，要培植模子性能，对算力的需求会随参数目呈往往关连增长。这就讲明了为什么往常十年英伟达的市值能够增长 300 倍，也证明了"算力即是出产力"这一结论的深刻含义。

一朝这样大的参数以后，要能巡视这样的模子，数据量也要增长，某种意旨上来讲，要把性能培植，对算力的需求呈跟参数的往往关连，这对通盘这个词算力的需求口角常重大。

往常这一年来我通常讲的一句话，"讲卡伤情谊，没卡没情谊"。

前不久我在上海演讲的时候台下有位大学校长，诸君浑朴要对校长暗示横祸，校长也不好当。浑朴说你给我 100 张卡，我不错作念些科研，给你 100 张卡，校长几千万就莫得了。

在东说念主才招聘方面，算力资源照旧成为一个紧迫目的。有些企业会以"千卡东说念主才"、"百卡东说念主才"来形色东说念主才限度，果然顶尖的甚而被称为"万卡东说念主才"。IDEA 磋议院照旧领有了千张卡的算力储备，在深圳算得上是"小土豪"级别的限度。

这也讲明了为什么往常十年英伟达的市值涨了 300 倍，这是不可想象的事情，

这种算力需求的变革被业界称为从"摩尔定律"到"黄氏定律"的调遣。黄氏定律不仅体当今硬件算力的增长上，更紧迫的是反馈了模子检核对算力需求的指数级增长。改日十年的算力需求是否会赓续保执如斯惊东说念主的增长速率，这个问题值得咱们执续神气和念念考。

之前我在大湾区论坛亦然提到往常十年算力的增长 100 万倍，有一篇著作写的不准确，他说沈向洋讲，改日十年算力的需求会有 100 万倍的增长。其实我并莫得这样讲，我也不是看得很显着，接下来十年的算力需求是不是会增长 100 万倍。

未来中午我在香港有契机求教黄仁勋博士，黄仁勋博士到香港科技大学摄取荣誉博士学位，之后会和我作念一个对谈，讲技艺、诱导力、创业的故事。我未来有契机想求教他一下改日十年的发展会不会有 100 万倍的增长。

其次是算法。

在算法方面，自 2017 年 Transformer 架构问世以来，东说念主工智能、深度学习和大模子的发展基本上王人是沿着这个标的，通过堆数据和算力来鼓励。但在 GPT-4 之后，咱们看到了算法范式的新突破。至极是 OpenAI 推出的新技艺，包括多模态的 GPT-4V 以及最新的 o1 推理学习身手，展现了算法改进的新标的。

令东说念主欢欣的是，近几个月来，国内也有一些公司，包括初创企业在 o1 这个方进取取得了权贵进展。

这里我想详备先容一下算法突破的念念路。在 o1 出现之前，群众指摘的王人是 GPT 系列，通盘的责任王人聚首在预巡视上，中枢任务即是预计"下一个 token "。其中很紧迫的技艺布景是对所罕有据进行高效压缩，使模子能够快速给出谜底，终了"一问即答"。

而当今的范式变革引入了强化学习（Reinforcement Learning）的理念，模子具备了自我改善的身手。这种新方法的特色在于，它更接近东说念主类的念念考神气。不同于之前的快速念念考方法，当今的模子在给出谜底时会履历后巡视、后推理的历程。这就像学生在解数学题时会先打草稿，考据一条旅途是否正确，如果不合就回退尝试另一条旅途。

天然强化学习自身并不是一个新认识——比如几年前 AlphaGo 就使用强化学习击败了围棋全国冠军——但今天的改进在于它的通用性。往常的强化学习系统往往只可措置单一问题，而像 o1 这样的新系统不错同期处理数据分析、编程、物理、化学等多个边界的问题。我认为，在改日几年，沿着 Self-Reinforcement Learning ( SRL ) 这条说念路，咱们将看到更多令东说念主惊艳的突破，期待 IDEA 磋议院和国内的磋议东说念主员能在这个方进取有更多的念念考和改进。

临了是数据。

在策动数据之前，我照旧提到，大模子的兴奋发展不仅依赖于参数限度的增长，还需要海量数据的支执。让我和群众分享一些对于数据限度的具体数据。

三年前 GPT-3 发布时，使用了 2Trillion（2 万亿）的 token 数据。到了 GPT-4 时期，模子巡视使用的数据量增多到了 12T，在束缚巡视历程中可能达到了 20T。这个限度大致极度于咫尺互联网上可获取的优质数据总量。而改日如果 GPT-5 问世，按照我的揣摸，可能需要 200T 限度的数据。

但问题在于，互联网上照旧很难找到如斯重大的优质数据。这就引出了一个新的磋议标的：合成数据。

为了让群众对这些数据限度有更直不雅的意志，我举几个例子：1 万亿 token 的数据量大要极度于 500 万本书，或 20 万张高清相片，或 500 万篇论文。从东说念主类历史的角度来看，于今为止创造的通盘竹帛大要包含 21 亿 token，微博上有 38 亿 token，而 Facebook 上约有 140T 的数据。不外外交媒体上的数据质地遍及不够高，果然有价值的内容相对有限。

从个东说念主维度来看，一个东说念主读完大学，果然学到的常识量大要是 0.00018T，极度于 1000 本书的内容。如果认为我方还没读到这个量级，也许当今启动该多读些书了。

意念念的是，ChatGPT 等 AI 模子的巡视数据主要来自互联网。总结互联网发展的 40 年，东说念主们热衷于在网上分享信息，当今看来，似乎是在为 GPT 的巡视作念准备。AI 之是以如斯智能，很大程度上收成于咱们孝敬的数据。这其中还有一个值得留神的情状：不论巡视哪种话语的 AI 模子，底层的高质地数据主如果英文的。这意味着在 AI 时期，英语的紧迫性可能会进一步加强，就像互联网时期同样。

既然网上的数据已接近极限，AI 的进一步发展就需要依靠合成数据，这可能催生新的百亿好意思元级创业契机。

与 GPT 系列主要使用互联网文本数据不同，新一代模子（如 o1）需要更强的逻辑性，这些数据在网上往往找不到。比如在编程边界，咱们需要知说念具体的设施是若何一步步完成的。在 IDEA 磋议院，在郭院长的领导下，咱们开展了高质地巡视数据的名目，为大模子执续提供新的"营养"。

咱们的合成数据方法并非盲陌生成，而是建立在严谨的方法论基础上。咱们开首建立语境图谱，在此基础上进行数据合成。这些合成数据经过大模子预巡视后，照旧展现出很好的效果。

除此以外，咱们还在探索另一个维度的问题：私域数据安全孤岛。由于数据安全斟酌，很多私域数据无法径直分享使用。为此，咱们开导了 IDEA Data Maker，将这两个方面诱导起来，通过语境图谱生成新的语料，措置过往文本数据合成决议的各样性匮乏等问题。该技艺为合成数据引入"指导手册"，以图谱为纲，指导用于合成的语境采样。实验扫尾高慢，IDEA 团队的决议能执续为大模子带来身手培植，阐扬超越咫尺的最好执行（SOTA）模子；从 token 奢靡来看，平均省俭资本 85.7%。咫尺，该技艺内测平台已敞开，通过 API 提供作事。

在策动了 AI "三件套"之后，我想分享 IDEA 磋议院近一年来的念念考和执行。至极是大模子兴奋发展给咱们带来的机遇。

讲大模子之前我讲一下最近的学习体会，ChatGPT 出来了以后令群众相当颠簸。ChatGPT 这个居品出来，正本仅仅几个技艺的演示，它出来以后两个月的时刻全球 1 亿用户，成为了不得的情状。

这种情状突破了咱们对居品发展的传统默契。在互联网时期，咱们常说 PMF（Product-Market Fit，居品市集匹配）。对这个认识的表露，我屡次求教过好意思团的王慧文，在清华的一堂课上，他特意老师了 PMF 的内涵。

但 ChatGPT 的得手告诉咱们，它本色上跳过了 PMF 的历程，径直终清亮 TMF（Technology-Market Fit，技艺市集匹配）。当技艺发展到一定程度，就可能终了这样的逾越式突破。

在 IDEA，咱们天天在追求一些极致的技艺，也在念念考：如果有技艺出来，是否不错一步到位？这天然是咱们的期许，咱们一直在野这个标的勉力。

顺着 TMF 的念念路，我想讲一个最近咱们至极神气的标的：缠绵机编程话语。手脚一个学习缠绵机的东说念主，我我方就编写过十几种不同的编程话语，在不同的阶段作念不同的名目时王人会用到它们。

在这里我想提议一个紧迫不雅点：纵不雅全球，有那么多的编程话语，包括小话语、空话语、中型话语，但基本上莫得一个被粗拙使用的话语是由中国东说念主发明、中国东说念主创造的。这种情状是有契机调动的。

让我给群众举几个例子，证明什么是情状级的话语。

在往常七八十年的缠绵机科学发展历程中，出现过的情状级话语不超越十个。这里的"情状级"是指至少有几百万、上千万用户在使用这个话语编程。比如早期的 Fortran，那时是和 IBM 大型机绑定的，作念三角缠绵王人要用 Fortran 话语。70 年代出现的 C 话语，是与 Unix 操作系统精细贯串的，甚而不错说 Unix 系统即是用 C 话语构建的。到了 90 年代互联网兴起时，我师兄开导的 Java 话语被大量行动员摄取，主要用于开导 Web 作事器。而在往常十几年，Python 因为在科学缠绵方面的便利性，至极是在云缠绵平台上的粗拙利用，成为主流话语。如果你问问我方的孩子在学什么编程话语，能够率会是 Python。

那么，在今天的大模子时期，会不会出现新的情状级话语？这个问题不是唯有我一个东说念主在念念考。比如，GitHub Copilot 的首创东说念主 Alex Graveley 就指出，AI 编程还莫得酿成新的编程话语范式。编程话语是最压根的技艺改进标的之一。

有了话语之后，就需要探索大模子的技艺改进标的。在大模子身手照旧达到新高度的今天，一个关键问题是：咱们若何将这种身手转机为本色利用？在哪些场景中不错阐扬其最大价值？

在通盘的利用标的中，我至极要强调 AI For Science（科学智能）的紧迫性。不错说，在现时阶段，很难想象有什么比 AI For Science 更紧迫的标的。如果咱们要作念东说念主工智能磋议，一方面要全力推动大模子技艺的落地，另一方面也要神气它在科学磋议中的利用。

这让我想起二十多年前在微软亚洲磋议院作念过一个对于若何作念科研、若何作念学问的敷陈。我把科研责任分红了三个不同的眉目：ARCH（详情标的）、Search（采取课题）、Research（深入磋议，一而再再而三地探索）。当今，咱们但愿 IDEA 的责任能为中国的科研东说念主员、年青学生在作念科研时提供更好的支执。

事实上，东说念主工智能的发展正在对社会产生长远的影响。这个问题太紧迫了，需要咱们细致念念考。咱们今天要策动的是 AI 治理问题，包括它对全球的冲击、对公司的冲击、对监管的冲击、对社会发展的冲击。

东说念主工智能的影响究竟是若何发生的？八年前，东说念主们还在策动外交媒体的影响，而今天咱们必须要策动东说念主工智能的影响。

往常十几年的发展令东说念主胆怯：东说念主类引以为傲的身手正在一个个被 AI 超越。下象棋、下围棋就无须多说，当今 AI 在阅读表露、图像识别和检测等边界的身手王人照旧逐渐超越东说念主类。

更令东说念主颠簸的是，这些身手的培植照旧不是单点突破，而是通用东说念主工智能举座身手的培植，这使得东说念主工智能对社会的影响变得极度长远。

当今，全球范围内王人在策动 AI 治理问题。我有幸在本年上海东说念主工智能大会上与我的导师瑞迪教会、布卢姆教会和姚期智教会全部策动这个议题。

从社会发展的角度来看，咱们民俗用 GDP 来权衡发展水平。但 GDP 这个认识其实是很新的。在农业社会之前，压根不存在 GDP 增长的认识，因为东说念主们连饱暖王人难以措置。农业社会发展后，东说念主们有了剩余产能，但 GDP 年均增长仍然唯有 0.1% 至 0.2%。到了工业社会，这个数字培植到 1% 至 2%。信息社会的 GDP 年均增长达到了 3%、4%，这里说的王人是全球的大致数字。

那么，在接下来 AI 社会的发展，会发生什么？一些经济学家预计，跟着东说念主工智能数目超越东说念主类数目，机器东说念主数目急剧增多，出产遵守将赢得巨大培植。在这样的 AI 全国中，GDP 年均增长可能达到十几个百分点。

这样的增长给社会带来的问题是什么？我想问的一句话是 AI 的发展，从经济最大的增长能不成转机到东说念主类的最大福祉？这是为什么在座的，在 IDEA 磋议院从事技艺研发的共事，产业落地这些共事在东说念主工智能发展的说念路上是必须要去念念考的问题。

谢谢群众！期待来岁相遇。