优化第1章导论:修复格式、统一标题层级、重组篇章结构
- 修复所有表格为标准 Markdown 格式,项目符号改为标准语法 - ASCII 图表放入正确的代码块,修复反引号嵌套问题 - 统一标题层级为 # → ## → ###,每节编号 1.1–1.13 - 将全文分为"AI与设计的交汇"和"AI范式演进"两大板块 - 合并重复的学习目标、关键术语和延伸阅读 Co-Authored-By: Claude Opus 4.7 <noreply@anthropic.com>
This commit is contained in:
+236
-260
@@ -1,391 +1,367 @@
|
|||||||
# 第1章:导论
|
# 第1章 导论
|
||||||
|
|
||||||
本章建立读者对人工智能的宏观认知框架。从AI的发展历程出发,回顾从早期符号主义到深度学习、再到大模型时代的关键技术突破与转折节点;进而梳理AI的范式演进,从感知智能到生成式智能、从单一任务到通用智能的发展脉络,帮助读者理解AI技术的全貌和未来趋势。
|
本章建立读者对人工智能的宏观认知框架。从 AI 的发展历程出发,回顾从早期符号主义到深度学习、再到大模型时代的关键技术突破与转折节点;进而梳理 AI 的范式演进,从感知智能到生成式智能、从单一任务到通用智能的发展脉络,帮助读者理解 AI 技术的全貌和未来趋势。
|
||||||
|
|
||||||
## 篇章导读
|
|
||||||
|
|
||||||
人工智能正在深刻改变设计的边界。从自动绘图到智能生成,从数据分析到自主决策,AI技术为设计领域带来了前所未有的可能性。
|
|
||||||
|
|
||||||
本篇将回答两个核心问题: 1. **AI是什么,它将如何影响设计?** 2. **AI技术是如何演进的,我们应该关注哪些方向?**
|
|
||||||
|
|
||||||
通过本篇学习,你将建立对AI的宏观认知,理解技术发展的脉络,为后续深入学习打下基础。
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
## 学习目标
|
## 1.1 篇章导读
|
||||||
|
|
||||||
了解AI技术发展的关键时间节点
|
人工智能正在深刻改变设计的边界。从自动绘图到智能生成,从数据分析到自主决策,AI 技术为设计领域带来了前所未有的可能性。
|
||||||
|
|
||||||
理解AI四大赛道及其应用场景
|
本篇将回答两个核心问题:
|
||||||
|
|
||||||
掌握设计领域AI应用的现状与趋势
|
1. **AI 是什么,它将如何影响设计?**
|
||||||
|
2. **AI 技术是如何演进的,我们应该关注哪些方向?**
|
||||||
|
|
||||||
# Amazon Go:AI赋能的典型案例
|
通过本篇学习,你将建立对 AI 的宏观认知,理解技术发展的脉络,为后续深入学习打下基础。
|
||||||
|
|
||||||
## 案例背景
|
## 1.2 学习目标
|
||||||
|
|
||||||
Amazon Go是亚马逊推出的无人便利店,通过计算机视觉和传感器融合技术,实现"拿了就走"的购物体验。
|
- 了解 AI 技术发展的关键时间节点
|
||||||
|
- 理解 AI 四大赛道及其应用场景
|
||||||
|
- 掌握设计领域 AI 应用的现状与趋势
|
||||||
|
- 理解 AI 范式的三次演进
|
||||||
|
- 掌握万能逼近定理的直观意义
|
||||||
|
- 建立神经网络技术栈的完整认知
|
||||||
|
- 理解 Scaling Law 与模型规模效应
|
||||||
|
|
||||||
## 技术要素
|
---
|
||||||
|
|
||||||
Amazon Go的AI技术栈融合了多项前沿技术:
|
# 第一部分:AI 与设计的交汇
|
||||||
|
|
||||||
--------------------------------------------------
|
## 1.3 案例引入:Amazon Go
|
||||||
技术 作用 应用场景
|
|
||||||
------------ ---------------- --------------------
|
|
||||||
5G通信 低延迟数据传输 实时视频流处理
|
|
||||||
|
|
||||||
3D传感器 深度信息获取 空间定位与手势识别
|
### 案例背景
|
||||||
|
|
||||||
计算机视觉 图像理解 商品识别、行为分析
|
Amazon Go 是亚马逊推出的无人便利店,通过计算机视觉和传感器融合技术,实现"拿了就走"的购物体验。这一案例展示了多种 AI 技术如何协同工作,共同重构一个完整的线下场景。
|
||||||
|
|
||||||
传感器融合 多源数据整合 精确定位与跟踪
|
### 技术要素
|
||||||
--------------------------------------------------
|
|
||||||
|
|
||||||
## 启示
|
Amazon Go 的 AI 技术栈融合了多项前沿技术:
|
||||||
|
|
||||||
Amazon Go展示了AI技术如何重构传统场景。从"扫码支付"到"拿了就走",AI让交互变得更加自然。
|
| 技术 | 作用 | 应用场景 |
|
||||||
|
|------|------|----------|
|
||||||
|
| 5G 通信 | 低延迟数据传输 | 实时视频流处理 |
|
||||||
|
| 3D 传感器 | 深度信息获取 | 空间定位与手势识别 |
|
||||||
|
| 计算机视觉 | 图像理解 | 商品识别、行为分析 |
|
||||||
|
| 传感器融合 | 多源数据整合 | 精确定位与跟踪 |
|
||||||
|
|
||||||
# AI赋能的时间线:2016-2024
|
### 启示
|
||||||
|
|
||||||
## 第一阶段:觉醒期 (2016-2018)
|
Amazon Go 展示了 AI 技术如何重构传统场景。从"扫码支付"到"拿了就走",AI 让交互变得更加自然。这个案例也说明,设计领域中许多看似复杂的环境感知与交互问题,都可以通过多技术的组合来加以解决。
|
||||||
|
|
||||||
**2016**:AlphaGo击败李世石,AI进入公众视野
|
## 1.4 AI 发展时间线(2016–2024)
|
||||||
|
|
||||||
**2017**:Transformer架构诞生,为大模型时代奠基
|
### 第一阶段:觉醒期(2016–2018)
|
||||||
|
|
||||||
**2018**:BERT预训练模型问世,NLP任务取得突破
|
- **2016**:AlphaGo 击败李世石,AI 进入公众视野
|
||||||
|
- **2017**:Transformer 架构诞生,为大模型时代奠基
|
||||||
|
- **2018**:BERT 预训练模型问世,NLP 任务取得突破
|
||||||
|
|
||||||
## 第二阶段:爆发期 (2019-2022)
|
### 第二阶段:爆发期(2019–2022)
|
||||||
|
|
||||||
**2019**:GPT-2展示强大的文本生成能力
|
- **2019**:GPT-2 展示强大的文本生成能力
|
||||||
|
- **2020**:GPT-3 发布,少样本学习能力震惊业界
|
||||||
|
- **2022**:ChatGPT 发布,AI 对话能力达到新高度
|
||||||
|
|
||||||
**2020**:GPT-3发布,少样本学习能力震惊业界
|
### 第三阶段:应用期(2023–2024)
|
||||||
|
|
||||||
**2022**:ChatGPT发布,AI对话能力达到新高度
|
- **2023**:多模态大模型、AI Agent 概念兴起
|
||||||
|
- **2024**:具身智能、端侧 AI 加速落地
|
||||||
|
|
||||||
## 第三阶段:应用期 (2023-2024)
|
## 1.5 AI 四大赛道
|
||||||
|
|
||||||
**2023**:多模态大模型、AI Agent概念兴起
|
### 1. AIGC(AI-Generated Content)
|
||||||
|
|
||||||
**2024**:具身智能、端侧AI加速落地
|
|
||||||
|
|
||||||
# AI四大赛道
|
|
||||||
|
|
||||||
## 1. AIGC (AI-Generated Content)
|
|
||||||
|
|
||||||
**定义**:人工智能生成内容
|
**定义**:人工智能生成内容
|
||||||
|
|
||||||
**应用领域**: - 文本生成:文章、报告、代码 - 图像生成:设计稿、效果图、图标 - 视频生成:短视频、动画、特效 - 音频生成:音乐、配音、音效
|
**应用领域**:
|
||||||
|
|
||||||
|
- 文本生成:文章、报告、代码
|
||||||
|
- 图像生成:设计稿、效果图、图标
|
||||||
|
- 视频生成:短视频、动画、特效
|
||||||
|
- 音频生成:音乐、配音、音效
|
||||||
|
|
||||||
**设计影响**:从"工具辅助"到"生成伙伴"
|
**设计影响**:从"工具辅助"到"生成伙伴"
|
||||||
|
|
||||||
## 2. Agent (智能体)
|
### 2. Agent(智能体)
|
||||||
|
|
||||||
**定义**:能够自主感知、规划、执行的系统
|
**定义**:能够自主感知、规划、执行的系统
|
||||||
|
|
||||||
**核心能力**: - 感知 (Perception):理解环境信息 - 规划 (Planning):制定行动方案 - 记忆 (Memory):存储和检索经验 - 工具 (Tool Use):调用外部资源
|
**核心能力**:
|
||||||
|
|
||||||
|
- **感知(Perception)**:理解环境信息
|
||||||
|
- **规划(Planning)**:制定行动方案
|
||||||
|
- **记忆(Memory)**:存储和检索经验
|
||||||
|
- **工具(Tool Use)**:调用外部资源
|
||||||
|
|
||||||
**设计影响**:从"被动执行"到"主动协作"
|
**设计影响**:从"被动执行"到"主动协作"
|
||||||
|
|
||||||
## 3. AI4S (AI for Science)
|
### 3. AI4S(AI for Science)
|
||||||
|
|
||||||
**定义**:AI驱动科学发现
|
**定义**:AI 驱动科学发现
|
||||||
|
|
||||||
**应用领域**: - 蛋白质结构预测 (AlphaFold) - 材料科学计算 - 气候变化模拟 - 城市系统优化
|
**应用领域**:
|
||||||
|
|
||||||
|
- 蛋白质结构预测(AlphaFold)
|
||||||
|
- 材料科学计算
|
||||||
|
- 气候变化模拟
|
||||||
|
- 城市系统优化
|
||||||
|
|
||||||
**设计影响**:数据驱动的设计决策
|
**设计影响**:数据驱动的设计决策
|
||||||
|
|
||||||
## 4. AIED (AI in Education)
|
### 4. AIED(AI in Education)
|
||||||
|
|
||||||
**定义**:AI在教育领域的应用
|
**定义**:AI 在教育领域的应用
|
||||||
|
|
||||||
**应用场景**: - 个性化学习路径 - 智能答疑与辅导 - 学习行为分析 - 知识图谱构建
|
**应用场景**:
|
||||||
|
|
||||||
|
- 个性化学习路径
|
||||||
|
- 智能答疑与辅导
|
||||||
|
- 学习行为分析
|
||||||
|
- 知识图谱构建
|
||||||
|
|
||||||
**设计影响**:设计教育与人才培养模式变革
|
**设计影响**:设计教育与人才培养模式变革
|
||||||
|
|
||||||
# 设计领域AI应用趋势
|
## 1.6 设计领域 AI 应用趋势
|
||||||
|
|
||||||
## 当前应用
|
### 当前应用
|
||||||
|
|
||||||
----------------------------------------
|
| 领域 | AI 应用 | 成熟度 |
|
||||||
领域 AI应用 成熟度
|
|------|---------|--------|
|
||||||
---------- -------------------- --------
|
| 建筑设计 | 图纸生成、方案优化 | 中 |
|
||||||
建筑设计 图纸生成、方案优化 中
|
| 景观设计 | 场地分析、植被配置 | 中 |
|
||||||
|
| 室内设计 | 家具布局、风格迁移 | 高 |
|
||||||
|
| 平面设计 | Logo 生成、排版辅助 | 高 |
|
||||||
|
| 交互设计 | 用户研究、原型生成 | 低 |
|
||||||
|
|
||||||
景观设计 场地分析、植被配置 中
|
### 未来趋势
|
||||||
|
|
||||||
室内设计 家具布局、风格迁移 高
|
1. **从单点工具到系统化解决方案**
|
||||||
|
2. **从生成内容到生成决策**
|
||||||
|
3. **从人机协作到人机共生**
|
||||||
|
|
||||||
平面设计 Logo生成、排版辅助 高
|
## 1.7 思考与练习
|
||||||
|
|
||||||
交互设计 用户研究、原型生成 低
|
1. 选择你熟悉的设计领域,分析 AI 在该领域的应用现状和潜力。
|
||||||
----------------------------------------
|
2. 思考 AI 四大赛道中,哪一个对你的专业影响最大?为什么?
|
||||||
|
3. Amazon Go 案例中,哪些 AI 技术可以迁移到设计领域?
|
||||||
## 未来趋势
|
|
||||||
|
|
||||||
1.**从单点工具到系统化解决方案**
|
|
||||||
|
|
||||||
2.**从生成内容到生成决策**
|
|
||||||
|
|
||||||
3.**从人机协作到人机共生**
|
|
||||||
|
|
||||||
# 思考与练习
|
|
||||||
|
|
||||||
1.选择你熟悉的设计领域,分析AI在该领域的应用现状和潜力
|
|
||||||
|
|
||||||
2.思考AI四大赛道中,哪一个对你的专业影响最大?为什么?
|
|
||||||
|
|
||||||
3.Amazon Go案例中,哪些AI技术可以迁移到设计领域?
|
|
||||||
|
|
||||||
# 关键术语
|
|
||||||
|
|
||||||
--------------------------------------------------------
|
|
||||||
中文 英文 说明
|
|
||||||
----------------- --------------- ----------------------
|
|
||||||
生成式AI AIGC AI-Generated Content
|
|
||||||
|
|
||||||
智能体 Agent 自主决策系统
|
|
||||||
|
|
||||||
AI for Science AI4S AI驱动科学研究
|
|
||||||
|
|
||||||
AI in Education AIED AI教育应用
|
|
||||||
|
|
||||||
传感器融合 Sensor Fusion 多传感器数据整合
|
|
||||||
--------------------------------------------------------
|
|
||||||
|
|
||||||
# 延伸阅读
|
|
||||||
|
|
||||||
[Amazon Go技术解析](https://amazon.go/technology)
|
|
||||||
|
|
||||||
[AIGC产业发展报告](https://www.caict.ac.cn/)
|
|
||||||
|
|
||||||
[AI Agent综述论文](https://arxiv.org/pdf/2308.11432v2) \# 00.2 AI范式演进
|
|
||||||
|
|
||||||
---
|
---
|
||||||
|
|
||||||
# 学习目标
|
# 第二部分:AI 范式演进
|
||||||
|
|
||||||
理解AI范式的三次演进
|
## 1.8 AI 范式的三次演进
|
||||||
|
|
||||||
掌握万能逼近定理的直观意义
|
### 第一范式:规则系统(Symbolic AI)
|
||||||
|
|
||||||
建立神经网络技术栈的完整认知
|
**时期**:1950s – 1980s
|
||||||
|
|
||||||
理解Scaling Law与模型规模效应
|
|
||||||
|
|
||||||
# AI范式的三次演进
|
|
||||||
|
|
||||||
## 第一范式:规则系统 (Symbolic AI)
|
|
||||||
|
|
||||||
**时期**:1950s - 1980s
|
|
||||||
|
|
||||||
**核心思想**:人类专家编写规则
|
**核心思想**:人类专家编写规则
|
||||||
|
|
||||||
**特点**: - 逻辑推理清晰 - 知识表达明确 - 泛化能力弱
|
**特点**:
|
||||||
|
|
||||||
|
- 逻辑推理清晰
|
||||||
|
- 知识表达明确
|
||||||
|
- 泛化能力弱
|
||||||
|
|
||||||
**典型应用**:专家系统、棋类游戏
|
**典型应用**:专家系统、棋类游戏
|
||||||
|
|
||||||
## 第二范式:机器学习 (Machine Learning)
|
### 第二范式:机器学习(Machine Learning)
|
||||||
|
|
||||||
**时期**:1990s - 2010s
|
**时期**:1990s – 2010s
|
||||||
|
|
||||||
**核心思想**:从数据中学习规律
|
**核心思想**:从数据中学习规律
|
||||||
|
|
||||||
**特点**: - 数据驱动 - 特征工程依赖专家经验 - 任务特定
|
**特点**:
|
||||||
|
|
||||||
|
- 数据驱动
|
||||||
|
- 特征工程依赖专家经验
|
||||||
|
- 任务特定
|
||||||
|
|
||||||
**典型应用**:推荐系统、图像分类、语音识别
|
**典型应用**:推荐系统、图像分类、语音识别
|
||||||
|
|
||||||
## 第三范式:深度学习 (Deep Learning)
|
### 第三范式:深度学习(Deep Learning)
|
||||||
|
|
||||||
**时期**:2012 - 至今
|
**时期**:2012 – 至今
|
||||||
|
|
||||||
**核心思想**:端到端学习,自动提取特征
|
**核心思想**:端到端学习,自动提取特征
|
||||||
|
|
||||||
**特点**: - 大数据驱动 - 自动特征学习 - 迁移学习能力强
|
**特点**:
|
||||||
|
|
||||||
**典型应用**:大语言模型、生成式AI、自动驾驶
|
- 大数据驱动
|
||||||
|
- 自动特征学习
|
||||||
|
- 迁移学习能力强
|
||||||
|
|
||||||
# 万能逼近定理
|
**典型应用**:大语言模型、生成式 AI、自动驾驶
|
||||||
|
|
||||||
## 定理表述
|
## 1.9 万能逼近定理
|
||||||
|
|
||||||
**Universal Approximation Theorem (1989)**:
|
### 定理表述
|
||||||
|
|
||||||
一个具有足够多神经元的单隐藏层前馈神经网络,可以以任意精度逼近任何连续函数。
|
**Universal Approximation Theorem(1989)**:一个具有足够多神经元的单隐藏层前馈神经网络,可以以任意精度逼近任何连续函数。
|
||||||
|
|
||||||
## 直观理解
|
### 直观理解
|
||||||
|
|
||||||
想象一张橡皮膜: - 输入空间是平面上的点 - 神经网络调整膜的形状 - 神经元越多,膜的形变能力越强 - 最终可以拟合任意复杂的曲面
|
想象一张橡皮膜:
|
||||||
|
|
||||||
## 启示
|
- 输入空间是平面上的点
|
||||||
|
- 神经网络调整膜的形状
|
||||||
|
- 神经元越多,膜的形变能力越强
|
||||||
|
- 最终可以拟合任意复杂的曲面
|
||||||
|
|
||||||
这个定理告诉我们:**神经网络具有强大的表达能力,理论上可以学习任何复杂的映射关系**。
|
### 启示
|
||||||
|
|
||||||
这也是深度学习能够处理图像、语言、语音等复杂任务的数学基础。
|
这个定理告诉我们:**神经网络具有强大的表达能力,理论上可以学习任何复杂的映射关系**。这也是深度学习能够处理图像、语言、语音等复杂任务的数学基础。
|
||||||
|
|
||||||
# 神经网络技术栈全景
|
## 1.10 神经网络技术栈全景
|
||||||
|
|
||||||
`┌─────────────────────────────────────────────────────────────┐`\
|
```
|
||||||
`│ ``应用层`` │`\
|
┌─────────────────────────────────────────────────────────────┐
|
||||||
`│ AIGC │ Agent │ AI4S │ AIED │ ``空间智能`` │`\
|
│ 应用层 │
|
||||||
`├─────────────────────────────────────────────────────────────┤`\
|
│ AIGC │ Agent │ AI4S │ AIED │ 空间智能 │
|
||||||
`│ ``模型层`` │`\
|
├─────────────────────────────────────────────────────────────┤
|
||||||
`│ Diffusion │ Transformer │ GNN │ CNN │ MLP │`\
|
│ 模型层 │
|
||||||
`├─────────────────────────────────────────────────────────────┤`\
|
│ Diffusion │ Transformer │ GNN │ CNN │ MLP │
|
||||||
`│ ``算法层`` │`\
|
├─────────────────────────────────────────────────────────────┤
|
||||||
`│ ``反向传播`` │ ``注意力机制`` │ ``卷积`` │ ``池化`` │ ``激活函数`` │`\
|
│ 算法层 │
|
||||||
`├─────────────────────────────────────────────────────────────┤`\
|
│ 反向传播 │ 注意力机制 │ 卷积 │ 池化 │ 激活函数 │
|
||||||
`│ ``数学层`` │`\
|
├─────────────────────────────────────────────────────────────┤
|
||||||
`│ ``微积分`` │ ``线性代数`` │ ``概率论`` │ ``优化理论`` │`\
|
│ 数学层 │
|
||||||
`└─────────────────────────────────────────────────────────────┘`
|
│ 微积分 │ 线性代数 │ 概率论 │ 优化理论 │
|
||||||
|
└─────────────────────────────────────────────────────────────┘
|
||||||
|
```
|
||||||
|
|
||||||
## 技术演进路径
|
### 技术演进路径
|
||||||
|
|
||||||
------------------------------------------
|
| 时代 | 代表技术 | 突破点 |
|
||||||
时代 代表技术 突破点
|
|------|----------|--------|
|
||||||
------- ------------- --------------------
|
| 1980s | MLP | 万能逼近定理 |
|
||||||
1980s MLP 万能逼近定理
|
| 1990s | CNN | 局部连接、权重共享 |
|
||||||
|
| 2000s | RNN/LSTM | 序列建模 |
|
||||||
|
| 2010s | GNN | 图结构数据 |
|
||||||
|
| 2017 | Transformer | Self-Attention |
|
||||||
|
| 2020s | Diffusion | 生成质量突破 |
|
||||||
|
|
||||||
1990s CNN 局部连接、权重共享
|
### 模型家族关系
|
||||||
|
|
||||||
2000s RNN/LSTM 序列建模
|
```
|
||||||
|
MLP(多层感知机)
|
||||||
|
│
|
||||||
|
┌──────────────┼──────────────┐
|
||||||
|
│ │ │
|
||||||
|
CNN GNN RNN
|
||||||
|
(空间数据) (图数据) (序列数据)
|
||||||
|
│ │ │
|
||||||
|
└──────────────┼──────────────┘
|
||||||
|
│
|
||||||
|
Transformer
|
||||||
|
│
|
||||||
|
┌──────────────┼──────────────┐
|
||||||
|
│ │ │
|
||||||
|
GPT 系列 BERT Diffusion
|
||||||
|
(生成式) (理解式) (图像生成)
|
||||||
|
```
|
||||||
|
|
||||||
2010s GNN 图结构数据
|
## 1.11 Scaling Law:规模即智能
|
||||||
|
|
||||||
2017 Transformer Self-Attention
|
### 什么是 Scaling Law
|
||||||
|
|
||||||
2020s Diffusion 生成质量突破
|
|
||||||
------------------------------------------
|
|
||||||
|
|
||||||
## 模型家族关系
|
|
||||||
|
|
||||||
`MLP (``多层感知机``)`\
|
|
||||||
` │`\
|
|
||||||
` ┌──────────────┼──────────────┐`\
|
|
||||||
` │ │ │`\
|
|
||||||
` CNN GNN RNN`\
|
|
||||||
` (``空间数据``) (``图数据``) (``序列数据``)`\
|
|
||||||
` │ │ │`\
|
|
||||||
` └──────────────┼──────────────┘`\
|
|
||||||
` │`\
|
|
||||||
` Transformer`\
|
|
||||||
` │`\
|
|
||||||
` ┌──────────────┼──────────────┐`\
|
|
||||||
` │ │ │`\
|
|
||||||
` GPT``系列`` BERT Diffusion`\
|
|
||||||
` (``生成式``) (``理解式``) (``图像生成``)`
|
|
||||||
|
|
||||||
# Scaling Law:规模即智能
|
|
||||||
|
|
||||||
## 什么是Scaling Law
|
|
||||||
|
|
||||||
Scaling Law(缩放定律)描述了模型性能与计算量、数据量、参数量之间的关系:
|
Scaling Law(缩放定律)描述了模型性能与计算量、数据量、参数量之间的关系:
|
||||||
|
|
||||||
**模型性能 ≈ f(计算量, 数据量, 参数量)**
|
**模型性能 ≈ f(计算量, 数据量, 参数量)**
|
||||||
|
|
||||||
## 核心发现
|
### 核心发现
|
||||||
|
|
||||||
### 1.性能随规模对数增长
|
**1. 性能随规模对数增长**
|
||||||
|
|
||||||
o模型越大,性能越好
|
- 模型越大,性能越好
|
||||||
|
- 增长是可预测的
|
||||||
|
|
||||||
o增长是可预测的
|
**2. 计算效率最关键**
|
||||||
|
|
||||||
#### 2.计算效率最关键
|
- 计算量增加 10 倍 → 性能提升约 1.5 倍
|
||||||
|
- 数据量和参数量也有类似规律
|
||||||
|
|
||||||
o计算量增加10倍 → 性能提升约1.5倍
|
**3. 没有看到天花板**
|
||||||
|
|
||||||
o数据量和参数量也有类似规律
|
- 在现有规模下,性能提升仍在继续
|
||||||
|
|
||||||
#### 3.没有看到天花板
|
|
||||||
|
|
||||||
o在现有规模下,性能提升仍在继续
|
|
||||||
|
|
||||||
### 启示
|
### 启示
|
||||||
|
|
||||||
**大模型时代**:规模成为竞争壁垒
|
- **大模型时代**:规模成为竞争壁垒
|
||||||
|
- **数据为王**:高质量数据比模型架构更重要
|
||||||
|
- **算力需求**:AI 发展依赖硬件进步
|
||||||
|
|
||||||
**数据为王**:高质量数据比模型架构更重要
|
## 1.12 从函数式视角看 AI 演进
|
||||||
|
|
||||||
**算力需求**:AI发展依赖硬件进步
|
|
||||||
|
|
||||||
从函数式视角看AI演进
|
|
||||||
|
|
||||||
### 核心理念
|
### 核心理念
|
||||||
|
|
||||||
**"Functions Describe the World"(函数描述世界)**
|
**"Functions Describe the World"(函数描述世界)**
|
||||||
|
|
||||||
物理定律:F = ma
|
- 物理定律:F = ma
|
||||||
|
- 经济规律:Supply = Demand(Price)
|
||||||
|
- 神经网络:y = f(x; θ)
|
||||||
|
|
||||||
经济规律:Supply = Demand(Price)
|
### AI 即函数组合
|
||||||
|
|
||||||
神经网络:y = f(x; θ)
|
```
|
||||||
|
输入数据 x
|
||||||
|
│
|
||||||
|
▼
|
||||||
|
┌─────────┐
|
||||||
|
│ f₁(x) │ 第一层函数:特征提取
|
||||||
|
└─────────┘
|
||||||
|
│
|
||||||
|
▼
|
||||||
|
┌─────────┐
|
||||||
|
│ f₂(h) │ 第二层函数:模式识别
|
||||||
|
└─────────┘
|
||||||
|
│
|
||||||
|
▼
|
||||||
|
┌─────────┐
|
||||||
|
│ f₃(z) │ 第三层函数:决策输出
|
||||||
|
└─────────┘
|
||||||
|
│
|
||||||
|
▼
|
||||||
|
输出 y
|
||||||
|
```
|
||||||
|
|
||||||
### AI即函数组合
|
### 从 Excel 到神经网络
|
||||||
|
|
||||||
`输入数据`` x`\
|
| Excel | 神经网络 |
|
||||||
` │`\
|
|-------|----------|
|
||||||
` ▼`\
|
| y = ax + b | 单层感知机 |
|
||||||
`┌─────────┐`\
|
| y = a₁x₁ + a₂x₂ + b | 多输入神经元 |
|
||||||
`│ f₁(x) │ ``第一层函数:特征提取`\
|
| 嵌套 IF 函数 | 多层网络 |
|
||||||
`└─────────┘`\
|
| 宏函数 | 自动微分 |
|
||||||
` │`\
|
|
||||||
` ▼`\
|
|
||||||
`┌─────────┐`\
|
|
||||||
`│ f₂(h) │ ``第二层函数:模式识别`\
|
|
||||||
`└─────────┘`\
|
|
||||||
` │`\
|
|
||||||
` ▼`\
|
|
||||||
`┌─────────┐`\
|
|
||||||
`│ f₃(z) │ ``第三层函数:决策输出`\
|
|
||||||
`└─────────┘`\
|
|
||||||
` │`\
|
|
||||||
` ▼`\
|
|
||||||
`输出`` y`
|
|
||||||
|
|
||||||
从Excel到神经网络
|
## 1.13 思考与练习
|
||||||
|
|
||||||
------------------------------------
|
1. 万能逼近定理告诉我们神经网络"能"做任何事,但没有说"如何"高效学习。这个区别意味着什么?
|
||||||
Excel 神经网络
|
2. Scaling Law 是否意味着"越大越好"?在资源有限的情况下,应该如何权衡?
|
||||||
--------------------- --------------
|
3. 从函数式视角理解 AI,对你理解设计问题有何启发?
|
||||||
y = ax + b 单层感知机
|
|
||||||
|
|
||||||
y = a₁x₁ + a₂x₂ + b 多输入神经元
|
---
|
||||||
|
|
||||||
嵌套IF函数 多层网络
|
|
||||||
|
|
||||||
宏函数 自动微分
|
|
||||||
------------------------------------
|
|
||||||
|
|
||||||
## 思考与练习
|
|
||||||
|
|
||||||
1.万能逼近定理告诉我们神经网络"能"做任何事,但没有说"如何"高效学习。这个区别意味着什么?
|
|
||||||
|
|
||||||
2.Scaling Law是否意味着"越大越好"?在资源有限的情况下,应该如何权衡?
|
|
||||||
|
|
||||||
3.从函数式视角理解AI,对你理解设计问题有何启发?
|
|
||||||
|
|
||||||
## 关键术语
|
## 关键术语
|
||||||
|
|
||||||
-------------------------------------------------------------------------------------
|
| 中文 | 英文 | 说明 |
|
||||||
中文 英文 说明
|
|------|------|------|
|
||||||
---------------------- --------------------------------- ----------------------------
|
| 生成式 AI | AIGC | AI-Generated Content |
|
||||||
万能逼近定理 Universal Approximation Theorem 神经网络表达能力的理论保证
|
| 智能体 | Agent | 自主决策系统 |
|
||||||
|
| AI for Science | AI4S | AI 驱动科学研究 |
|
||||||
缩放定律 Scaling Law 模型性能与规模的关系
|
| AI in Education | AIED | AI 教育应用 |
|
||||||
|
| 传感器融合 | Sensor Fusion | 多传感器数据整合 |
|
||||||
前馈网络 Feed-Forward Network 信息单向传播的神经网络
|
| 万能逼近定理 | Universal Approximation Theorem | 神经网络表达能力的理论保证 |
|
||||||
|
| 缩放定律 | Scaling Law | 模型性能与规模的关系 |
|
||||||
多层感知机 MLP Multi-Layer Perceptron
|
| 前馈网络 | Feed-Forward Network | 信息单向传播的神经网络 |
|
||||||
|
| 多层感知机 | MLP | Multi-Layer Perceptron |
|
||||||
端到端学习 End-to-End Learning 从输入直接学习到输出
|
| 端到端学习 | End-to-End Learning | 从输入直接学习到输出 |
|
||||||
-------------------------------------------------------------------------------------
|
|
||||||
|
|
||||||
## 延伸阅读
|
## 延伸阅读
|
||||||
|
|
||||||
[Scaling Laws for Neural Language Models](https://arxiv.org/abs/2001.08361)
|
- [Scaling Laws for Neural Language Models](https://arxiv.org/abs/2001.08361)
|
||||||
|
- [Universal Approximation Theorem](https://en.wikipedia.org/wiki/Universal_approximation_theorem)
|
||||||
[Universal Approximation Theorem](https://en.wikipedia.org/wiki/Universal_approximation_theorem)
|
- [The Evolution of AI: A Historical Perspective](https://www.nature.com/articles/s41586-023-06221-x)
|
||||||
|
- [AI Agent 综述论文](https://arxiv.org/pdf/2308.11432v2)
|
||||||
[The Evolution of AI: A Historical Perspective](https://www.nature.com/articles/s41586-023-06221-x)
|
|
||||||
|
|||||||
Reference in New Issue
Block a user