机器学习与深度学习

特征学习 / 预测，算法：MLP、CNN、RNN、LSTM、Transformer

人工智能(AI) └── 机器学习(ML) └── 深度学习(DL)（多层神经网络）

1. 机器学习（Machine Learning, ML） 让计算机从数据中学习规律，不用人工编写全部规则；依靠人工设计特征，传统算法居多。 常见算法：线性回归、逻辑回归、决策树、随机森林、SVM、K-Means。
2. 深度学习（Deep Learning, DL） 使用多层人工神经网络，自动提取特征；“深度” 指网络拥有多层隐藏层。 常见模型：CNN、RNN、LSTM、Transformer、GAN。

对比维度	传统机器学习	深度学习
特征工程	人工提取特征人要先思考：哪些特征有用	自动学习特征原始数据直接输入，网络逐层提取低层→高层特征
数据量	中小数据集即可见效数据过多提升有限	极度依赖大数据小数据集容易过拟合
硬件需求	普通 CPU 就能运行	大量矩阵运算，强烈依赖GPU/TPU
模型结构	结构简单，层数很少（几乎无多层隐藏结构）	多层神经网络，几十 / 上百层，参数量巨大
可解释性	相对容易解释（如决策树规则）	黑盒问题严重，很难解释预测依据
适用场景	表格数据、结构化数据：风控、预测、简单分类、推荐系统传统版本	非结构化数据：图像识别、语音、NLP、大模型、自动驾驶

机器学习：在未知数据上的表现（泛化能力） 1.机器学习就是训练机器去学习，而不需要明确编程。机器学习作为 AI 的一个子集，以其最基本的形式使用算法来解析数据、学习数据，然后对现实世界中的某些内容做出预测或判断。 2.范围：监督学习、无监督学习、半监督学习、强化学习、自监督学习、迁移学习、主动学习、联邦学习、弱监督学习。 (1)半监督学习：自训练、标签传播。 监督式：监督式学习算法使用已标记数据， 1.监督式机器学习（也称为预测分析）使用算法来训练模型，以在包含标签和特征的数据集中找规律。然后，它使用经过训练的模型预测新数据集的特征标签。 任务： 1.分类：分类根据已知项目的已标签示例来确定一个项目属于哪个类别。算法：线性回归、岭回归、Lasso、SVR、树回归。 2.回归：回归可估算目标结果标签与一个或多个特征变量之间的关系，以预测连续数值。算法：逻辑回归、KNN、朴素贝叶斯、SVM、决策树、随机森林、XGBoost。 算法列表： 1.逻辑回归 2.线性回归 3.支持向量机 4.决策树 5.随机森林 6.梯度提升决策树

无监督式：无监督式学习算法在未标记数据中找规律 1. 2. 任务： 1.聚类：在聚类中，算法通过分析输入示例之间的相似性将输入分为不同类别。算法：K-Means、GMM、DBSCAN、层次聚类。 2.关联学习：关联或频繁模式挖掘可以在大型数据项集合中发现频繁同时发生的关联（关系、依赖关系）。 3.降维：PCA、LDA、t-SNE。 算法列表： 1.K-means 2.隐含狄利克雷分布 (LDA) 3.高斯混合模型 (GMM) 4.交替最小二乘法 (ALS) 5.FP 增长

继承学习： 1. 2. 强化学习：序列决策，算法：Q-Learning、DQN、PPO。 3. 4. 博弈与游戏 AI：AlphaGo（围棋）、星际争霸 AI、各类游戏机器人； 机器人控制：四足机器人、工业机械臂、无人机飞行控制； 自动驾驶：路径规划、跟车、变道、紧急避让等决策模块； 互联网业务：信息流推荐、广告投放、服务器资源调度； 工业与能源：电网负荷调度、化工流程控制、智能仓储； 金融：算法交易、资产组合动态调仓。

深度学习：。 5. 6.

监督学习（Supervised Learning）

监督学习是指使用带标签的数据进行训练，模型通过学习输入数据与标签之间的关系，来做出预测或分类。

应用： 分类（如垃圾邮件识别）、回归（如房价预测）。 例子： 线性回归、决策树、支持向量机（SVM）。

无监督学习（Unsupervised Learning）

无监督学习使用没有标签的数据，模型试图在数据中发现潜在的结构或模式。

应用： 聚类（如客户分群）、降维（如数据可视化）。 例子： K-means 聚类、主成分分析（PCA）。

强化学习（Reinforcement Learning）

强化学习通过与环境互动，智能体在试错中学习最佳策略，以最大化长期回报。每次行动后，系统会收到奖励或惩罚，来指导行为的改进。

应用： 游戏AI（如AlphaGo）、自动驾驶、机器人控制。 例子： Q-learning、深度Q网络（DQN）。

机器学习的未来

随着数据量的爆炸式增长和计算能力的提升，机器学习的应用将继续扩展，带来更加智能和高效的系统。例如：

强化学习： 使计算机能够在没有明确指导的情况下通过试错来解决复杂问题。例如，AlphaGo 和 Dota 2 游戏 AI 都使用了强化学习。

自监督学习： 目前的机器学习模型通常需要大量带标签的数据来进行训练，而自监督学习则能够在没有标签的数据下学习更有效的表示。

深度学习： 深度学习是机器学习中的一个分支，主要关注神经网络的应用，它已经在图像识别、自然语言处理等方面取得了突破性进展。未来，深度学习将继续推动人工智能的发展。

通过机器学习，我们能够创建更智能的系统，自动化繁琐的任务，并改善我们日常生活的各个方面。随着技术的发展，机器学习将成为未来各行业的核心驱动力之一。

机器学习的应用领域

推荐系统： 例如，抖音推荐你可能感兴趣的视频，淘宝推荐你可能会购买的商品，网易云音乐推荐你喜欢的音乐。

自然语言处理（NLP）： 机器学习在语音识别、机器翻译、情感分析、聊天机器人等方面的应用。例如，Google 翻译、Siri 和智能客服等。

计算机视觉： 机器学习在图像识别、物体检测、面部识别、自动驾驶等领域有广泛应用。例如，自动驾驶汽车通过摄像头和传感器识别周围的障碍物，识别行人和其他车辆。

金融分析： 机器学习在股市预测、信用评分、欺诈检测等金融领域具有重要应用。例如，银行利用机器学习检测信用卡交易中的欺诈行为。

医疗健康： 机器学习帮助医生诊断疾病、发现药物副作用、预测病情发展等。例如，IBM 的 Watson 系统帮助医生分析患者的病历数据，提供诊断和治疗建议。

游戏和娱乐： 机器学习不仅用于游戏中的智能对手，还应用于游戏设计、动态难度调整等方面。例如，AlphaGo 使用深度学习技术战胜了围棋世界冠军。

工作流程步骤

收集数据

准备包含特征和标签的数据。

选择模型

根据任务选择合适的机器学习算法。

训练模型

让模型通过数据学习模式，最小化误差。

评估与验证

通过测试集评估模型性能，并进行优化。

部署模型

将训练好的模型应用到实际场景中进行预测。

持续改进

随着新数据的产生，模型需要定期更新和优化。