Deep Learning

Posted:   December 03, 2024

Status:   Writing

Tags :   python

Categories :   Artificial-Intelligence

Were equations, pictures or diagrams not properly rendered, please refresh the page. If the problem persists, you can contact me.

深度学习(Deep Learning)机器学习(Machine Learning)人工智能(Artificial Intelligence)研究的最新趋势之一,是当今最流行的科学研究趋势之一。深度学习方法为AI的发展带来了革命性的进步,新的深度学习技术正在不断更新迭代,几乎每天都在有重大突破。

正是由于深度学习的爆炸式发展,导致了它的进展很难被跟进,特别是对于Beginner,因此在本文中,我们将简要讨论深度学习的发展历程及其近年来的进展。

首先我们先通过以下定义来了解ML、DL、AI以及当下火热的AIGC:

  • 机器学习:是人工智能的子集,它采用可让机器凭借经验在任务中做出改善的技术(例如深度学习)。学习过程基于以下步骤:
    1. 将数据馈送到算法中(在此步骤中可向模型提供更多信息,例如通过执行特征提取)
    2. 使用此数据训练模型
    3. 测试并部署模型
    4. 使用部署的模型执行自动化预测任务(换言之,调用并使用部署的模型来接收模型返回的预测)
  • 深度学习:是机器学习的子集,它基于人工神经网络。学习过程之所以是深度性的,是因为人工神经网络的结构由多个输入、输出和隐藏层构成。每个层包含的单元可将输入数据转换为信息,供下一层用于特定的预测任务。得益于这种结构,机器可以通过自身的数据处理进行学习。
  • 人工智能:是使机器能够模拟人类智能的技术。 其中包括机器学习。
  • 生成式人工智能:是人工智能的一部分,可使用深度学习等技术生成新的内容。 例如,可以使用生成式 AI 创建图像、文本或音频。 这些模型利用大量预先训练的知识来生成此内容。

DLvsML.jpg

DL vs ML

在机器学习中,我们需要告知算法如何使用更多信息(例如通过执行特征提取)做出准确的预测。

在深度学习中,得益于人工神经网络结构,算法可以了解如何通过自身的数据处理做出准确预测。

下表展示的是ML和DL的不同之处:

  机器学习 深度学习
数据输入 可以使用少量的数据做出预测 需要使用大量的训练数据做出预测
硬件依赖 可在低端机器上工作,不需要大量的计算能力 依赖于高端机器,执行大量的矩阵乘法运算,需要GPU来有效地优化这些运算
特征化过程 需要可准确识别且由用户创建的特征 从数据中习得高级特征,并自行创建新的特征
学习方法 将学习过程划分为较小的步骤,然后将每个步骤的结果合并成一个输出 通过端到端地解决问题来完成学习过程
执行时间 花费几秒到几小时的相对较少时间进行训练 通常需要很长的时间才能完成训练,因为深度学习算法涉及到许多层
输出 输出通常是一个数值,例如评分或分类 输出可以采用多种格式,例如文本、评分或声音

Neural Networks

Application of DL

Transfer Learning

Comments


Be the first one to comment on this page!
You can use extended GitHub flavored markdown in your comment. Commenting FAQs & Guidelines