Reservoir sampling 是一个随机采样算法,简单来说就是从 \(n\) 个 items 中随机选择 \(k\) 个 items,并且每个 item 被选择的概率应该都一样。这个算法的优点在于时空复杂度都不高,其中时间复杂度为 \(O(n)\), 空间复杂度为 \(O(1)\)下面介绍该算法的过程,并且以 leetcode 上的两道题目为例讲解。

阅读全文 »

之前曾写过一篇最优化课程总结, 涉及到的内容较多也较细。而在最优化中,凸优化是最为常见而又最为重要的,因为凸优化有一个良好的性质:局部最优是全局最优,这个性质使得我们不需要去证明解是否会收敛到全局最优,或者如何避免局部最优。因此凸优化有广泛应用,在优化问题不是凸的时候,往往也会尝试将其变为凸问题便于求解。本文着重讲凸优化,算是对之前写的文章的一个拓展和补充。

本文主要讲述下面内容,凸优化的概念以及凸优化中的三类常见解法:梯度类方法,对偶方法和 ADMM 方法

阅读全文 »

ImageNet Classification with Deep Convolutional Neural Networks 这篇论文可以说是多层 CNN 用在图像领域的首次尝试(此前的 LeNet 也将 CNN 用在手写数字的识别上,但是没有用到连续多层 CNN)。文中提出的网络模型 AlexNet (设计者的名字叫 Alex) 在 ImageNet 2010、2012 年的比赛上取得的效果远远地优于传统方法,这篇文献最重要的工作是设计并验证了这样一个有多层卷积层的网络的有效性,对学术界和工业界的影响都很大。

本文主要介绍这篇文章中提出的网络模型 AlexNet,以及其他涉及到的一些知识,主要的介绍的内容有:CNN 的基础知识,AlexNet 的设计,训练和效果,以及对网络泛化(generalization)性能的一些探讨。

阅读全文 »

本文是刘鹏老师的计算广告学中的一些笔记。本文是第六章: 广告交易市场 (Ad Exchange)。主要介绍目前最常见的实时竞价的广告交易模式,分别介绍了这一模式下的供给方平台 (SSP) 和 需求方平台 (DSP), 并且重点介绍了 DSP, 因为在这一交易模式下,DSP 负责了绝大多数的关键任务。

阅读全文 »
0%