Posts

前情回顾： 信号与系统基础 | LTI系统 | 傅里叶级数 终于，我们迎来了信号处理这门课的第一个大 BOSS —— 傅里叶变换！让我们一步步击溃这个可怕的魔王吧 😤 目录 前言 连续时间傅里叶变换 收敛性 常见信号的傅里叶变换 周期信号的傅里叶变换 傅里叶变换的性质 卷积 & 相乘 线性常系数微分方程 离散时间傅里叶变换 收敛性 周期信号的傅里叶变换 离散时间傅里叶变换的性质 卷积 & 相乘 对偶性 前言 在上一节中，我们逐步撕开了傅里叶级数的神秘面纱，那么傅里叶变换有是个什么东西呢，在介绍傅里叶变换之前，我们先来研究一个非常有趣的例子 现在我们手头有一个周期为 T，宽度为 $2T_1$ 矩形信号的傅里叶级数系数为 $$ a_k = \frac{2}{k \omega_0 T} \sin\left( k \omega_0 T_1 \right) $$当逐步增大周期 T 的值时，会发现 $a_k$ 越来越小，且系数之间的间隔 $\omega_0$ 也越来越小 我们不妨采用一种新的表示形式，并且 $k \omega_0 \to w$ $$ T a_k = \frac{2}{\omega} \sin\left(\omega T_1 \right) = X(j \omega) $$当 $\lim_{T \to \infty}$ 时， $\omega$ 就从离散变量便成了连续变量 ...

目录 线性分类器 正则化与优化 神经网络与反向传播 卷积神经网络 复习笔记只记录一些重点内容和需要记住的公式 考试回忆 01线性分类器 线性分类器：非常重要的概念——低维不可分但是高维可分 也是由于上面的特质使得线性分类器一般作为深度神经网络的最后一层 😼 图像分类任务 图像分类任务的困难——语义鸿沟（semantic gap）：人眼看到的图像和机器处理的输入数据之间存在巨大的差异 挑战：视角差异、形变、光照变化、类内差异、杂乱的背景、类间混淆、遮挡、环境干扰 KNN 记住所有数据和标签，将测试图像预测为与其最相似的训练图像的标签 对于 1 近邻的情况，存在的问题是无法处理离群点 而多近邻的情况，会出现空白区域问题 不可以直接使用像素之间的距离作为度量标准，不具备鲁棒性！ 线性分类器 SVM 的损失函数可以表示为 $$ L = \frac{1}{N} \sum_{i=1}^{N} \sum_{j \neq y_i} \max(0, s_j - s_{y_i} + \Delta) \quad (\text{PPT中 } \Delta = 1) $$ $Q_1$: 损失函数的最大值可以逼近正无穷，最小值为0 $Q_2$: 如果将 Loss 中的 sum 换成 mean，那么新损失函数的值会等缩小，从而减小梯度 $Q_3$: 如果将每一个样本的损失函数替换成 $$ L_i = \sum_{j \neq y_i} \max(0, s_j - s_{y_i} + \Delta)^2 $$ 那么新损失函数会对错误分类的样本有更大的惩罚力度 ...

Data Mining 课程复习笔记 笔记目录 认识数据 数据预处理 朴素贝叶斯分类器 决策树分类 基于规则的分类 回归算法 支持向量机 SVM 模型的评价 这里只记载一些重要的知识点 or 需要死记硬背的定义（sad） 这篇笔记中夹杂了许多个人学习时的吐槽，希望可以缓解诸位的背书负担 🎩 附录： 错题大赏会 考试回忆录 认识数据 这一节非常无趣且都是死记硬背的知识点，主要由以下几部分组成： 基本概念 | 数据统计的方法 | 相似性度量 ｜数据可视化｜ 复习小巧思 part one 数据的基本概念 一句话总结： 数据（总体） > 数据对象（比如一张统计表） > 数据元素（表中的列） > 数据项（每列的具体值） 数据属性 阅读参考书目，感觉这里的数据属性指的是机器学习中数据的特征（比如Titanic数据集中的Age、Sex等） 比较搞人的是这里对数据属性也进行了分类，分为四种 标称属性：感觉这里指的是对数据的命名，比如 fanqi 养的六只猫需要六个不同的名字来区分 二元属性：只有两种取值的标称属性 序数属性：比如大中小，但是不知道大究竟是多少（定性分析） 数值属性：分成区间标度（我身高 180cm 比他高 2 cm）和比率标度（我跑步10km/h 比他快一倍） ‼️ 定性属性：标称 & 序数 定量属性：区间 & 比率 part two - 数据统计的基本方法 标准差 $\sigma = \sqrt{\frac{1}{n} \sum_{i=1}^n (x_i - \overline{x})^2}$ ...

终于到了傅里叶级数的章节了！信号处理打怪修炼已经到了关键的一步，冲破这关我们就能打遍天下无敌手了😼 前情回顾： 信号与系统基础 | LTI系统 目录 写在前面 系统响应特点 复指数信号的表达能力 傅里叶级数 连续时间傅里叶级数 离散时间傅里叶级数 LTI 系统与傅里叶级数 写在前面 在和傅里叶级数打交道之前，需要弄明白一个事情，那就是我们为什么需要它？ 当我们在研究 LTI 系统时，如果能将一个复杂信号拆分成一系列简单信号的叠加，那么就能利用 LTI 系统线性与时不变的特性，利用每个简单信号的响应计算出最终的系统响应，那么这就带来了两个要求： (1) 选择的简单信号需要有足够强的表达能力，可以表示几乎所有的信号 (2) 系统对简单信号的响应足够简单，方便计算 那么让我们来看看复指数信号的特性吧 系统响应特点 $$\begin{aligned} e^{st} &\to e^{st} H(s) \quad (连续 LTI)\\ z^{n} &\to z^{n} H(z) \quad (离散 LTI) \end{aligned}$$从 👆 的公式（证明方法非常简单，套用上一章介绍的卷积操作就可以得到）可以看出，复指数信号经过 LTI 系统后，仍是复指数信号，区别仅在于幅度上的变化。所以对于复指数信号而言，它满足我们提出的第二点要求，剩下要证明的就是第一点了 复指数信号的表达能力 很可惜，博主当前的能力并不能给出一个严格的证明，所以下面只好假设复指数信号可以表示绝大部分信号了 💦 不过可以通过一个很好玩的角度来帮助大家理解傅里叶级数系数的含义 当我们将一个周期（角频率为 $\omega_0$）信号 $x(t)$ 分解为一系列复指数信号的叠加 $\hat{x}(t) = \sum_{k=-\infty}^{\infty} a_k e^{j k \omega_0 t}$ 时，我们的目标是让 $\hat{x}(t)$ 尽可能地接近 $x(t)$，那么如何衡量两者的接近程度呢？ 答案是用能量来衡量，令 $$E = \int_{T} |x(t) - \hat{x}(t)|^2 dt$$那么 $E$ 越小，说明两者越接近，所以最优的傅里叶系数可以通过用 $E$ 对 $a_k$ 求偏导并令其为0来得到 ...

前言 最近发现 HRL (Hierarchical Reinforcement Learning) 似乎是一个非常有趣的研究方法，这里汇总了自己调研的几篇经典文章与心得体会 真是越看越心酸，前一阵子洗澡时想到可以在学习出的 RL agent 上再套一个 RL算法来学习，结果发现这正是 HRL 的思路😂 目录 Learning Representations in Model-Free Hierarchical Reinforcement Learning Hierarchical Deep Reinforcement Learning Integrating Temporal Abstraction and Intrinsic Motivation Learning Representations in Model-Free Hierarchical Reinforcement Learning 论文链接 论文的研究动机是通过引入 HRL 来解决 RL 面对具有 Sparse Reward 的问题表现不佳的问题（个人感觉这是在使用另一种方式去解决 NeSy 方法在做的事情，都是引入抽象的特征表示） Method 论文采用的方法框架由一个生产 sub goal 的 Meta-Controller 和一个解决 sub goal 的 Controller 组成 在时间 t 时，Meta-Controller 接收环境状态 $s_t$ 并选择一个 sub goal $g_t \in \mathcal{G}$ ，Controller 接收环境状态 $s_t$ 和 sub goal $g_t$ 并选择一个动作 $a_t$ ...

Linear Time-Invariant Systems (LTI Systems) 这份笔记主要负责介绍线性时不变系统的定义与一些好玩的特性 前置知识回顾：信号与系统基础 目录： 线性时不变系统的定义 线性时不变系统的性质 线性时不变系统的定义 这一部分会介绍离散LTI系统和连续LTI系统 不过在开始之前需要研究一下单位脉冲函数的特性🦉 离散LTI系统 在上一篇笔记中，有一个很重要的公式 $x[n] \delta[n - n_0] = x[n_0]$ （脉冲信号的筛选特性） 由此我们可以用脉冲信号来表示任意的离散信号： $$x[n] = \sum_{k=-\infty}^{\infty} x[k] \delta[n-k]$$假设系统对单位脉冲信号的响应信号为 $h[n]$, 那么不妨定义 $h_k[n]$ 为系统对 $\delta[n-k]$ 的响应信号。 利用系统的线性特性，我们可以将任意离散信号的响应表示为 $$ y[n] = \sum_{k=-\infty}^{\infty} x[k] h_k[n] $$再利用系统的时不变性，我们可以得到 $h_k[n] = h[n-k]$， 从而得到 $$ y[n] = \sum_{k=-\infty}^{\infty} x[k] h[n-k] = x[n] * h[n] $$Tips: 其实我们可以将表达式 $\sum_{k=-\infty}^{\infty} x[k] h[n-k]$ 当作关于 k 的函数，则$y_k[n] = x[k] h[n-k]$ ，即所有 $y_k[n]$ 的叠加即为系统的输出信号 $y[n]$ ...

写在前面 期末周到了，数字信号学的一塌糊涂，创建这个系列也是督促自己好好复习这一门课😢 $$E=mc^2$$测试一下是否支持LaTex渲染 信号与系统 本章主要负责介绍一些典型信号与系统，并分析他们的基本性质 能量与功率 对于一个离散信号 $x[n]$，其能量与功率定义为 $$\begin{aligned} E &= \sum_{n=-\infty}^{\infty} |x[n]|^2 \\ P &= \lim_{N \to \infty} \frac{1}{2N+1} \sum_{n=-N}^{N} |x[n]|^2 \end{aligned}$$对于一个连续信号 $x(t)$，其能量与功率定义为 $$\begin{aligned} E &= \int_{-\infty}^{\infty} |x(t)|^2 dt \\ P &= \lim_{T \to \infty} \frac{1}{2T} \int_{-T}^{T} |x(t)|^2 dt \end{aligned}$$脉冲信号 & 阶跃信号 对于离散信号，我们可以规定如下两种特殊性质的信号 脉冲信号 $$ \delta [n] = \begin{cases} 1, & n = 0 \\ 0, & n \neq 0 \end{cases} $$对于任意的信号 $x[n]$，都有 $x[n] \delta [n] = x[0]\quad x[n] \delta[n-n_0] = x[n_0]$ ...

一名NJUer的必备网址列表 基础网站（也是必备网站） 本科生院 重要性不必多言 选课网址 只有经历过深夜蹲点抢课的人才算一个真正的NJUer 教服平台 可以查看自己的本学期课程、申请免修不免考等 网上办事大厅 也是一个非常重要的网址，当你不知道自己想办的业务需要去那个网站时可以上这个上面碰碰运气 五育管理系统 在这里可以查看学校近期开展的一些五育活动，也可以导出自己的五育成绩单 什么？你问我五育活动有什么用？其实没什么用（但是学院每学期的综合测评会作为一个衡量标准，所以越多越好） 此外，多余的五育活动也可以转化成选修学分（但是大部分情况下不会用到这个） 第二课堂 用来查看自己的志愿活动时长、参与的社会实践以及加入的社团活动等（这里再次给天健社打广告！欢迎大家加入天健大家庭） 交换生管理系统 建议有意向参加交换活动的同学多多留意网站上的项目 Tips：可以作为查看自己在学院大致排名的一种方法 网络认证 打开前记得连接 NJU-WLAN 资源网站 南大图书馆 图书馆官网下面提供了很多别的数据库网站（如知网、Web of science等），通过图书馆进入可以使用企业账号登陆，免费下载所需要的大部分论文资料 信息化建设管理平台 在这里你可以下载学校免费提供的正版软件 Adobe（Pr、Ps、Acrobat等）、微软全家桶、Matlab等软件都可以在这里下载安装，如果你发现某个软件需要购买或订阅，不妨先来这里看看有无免费版本 此外，Notion可以使用学校邮箱登陆，完成学生认证后即可免费使用，不需要缴纳每年365元的订阅费。 Copliot也可以在完成学生认证后免费使用 工具网站 南大云盘 每人都有50G的免费云空间～ 南大Latex 不想本地配置latex编译环境？那就试试这个吧！