稀疏感知导论 李廉林,李芳 科学出版社 pdf epub mobi txt 电子书 下载 2025

简体网页||繁体网页

☆☆☆☆☆

李廉林，李芳 著

图书标签:

• 稀疏感知
• 信号处理
• 模式识别
• 机器学习
• 压缩感知
• 科学出版社
• 李廉林
• 李芳
• 理论基础
• 算法实现

店铺： 南源图书专营店

出版社： 科学出版社

ISBN：9787030530264

商品编码：26687164450

包装：圆脊精装

出版时间：2017-12-01

图书基本信息
图书名称	稀疏感知导论	作者	李廉林,李芳
定价	128.00元	出版社	科学出版社
ISBN	9787030530264	出版日期	2017-12-01
字数	393000	页码
版次	31	装帧	圆脊精装
开本	16开	商品重量	0.4Kg

内容简介

在大数据时代，信息科学必须发展信息表征、获取及复原的新理论、新方法。基于信号的稀疏性，“稀疏感知”用少量的测量数据实现高质量的信号复原，缓解大数据信息问题的压力。 　　实现稀疏感知的关键是：(1)有效地获取数据，(2)有效地处理数据，实现信息复原。对于数据获取，《稀疏感知导论》研究了信号稀疏性与信号采样之间的关系，讨论了压缩感知、矩阵填充、稀疏反卷积和相位复原等稀疏感知问题，从三个不同的角度讨论了测量矩阵的设计。对于数据处理和信息复原，《稀疏感知导论》研究了梯度迭代优化算法、Bayesian算法和信息传递算法；特别地针对大数据处理问题，《稀疏感知导论》研究了乘子交替迭代优化算法、随机坐标优化算法和随机梯度优化算法等；《稀疏感知导论》还讨论了若干贪婪算法。

作者简介

目录

目录 前言 符号使用和约定 缩写词表 绪论 1 参考文献 5 第1章 信号采样、表征与稀疏感知 8 1.1 Nyquist-Shannon 采样定理 8 1.2 信号表征 15 1.2.1 信号的确定性表征 15 1.2.2 信号的一般性统计描述 17 1.2.3 白化信号的统计表征 19 1.3 稀疏信号与稀疏感知 22 1.3.1 信号的稀疏性与表征 22 1.3.2 稀疏感知问题 24 附录1A 广义信号采样方法 27 参考文献 29 第2章 稀疏感知的若干数学问题 31 2.1 压缩感知 31 2.2 低秩矩阵感知 41 2.3 稀疏卷积感知 45 2.4 相位复原 49 附录2A 三个常用的概率不等式 52 参考文献 53 第3章 RIP 分析与 L1-正则化优化 55 3.1 广义 RIP 定义及其特性分析 55 3.2 广义 RIP 与 L1-*小化 64 3.3 广义 RIP 与 L1/L2-*小化 67 3.4 统计 RIP 与 L1 *优化 70 3.5 *优测量矩阵设计 (1) 75 附录3A L1 优化估计的无偏性分析 77 参考文献 81 第4章 贪婪算法 82 4.1 匹配追踪算法 82 4.1.1 正交匹配追踪算法 82 4.1.2 CoSaMP 算法 85 4.2 迭代硬门限算法 92 4.3 低秩矩阵感知的迭代硬门限算法 99 4.3.1 低秩矩阵的硬门限投影 99 4.3.2 迭代硬门限方法复原低秩矩阵 103 附录4A SURE 估计 104 参考文献 106 第5章 梯度类凸优化方法 108 5.1 凸优化的有关概念 109 5.1.1 凸函数的定义及基本性质 109 5.1.2 拉格朗日乘子法 114 5.1.3 Fenchel 共轭函数 116 5.1.4 Bregman 距离 118 5.2 基于 Nesterov 光滑化方法的梯度优化方法 120 5.2.1 Nesterov 光滑化 120 5.2.2 梯度迭代算法的一般性描述 122 5.2.3 加速梯度迭代优化方法 131 5.3 邻近算子方法 137 5.3.1 邻近算子 138 5.3.2 迭代软门限方法 141 5.3.3 加速迭代软门限方法 145 5.4 亚梯度与 Bregman 算法 146 附录5A Wirtinger 导数 150 附录5B Pareto 曲线 151 附录5C 基于深度神经网络的迭代软门限算法 153 附录5D *优测量矩阵设计 (2) 155 参考文献 156 第6章 面向大数据的优化方法 158 6.1 乘子交替迭代优化方法 158 6.1.1 稀疏优化问题的拉格朗日方法 158 6.1.2 ADMM 算法 161 6.1.3 Scaled-ADMM 算法 163 6.1.4 ADMM 算法的收敛性 165 6.2 随机梯度优化方法 169 6.3 随机坐标优化算法 176 6.3.1 随机坐标优化算法及收敛性分析 176 6.3.2 加速随机坐标优化算法 181 6.4 Robust 优化方法 183 6.5 维度约化 186 6.5.1 主成分分析 186 6.5.2 线性判别分析 188 6.5.3 流形学习 193 附录6A 增强拉格朗日乘子法在矩阵分解中的应用 195 参考文献 196 第7章 贝叶斯分析 198 7.1 贝叶斯分析的基本概念 198 7.1.1 贝叶斯建模 200 7.1.2 贝叶斯方法与确定性方法的关系 212 7.2 **期望算法 216 7.3 Laplace EM-贝叶斯分析 220 7.3.1 Laplace 信号建模 221 7.3.2 Lapalce 模型的 EM-贝叶斯算法 223 7.4 **期望-变分贝叶斯算法 227 7.5 混合高斯模型的 EM-贝叶斯分析 234 7.5.1 标准 EM-贝叶斯算法 235 7.5.2 基于分层模型的 EM-贝叶斯算法 239 7.6 基于蒙特卡罗的贝叶斯分析 242 7.6.1 蒙特卡罗采样的 Metropolis 算法 242 7.6.2 限制 Boltzmann 机 246 7.6.3 对比散度算法 247 附录7A 常用的概率密度函数表 250 附录7B 贝叶斯分析在盲反卷积中的应用例 251 附录7C *优测量矩阵设计 (3) 254 附录7D 稀疏高斯随机过程 254 附录7E 重要性采样 256 参考文献 259 第8章 信息传递算法 262 8.1 信息传递算法基本概念 262 8.2 求解 y = Ax n 的信息传递算法 267 8.2.1 Sum-Product 近似信息传递算法 270 8.2.2 Max-Product 近似信息传递 275 8.3 Gaussian-Bernoulli 稀疏感知近似信息传递算法Ⅰ：Krzakala 方法 280 8.4 Gaussian-Bernoulli 稀疏感知近似信息传递算法Ⅱ：Schniter 方法 289 附录8A 对 Max-Product 传递模式和 Sum-Product 传递模式的进一步 讨论 296 参考文献 298

编辑推荐

相关领域的读者和研究人员

文摘

序言

《现代计算中的稀疏性：理论、算法与应用》 简介 在当今信息爆炸的时代，我们面临着海量数据的挑战，这些数据往往具有高维度、低秩或零填充等特性，其内在的“稀疏性”成为了理解和处理它们的核心关键。《现代计算中的稀疏性：理论、算法与应用》一书深入探讨了稀疏性在现代计算科学、工程以及统计学等领域的广泛影响与重要作用。本书旨在为读者提供一个关于稀疏性概念的全面、深入且实用的视角，从理论基石到前沿算法，再到实际应用场景，层层递进，勾勒出稀疏性在解析复杂现象、优化计算效率、提升模型性能等方面不可或缺的地位。 本书的写作宗旨在于，不仅要阐明稀疏性为何如此重要，更要揭示如何有效地利用稀疏性来解决现实世界中的难题。我们相信，理解并掌握稀疏性的原理和方法，是每一位投身于数据科学、机器学习、信号处理、图像分析、通信工程等领域的专业人士的必备技能。 第一部分：稀疏性的理论基石 本书的开篇，我们将从理论层面深入剖析稀疏性的本质。首先，我们追溯稀疏性在数学和统计学中的起源，介绍其在向量空间、矩阵理论等基础概念下的表现形式。例如，如何从数学上定义一个信号或一个数据集是稀疏的？这涉及到范数（如L0范数、L1范数）的引入，它们是衡量向量稀疏度的重要工具。我们将详细讨论L0范数的不可行性以及L1范数如何成为凸优化问题的有效代理。 接着，我们将重点阐述稀疏表示（Sparse Representation）的核心思想。任何一个复杂的数据信号，都可以通过一组“基”或“字典”（Dictionary）的稀疏线性组合来近似表示。本书将详细介绍如何选择合适的基（如傅里叶基、小波基）或学习具有良好稀疏表示能力的字典。我们会深入探讨“完备字典”和“冗余字典”的概念，以及在冗余字典下实现稀疏表示的挑战与机遇。 此外，本书还将涉及稀疏性相关的数学理论，例如压缩感知（Compressed Sensing, CS）的理论基础。我们将详细介绍压缩感知能够以远低于奈奎斯特采样率的采样次数重构稀疏信号的数学原理，包括RIP（Restricted Isometry Property）条件的重要性，以及它如何保证稀疏信号的唯一性重构。这一部分的内容将为读者理解稀疏性在数据采集和恢复中的革命性意义奠定坚实的理论基础。 第二部分：稀疏性算法与技术 在奠定了理论基础之后，本书将进入稀疏性算法与技术的实用层面。我们将系统介绍一系列用于寻找稀疏解的优化算法。这包括： 凸优化方法： 重点介绍基于L1范数的凸松弛方法，如LASSO（Least Absolute Shrinkage and Selection Operator）。我们将详细讲解LASSO的原理、算法实现（如Coordinate Descent, LARS算法），以及其在特征选择和模型正则化中的应用。此外，我们还会介绍其他L1最小化算法，如OMP（Orthogonal Matching Pursuit）、CoSaMP（Compressive Sampling Matching Pursuit）等贪婪算法，它们在信号恢复和字典学习中扮演着重要角色。 非凸优化方法： 探讨在某些情况下，非凸稀疏性约束（如L0范数）可能带来更优的稀疏解，但其优化难度更大。我们将介绍一些近似非凸优化问题的方法，以及其在特定应用中的优势。 字典学习算法： 字典学习是实现稀疏表示的关键技术。本书将详细介绍各种字典学习算法，包括K-SVD、Online Dictionary Learning等。我们会深入讨论字典更新与稀疏编码交替进行的优化过程，以及如何根据数据特性学习具有代表性的字典。 除了直接求解稀疏问题，本书还将探讨一系列与稀疏性相关的算法技术，例如： 稀疏矩阵运算： 介绍高效存储和处理稀疏矩阵的方法，如CSR（Compressed Sparse Row）、CSC（Compressed Sparse Column）等存储格式，以及在此基础上的稀疏矩阵向量乘法、加法等基本运算的优化技术。 稀疏化网络（Sparse Neural Networks）： 随着深度学习的兴起，稀疏化在神经网络中的应用日益广泛。我们将介绍如何通过剪枝（Pruning）、量化（Quantization）等技术实现模型稀疏化，以减少模型大小、加速推理，以及降低对硬件资源的需求。 分布式稀疏算法： 针对海量数据的分布式计算场景，我们将讨论如何设计和实现能够在分布式环境下高效运行的稀疏算法。 第三部分：稀疏性的应用领域 稀疏性并非仅限于理论研究，其在众多实际应用领域展现出了强大的生命力。本书将通过大量案例，详细展示稀疏性在以下关键领域的创新应用： 信号处理与通信： 压缩感知理论在通信系统中的应用，如低速率ADC（Analog-to-Digital Converter）、高效的信号采样与恢复。稀疏表示在噪声去除、信号增强、盲源分离等方面的应用。 图像与视频处理： 图像去噪、图像复原、图像超分辨率、图像分割、目标检测和跟踪。利用稀疏表示学习图像的局部结构和特征，以及在视频压缩和运动估计中的应用。 机器学习与模式识别： LASSO等稀疏模型在回归和分类问题中的特征选择和模型简化。稀疏编码作为一种无监督学习方法，用于特征提取和表示学习。稀疏字典学习在图像检索、人脸识别等任务中的应用。 自然语言处理： 文本表示的稀疏化，如TF-IDF（Term Frequency-Inverse Document Frequency）。稀疏主题模型（Sparse Topic Models）用于揭示文本数据中的潜在主题。 医学影像与生物信息学： MRI（Magnetic Resonance Imaging）等医学影像的压缩感知重建，加速数据采集过程。基因组学数据分析中的稀疏性建模，如基因选择和网络推断。 推荐系统： 基于稀疏矩阵分解（如SVD++）的协同过滤算法，实现高效的个性化推荐。 计算机视觉： 视觉跟踪、三维重建、物体识别等。利用稀疏表示捕捉物体在不同视角、光照条件下的变化。 总结与展望 《现代计算中的稀疏性：理论、算法与应用》一书不仅是一次对稀疏性理论与技术的全面梳理，更是一次对未来计算发展方向的深刻洞察。随着数据量的持续增长和计算能力的不断提升，稀疏性作为一种内在的、普遍存在的特性，将继续在人工智能、大数据分析、科学计算等前沿领域发挥核心作用。 本书适合于计算机科学、电子工程、自动化、数学、统计学等专业的本科生、研究生以及相关领域的科研人员和工程师阅读。我们力求语言清晰、逻辑严谨，既有理论深度，又不乏实践指导。通过阅读本书，读者将能够深入理解稀疏性的魅力，掌握处理稀疏数据的关键技术，并能够将其应用于解决实际问题，为未来的科技创新贡献力量。 我们相信，对稀疏性的深入理解和有效运用，将是开启下一代智能计算和数据科学新篇章的钥匙。

评分☆☆☆☆☆

随着阅读的深入，我发现书中对于稀疏感知算法的讲解，有着清晰的脉络。从最基础的L1范数最小化，到各种迭代求解算法，作者们并没有仅仅给出算法的公式，而是花了不少篇幅去解释这些算法的直观意义，以及它们在解决稀疏问题上的优势和局限。例如，在讲解OMP（Orthogonal Matching Pursuit）算法时，我感觉作者不仅仅是描述了它的迭代步骤，还深入分析了它在每次迭代中如何“贪婪地”选择最相关的原子，以及这种选择背后的理论依据。对于一些更高级的算法，比如Basis Pursuit，书中也详细阐述了其与L1最小化之间的联系，并对比了不同算法在计算复杂度、恢复精度等方面的差异。这种对比分析，对于我这种需要选择合适算法来解决实际问题的读者来说，是非常有价值的。我能感受到作者们在组织内容时，是站在读者的角度，希望读者不仅知其然，更要知其所以然，对每一种算法都有一个深刻的理解。

评分☆☆☆☆☆

这本书的语言风格，整体上呈现出一种严谨且学术化的特点，但并不至于晦涩难懂。作者们在阐述复杂概念时，会适当地穿插一些解释性的语句，使得整个阅读过程相对顺畅。尽管涉及大量的数学公式和推导，但每一处推导都力求清晰，并且在推导完成后，会进行总结和解释，点明该公式或定理的意义。我尤其欣赏的是，书中在引入某个新概念或新算法时，常常会先回顾一下相关的基础知识，或者与之前介绍的内容建立联系，这种“承上启下”的结构，有助于读者构建一个连贯的知识体系，避免了信息孤岛的产生。此外，书中在一些关键性的结论处，会给出明确的总结，并适当探讨其潜在的研究方向和未来发展趋势，这对于希望进一步深入研究的读者来说，无疑是一份宝贵的指引。总的来说，这本书在学术严谨性与易读性之间找到了一个很好的平衡点。

评分☆☆☆☆☆

对于我这个初涉稀疏感知领域的读者来说，这本书的引入部分起到了至关重要的作用。它并没有一上来就抛出复杂的数学公式和算法，而是从更宏观的视角，比如人类视觉系统对信息的稀疏性处理，以及自然界中普遍存在的稀疏现象入手，循循善诱地解释了“稀疏”这个概念的意义和重要性。这种“由表及里”的讲解方式，让我能够迅速建立起对稀疏感知基本思想的理解，不至于在接触数学模型时感到过于突兀。作者们在解释一些核心概念时，用了不少形象的比喻和类比，比如将信号的稀疏表示比作用最少的词语描述一幅画，或者将稀疏编码的优化过程类比于信息压缩。这些生动的例子，极大地降低了理解门槛，让我能够更好地把握住稀疏感知背后的逻辑和价值。虽然书中不乏严谨的数学推导，但作者们在引出这些推导时，都做了充分的铺垫，让读者明白这些数学工具是为了解决什么具体问题而存在的，这对于保持学习的积极性和连贯性非常有帮助。

评分☆☆☆☆☆

这本书的装帧设计相当朴实，没有那种花哨的封面，看上去就是一本扎实的学术著作，封面上“稀疏感知导论”几个字，配上“李廉林，李芳”和“科学出版社”的署名，就足够让对这个领域感兴趣的读者立刻明白它的定位。我拿到这本书的时候，首先感受到的是纸张的质感，是那种比较厚实、略带哑光的印刷纸，翻阅起来手感很好，不像那种光滑的铜版纸容易留下指纹。目录部分也很清晰地列出了全书的章节安排，从基础概念到进阶应用，似乎循序渐进，让人对学习过程有一个大致的心理预期。我尤其注意到章节标题的设置，有些很直观，比如“稀疏表示的基本原理”，有些则显得更具探索性，比如“稀疏感知在复杂场景下的挑战”。这种标题的组合，既保证了内容的系统性，又暗示了作者在引导读者认识稀疏感知这一领域时，力求全面且深入。整本书从外在来看，给人一种严谨、专业的印象，仿佛打开它就能进入一个严密构建的知识体系。

评分☆☆☆☆☆

稀疏感知在实际应用中的案例分析，是这本书我非常看重的一个部分。作者们并没有将稀疏感知局限于理论层面，而是列举了许多它在不同领域取得成功的应用实例，比如图像去噪、图像重建、压缩感知成像，甚至还涉及到了信号处理和机器学习等方向。在讲解这些应用时，书中并没有过于简略，而是会适当介绍具体的应用场景，说明稀疏感知是如何被用来解决这些场景下的挑战，以及最终取得了什么样的效果。我印象比较深刻的是关于压缩感知成像的部分，书中不仅解释了为何可以通过远少于奈奎斯特率的采样来重构信号，还讨论了在实际成像过程中可能遇到的各种问题，以及如何利用稀疏性来克服这些问题。这种理论与实践相结合的讲解方式，极大地拓宽了我的视野，让我看到了稀疏感知强大的生命力，也激发了我未来将所学知识应用到具体项目中的兴趣。