信息系统架构参考资料补充

本页用于承接系统架构设计师综合知识和跨模块资料中的架构内容。

数据挖掘与机器学习补充

数据挖掘（KDD）可按“定义业务问题 → 数据收集 → 数据预处理 → 建模挖掘 → 模式评估 → 呈现部署”理解，评估不通过时需要回到前面迭代。数据预处理通常包括清洗、集成、变换和归约，实际项目中往往占据大量工作量。

常见任务与方法对应关系如下：分类预测离散类别，常用决策树、逻辑回归、随机森林等；回归预测连续数值；聚类在无标签数据上自动分组，典型算法为 K-Means；关联规则挖掘“有 A 是否常有 B”，Apriori 常用支持度衡量出现频率、置信度衡量规则可靠性；异常检测用于反欺诈、反洗钱等场景。逻辑回归虽名称含“回归”，但输出概率并按阈值分类，是评分卡常用方法。

监督学习使用带标签数据，包含分类和回归；无监督学习使用无标签数据，包含聚类和降维；强化学习通过奖励和惩罚学习策略。过拟合表现为训练集好而测试集差，常用正则化、交叉验证、增加数据、降低模型复杂度或早停缓解；欠拟合则是训练集和测试集都差。

随机森林是以决策树为基学习器的 Bagging 集成方法：每棵树使用 Bootstrap 有放回样本，并在节点分裂时随机选择特征子集。分类采用投票，回归取平均，通常比单棵树更不易过拟合，但可解释性较弱。CNN 通过卷积、激活、池化、归一化和分类头等结构提取空间特征，具体层次按任务调整。

来源：专业课速记/08_云计算大数据AI.md