问答-多层多标签-HCL-MTC、M3C-HG

原创 已于 2025-10-15 16:05:02 修改 · 1.1k 阅读 · 26 ·
本内容遵循CC 4.0 BY-SA版权协议
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
GEO检测
收录于
问答

当前文章被收录于：

问答
4 篇文章 0 人学习
订阅专栏 查看详情
于 2025-10-15 16:04:25 首次发布

1.与彭爽对接，重新确定csv格式

2.HiACM论文为几区、引用量

3.查找近两年24-25年相关论文

  • 发表时间：2020年
  • 会议/刊位：ACL 2020
  • 分区/级别：CCF A类会议

任务明确：查找近两年24-25年相关论文模型

输入一个中文文本，模型能够多标签预测出：

  • 跨分支预测：道理/人生，生活/教育
  • 同分支多子节点预测：修行/佛家，修行/儒家

1. HCL-MTC--层级对比学习多标签文本分类模型-2025

Hierarchical contrastive learning for multi-label text classification-2025.pdfhttps://www.yuque.com/attachments/yuque/0/2025/pdf/54964068/1760445319602-6a0f7364-a570-4f22-9339-5aa2958640fd.pdf

1.1. 发表信息

1.2. 解读

标签层次结构表示为有向图 G=(V,E)，标签的层级结构（树状组织，含父子、兄弟关系及语义依赖）

图 1. RCV1-v2 数据集的标签树结构样本，其中灰色、黄色、绿色、蓝色分别表示根标签、第一级标签、第二级标签、第三级标签。变量 s 表示标签 i 与标签 j 之间的相似度。

层级对比损失：父子对可以双向传递信息，而不同父节点之间的信息保持区分

  • 最大化区分性：拉远不相关父节点间的距离。
    • 模型会学习让 修行 和 生活 的特征表示更有区别。
  • 最小化相关性：拉近相关父子节点间的距离。
    • 模型会学习让 修行 和 道家 的特征表示更加接近。

每个标签节点（包括一级和二级）的增强特征被送入一个分类器，使用Sigmoid函数独立计算概率

实验结果：该模型显著优于 HiAGM-TP

1.3. e.g.

输入文本：承道家 “上善若水” 之仁，怀佛家 “慈悲喜舍” 之念。

  1. 前向传播
  • 模型读入句子：“承道家 ‘上善若水’ 之仁，怀佛家 ‘慈悲喜舍’ 之念。”
  • 经过文本编码器、特征提取器、线性转换器和GCN层，最终输出所有标签的预测概率。
  • 假设初始模型的预测可能是错误的，例如：

修行/道家: 0.4 （错误）--未成功激活

修行/佛家: 0.9 （正确）--正确激活

修行/儒家: 0.1 （正确）

生活/食品: 0.8 （错误）--错误激活

道理/天道: 0.6 （正确）

  1. 随机采样节点对（用于层次对比损失）

以父节点 修行 为中心进行采样：

  • 采样其他父节点：从 生活、道理 中随机抽一个，比如抽到 生活。
  • 采样一个子节点：从 道家、佛家、儒家 中随机抽一个，比如抽到 道家。

本次训练步关注的节点对：

  • 修行 和 生活 （用于区分性损失 - 让它们更不同）
  • 修行 和 道家 （用于相关性损失 - 让它们更相似）

  1. 计算损失

二元交叉熵损失：

  • 惩罚错误激活：模型将 生活/食品 (真实为0) 预测为0.8。损失函数将产生一个很大的惩罚。
  • 惩罚未成功激活：模型将 修行/道家 (真实为1) 预测为0.4。损失函数将鼓励其输出更高的概率。
  • 奖励正确激活：模型将 修行/佛家 (真实为1) 预测为0.9。损失很小。

采样层次对比损失：

  • 相关性损失 ：计算 修行 和 道家 的特征相似度。由于它们是真实的父子关系，损失函数会惩罚这个相似度过低。反向传播时会拉近“修行”和“道家”节点的特征向量。
  • 区分性损失 ：计算 修行 和 生活 的特征相似度。损失函数会惩罚这个相似度过高。反向传播时会推远“修行”和“生活”节点的特征向量，帮助模型厘清“修行”和“生活”这两个不同领域的边界。

  1. 反向传播与参数更新

将上述所有损失相加得到总损失。

关键步骤：通过反向传播算法，计算总损失对模型每一个参数的梯度。

更新以下部分的参数：

  • 记忆“上善若水”属于道家，“慈悲喜舍”属于佛家
  • 增强了 修行 与 道家 之间的父子相关性，厘清了 修行 与 生活 这两个父节点之间的区分性。

2. M3C-HG--基于超图的多模态多标签分类方法-2024

2.1. 发表信息

  • 发表时间：2024年9月
  • 期刊：计算机工程与科学 (Computer Engineering & Science)
    • ISSN: 1007-130X

2.2. 解读

M3C-HG 包含四个阶段：

  1. 特征提取
    • 文本特征：使用 Sentence-BERT 提取 384 维句子嵌入。
  2. 关系挖掘
    • 超图构建：基于 K-近邻（K=21）构建图像、文本和导演信息的超图，合并为多模态超图。
    • 超边卷积：使用两层超图卷积层捕获高阶关联信息，增强特征表示。
  3. 标签预测
    • 使用全连接层 + Sigmoid 输出每个标签的概率。
    • 设定阈值（0.5）筛选预测标签。

3. 总结

这周主要还是在找论文，重点于最新的近两年发布的，找到了2个比较相关的，感觉HCL-MTC比较好，并且他的实验结果比上周的模型HiAGM效果更好；另外一个是M3C-HG，可以同时用于图像、文本，主要是构造有向边构建超图。这两篇论文都只是大概了解，还没有精读。除了论文，结合项目的数据库设计，重新修改了csv文件的格式。

标签
#机器学习 #分类
从朴素贝叶斯到 Transformer：机器学习十个经典模型的统一坐标系
weixin_45715405的博客
08-19 23
同一份 csv，LightGBM默认参数跑四十秒，验证集 AUC 0.889。我们那边花了三周才做到 0.871：二十几个类别字段各过一层 embedding、和数值特征拼起来、上一个五层 MLP，加 batch norm、加 dropout、warmup 调了四轮。跑出 0.889 的是组里一个实习生，用 pandas 读完 csv 就直接跑了。那 0.018 我认了。真正卡住我的是复盘会上说不清它为什么会发生——线上最终跑的是实习生那四十秒的版本，我那五层 MLP 一天都没上过。
uniApp微信小程序：error: 60001 request:fail errcode:-101 cronet error code:-101error_msg:net::ERR CONNECTI
✅ 精选推荐文章
10-09 4515
uni-app微信小程序域名访问报error 60001 request:fail errcode:-101，解决Uniapp微信小程序报600001错误，uni.request()接口请求报错，服务器更换SSL证书后，uniapp微信小程序出现`request:fail errcode:-101`问题分析与解决，服务器更换ssl证书后，手机访问微信小程序异常，微信小程序更换SSL证书后出现请求报错，服务器更换SSL证书，微信小程序报600001，小程序反应偶尔出现request:fail errcode:
人工智能、机器学习和深度学习到底是什么关系？
Michael_Jay的博客
08-18 345
人工智能（AI）、机器学习（ML）和深度学习（DL）是三个层级嵌套的概念：DL⊂ML⊂AI。AI是最广泛的研究领域，关注机器完成智能任务的能力；ML是实现AI的一类方法，通过数据训练模型；DL则是ML的一个分支，使用多层神经网络自动学习特征表示。 具体区别体现在： AI包含规则系统和数据驱动方法，ML专注于从数据中学习规律 传统ML依赖人工特征工程，DL能自动提取多层次特征 DL在图像/语音/文本等非结构化数据上表现突出，但需要更多数据和算力 项目选择应基于任务特性：规则明确用编程，结构化小数据用传统ML（
使用virtuoso gds转lef操作方法
m0_61544122的博客
08-04 1316
2) 然后，需要创建Pin，这里Pin的概念不同于label/text，是有实际金属的，二者的区别类似于pr中的port和terminal。1) 首先，需要画prBoundary，这个用drawing层的prBoundary画是不行的，不过建议pr阶段就把prBoundary转到gds里，在virtuoso layout中画prBoundary就比较容易。另外，用Create - Create Pin也可以创建pin，更适用于PG pin，操作时先给pg shape打label，最好放正中间。
AI机器学习完整包：核心技术与系统学习方法
2401_84458295的博客
08-16 269
作为一名刚开始接触AI机器学习的开发者，你是否也曾被复杂的算法和概念搞得头昏脑胀？别担心，这篇文章将为你梳理AI的核心概念和技术发展，让你轻松入门。从最初的图灵测试到现代的深度学习，AI经历了三次重大浪潮。第二次浪潮引入机器学习，让机器从数据中学习；第三次浪潮则通过深度学习实现了真正的突破，让机器能够自动提取特征并完成复杂任务。机器学习是AI的核心，主要分为三种范式： 1. 监督学习：需要标注数据，擅长分类和回归任务，如图像识别和房价预测。2. 无监督学习：无需标注，擅长发现数据中的隐藏模式。
深度学习到底是什么？它和机器学习有什么区别？
404 Not Found
08-11 1608
你有没有想过，为什么现在解锁手机只要看一眼、翻译外语拍张照就能出结果、下棋甚至能赢过世界冠军？ 这些事情听起来像科幻，但背后靠的是同一个技术——深度学习。
AI机器学习资源包：学习曲线与核心知识点
2401_84458295的博客
08-19 214
AI机器学习的学习曲线看似陡峭，但只要掌握核心概念，入门其实没那么难。今天分享一份学习包，涵盖从基础到进阶的核心知识点。AI的核心目标是让机器表现出智能行为。从最初的图灵测试到现代的深度学习，AI经历了三次重大浪潮。第二次浪潮引入机器学习，让机器从数据中学习；第三次浪潮则通过深度学习实现了真正的突破，让机器能够自动提取特征并完成复杂任务。机器学习是AI的核心，主要分为三种范式： 1. 监督学习：需要标注数据，擅长分类和回归任务，如图像识别和房价预测。2. 无监督学习：无需标注，擅长发现数据中的隐藏模式。
武汉理工大学&华中科技大学联合 l 机器学习赋能金属增材制造
3D科学谷
08-18 246
未来，随着标准化数据体系、物理信息学习、可解释人工智能、数字孪生、边缘计算和闭环控制持续发展，ML有望推动MAM由依赖经验和离线检验的工艺，逐步转向更可预测、更可靠、更可解释且能够实时调节的智能制造过程。然而，金属增材制造本质上是一个多物理场耦合、快速熔化与凝固并存的非平衡制造过程，激光功率、扫描速度、送粉或送丝速度、层厚及成形环境等因素会通过局部热历史影响凝固组织、相变行为、残余应力和最终性能，形成高度非线性的“工艺—组织—性能”（process–structure–property, PSP）关系；
MLPACK 超完整实战｜C++高性能机器学习、聚类分类、回归预测全能库
踏板鞋的专栏
08-19 248
MLPACK是一款专注于高性能和轻量化的C++机器学习库，由佐治亚理工学院维护。其核心优势包括原生C++实现带来的极致推理速度、极低资源占用、全平台适配以及工业级算法完备性，特别适合嵌入式设备、边缘计算和高性能服务端场景。相比于Python框架，MLPACK无需解释器开销，仅依赖轻量级线性代数库，支持离线训练和本地推理。 本文详细介绍了MLPACK的编译配置方法、基础矩阵操作，并提供了KNN分类、K-Means聚类、线性回归和PCA降维等核心算法的实战代码。同时包含5个可直接商用的生产级Demo，涵盖工业设
机器学习XGBoost
年轻即出发，
08-17 168
xgboost的并行是在特征粒度上的。我们知道，决策树的学习最耗时的一个步骤就是对特征的值进行排序（因为要确定最佳分割点），xgboost在训练之前，预先对数据进行了排序，然后保存为block结构，后面的迭代中重复地使用这个结构，大大减小计算量。优化这个目标对应了树的剪枝， 当引入的分割带来的增益小于一个阀值的时候，我们可以剪掉这个分割。这个block结构也使得并行成为了可能，在进行节点的分裂时，需要计算每个特征的增益，最终选增益最大的那个特征去做分裂，那么各个特征的增益计算就可以开多线程进行。
机器学习赋能复合材料细观力学：破解多尺度仿真困局｜哈工大Composites Part A综述
y2715163545的博客
08-19 319
引言复合材料凭借高比刚度、高比强度与优异的结构可设计性，广泛应用于航空航天等高端制造领域。但其非均质结构、复杂界面行为与多物理场耦合损伤机制，让传统细观力学建模长期陷入精度与效率的双重困境。传统解析方法理想化假设过多、精度不足，有限元数值仿真精度高但计算成本高昂，难以满足快速材料迭代与工程优化需求。为突破这一瓶颈，机器学习凭借强大的非线性拟合与数据挖掘能力，成为复合材料细观力学研究的全新技术手段。
【机器学习】（43）—— AutoML 上手流程
qq_36245787的博客
08-19 451
AutoML 不能代替数据准备。导入前至少完成下面三类工作。任务说明标签完整每一行训练样本都有标签；缺失标签行应剔除或单独处理清洗与格式去明显错误值、统一单位；日期格式一致自定义变换工具不支持的衍生字段可预先算好再导入若对预测房价一类任务有帮助，而工具没有内置「字符串长度」变换，可以预先加列desc_len再导入。油耗表里，若只有「升/百公里」与「英里/加仑」混用，必须先统一单位，否则搜索只是在噪声上浪费预算。无代码工具的上手路径是：导入 → 分析摘要 → 语义修正 → 配置 → 启动。
从预测到决策：人工智能与机器学习的系统方法、工程闭环与现实边界
m0_73407070的博客
08-17 552
现实中的 AI 从来不是一个孤立模型，而是一套把数据转化为行动、再由行动产生新数据的社会技术系统。机器学习并不会直接从数据中发现“真理”。它是在给定样本、标签、损失函数、模型结构和计算预算后，寻找一个对特定任务有用的统计映射。这个映射是否能在未来成立，取决于数据是否代表部署环境；它是否值得使用，还取决于阈值、成本、人工流程、延迟、安全、公平与责任边界。现实问题 → 数据生成 → 模型学习 → 评价与校准 → 决策规则 → 系统部署 → 反馈、漂移与治理。
K-Means 聚类的目标函数：簇内误差平方和
最新发布
Frost_Descent的博客
08-21 4636
K-Means 是一种无监督迭代式的聚类算法：给定数据集与预设簇数K，算法把样本划分为K个不相交的簇，使得同一簇内样本尽可能相似，不同簇间样本尽可能远离。核心思想：> “让簇内‘抱团’，让簇间‘疏远’。
模型不准怎么调？机器学习核心理论与实战全流程
2203_75871132的博客
08-18 306
本文系统介绍了机器学习全流程的核心理论与方法，涵盖三大要素（模型、策略、算法）和完整建模步骤（数据→特征工程→模型训练→评估→部署）。重点讲解了特征工程（选择/转换/构造/降维）、模型评估（过拟合/欠拟合判断）、正则化与交叉验证等技术，并详细解析了线性回归、逻辑回归等基础模型的原理与应用。文章还讨论了机器学习与AI大模型开发的关系，为读者构建了完整的机器学习知识体系框架。
AI大模型开发V2第四阶段聚类
weixin_46411355的博客
08-16 275
本文介绍了聚类算法的基本概念、应用场景和分类方法。主要内容包括：1）聚类算法是无监督学习，用于将相似样本归类；2）K-means算法流程及API使用；3）常用评估指标SSE、肘部法等；4）通过客户分析案例实践聚类应用。文章包含代码示例展示数据生成、聚类实现和效果评估，帮助理解聚类算法原理和实践方法。
机器学习基本常识
ycx66668888的博客
08-14 956
本文系统介绍了机器学习的三大范式：监督学习、无监督学习和强化学习。监督学习部分重点讲解了分类与回归（含最小二乘法、欠拟合/过拟合）、支持向量机（SVM）、随机森林（特征随机性原理）以及梯度提升树（GBDT与XGBoost对比）；无监督学习解析了聚类（K-Means）和降维（PCA）技术；强化学习则从马尔可夫决策过程、贝尔曼方程等数学模型切入，阐述其通过环境交互实现策略优化的机制，并探讨了探索-利用平衡等核心挑战。文章通过算法原理、应用场景和优缺点分析，构建了机器学习方法论的完整认知框架。
用户分群找不到规律？用K-Means聚类算法自动发现数据模式
2203_75871132的博客
08-20 455
指标全称特点取值范围CH指数簇间离散度/簇内离散度越大越好轮廓系数综合考虑紧密度和分离度[-1, 1]，越大越好DB指数簇内距离/簇间距离越小越好print(f"K=k } : 轮廓系数= {score : .3f } ") best_k = sil_scores . index(max(sil_scores)) + 2 print(f"\n轮廓系数推荐的最佳K值: {k } : 轮廓系数= {
Python 条件判断 if 语句全解：从零基础到机器学习数据清洗实战
qq_40884337的博客
08-20 175
本文系统讲解Python条件判断语句，涵盖核心语法和机器学习应用场景。主要内容包括： 条件语句原理：基于布尔值决定代码执行路径 基础语法结构： 单分支if（条件满足执行） 双分支if-else（二选一） 多分支if-elif-else（多条件筛选） 嵌套if（复杂逻辑判断） 实用技巧：三目运算符简化代码 常见错误：缩进、冒号、赋值判断混淆等 机器学习应用：数据清洗、样本分类、模型控制等场景的综合案例 文章通过具体代码示例，演示了条件判断在数据预处理中的实际应用，如样本筛选、数据有效性验证等，适合编程初学者
机器学习如何入门？AI/ML/DL概念与建模流程全景
2203_75871132的博客
08-16 409
前面几个阶段，我们把大模型应用开发的"上层建筑"搭得差不多了：本地部署过 Ollama、写过 Python 调用大模型 API、在 Coze 上编排过工作流、也完整拆解过一个 AI 面试助手项目。但有一个问题始终绕不开——大模型为什么能理解语言？微调到底在调什么？RAG 检索回来的内容凭什么能影响生成结果？这些问题的答案，全都埋在"大模型核心开发技术"这一层里：NLP 基础任务、机器学习、深度学习、Transformer、BERT、LangChain。从这篇开始，我们往下挖地基，第一站就是机器学习概述。
【03】机器学习和深度学习的区别
2501_92578370的博客
08-19 253
机器学习（ML）和深度学习（DL）是人工智能（AI）的两个核心分支，专注于使计算机能够从数据中学习。虽然两者都用于预测和自动决策，但它们在处理数据的方式和使用的模型的复杂性方面有所不同。了解它们之间的差异有助于我们为问题选择正确的方法，优化资源并在实际应用中取得更好的结果。
tree-1.8.0.tgz
tree-1.8.0.tgz
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值