本文分类:news发布日期:2025/5/13 18:40:27
相关文章
【Python大数据笔记_day11_Hadoop进阶之MR和YARNZooKeeper】
MR
单词统计流程 已知文件内容: hadoop hive hadoop spark hive flink hive linux hive mysql
input结果: k1(行偏移量) v1(每行文本内容)0 hadoop hive hadoop spark hive 30 flink hive linux hive mysql
map结果:k2(split切割后的单词) v2(拼接…
建站知识
2025/5/13 16:49:11
Sentinel 分布式系统
Sentinel 是一种分布式系统的流量防卫兵和熔断器,由阿里巴巴开发并开源。它的主要目标是保护分布式系统中的稳定性和可用性,防止因高并发或异常流量而导致的系统崩溃。下面是 Sentinel 的原理和使用教程的概要:
Sentinel 的原理:…
建站知识
2025/5/2 23:17:52
代码规范之-理解ESLint、Prettier、EditorConfig
前言 团队多人协同开发项目,困扰团队管理的一个很大的问题就是:无可避免地会出现每个开发者编码习惯不同、代码风格迥异,为了代码高可用、可维护性,需要从项目管理上尽量统一和规范代码。理想的方式需要在项目工程化方面ÿ…
建站知识
2025/4/27 21:21:45
单一职责原则 (Single Responsibility Principle)
定义:
单一职责原则指一个类应该仅有一个引起它变化的原因。这个原则强调一个类应该只负责一个功能领域中的相应职责,或者可以理解为一个类应该只有一个改变的原因。
解决的问题:
降低类的复杂度,一个类只负责一项任务会更加清…
建站知识
2025/5/12 17:58:15
PyTorch多GPU训练时同步梯度是mean还是sum?
PyTorch 通过两种方式可以进行多GPU训练: DataParallel, DistributedDataParallel. 当使用DataParallel的时候, 梯度的计算结果和在单卡上跑是一样的, 对每个数据计算出来的梯度进行累加. 当使用DistributedDataParallel的时候, 每个卡单独计算梯度, 然后多卡的梯度再进行平均.…
建站知识
2025/4/23 23:34:54