avatar

就是Van

学与不学反复横跳

  • 首页
  • 子域
  • 分类
  • 标签
  • 归档
  • 关于
首页 Hadoop框架
文章

Hadoop框架

发表于 2024/01/21 更新于 2024/01/25
作者 Gjq 1 分钟阅读

Hadoop

Hadoop常用端口号

hadoop3.x

  • HDFS NameNode 内部通信端口:8020/9000/9820 NameNode HTTP UI 9870 Yarn MapReduce查看执行任务端口 8088 历史服务器通信端口 19888

hadoop2.x

  • HDFS NameNode 内部通信端口:8020/9000 NameNode HTTP UI 50070 Yarn MapReduce查看执行任务端口 8088 历史服务器通信端口 19888

常用配置文件

hadoop3.x配置

  • core-site.xml
  • hdfs-site.xml
  • yarn-site.xml
  • mapred-site.xml
  • workers

hadoop2.x配置

  • core-site.xml
  • hdfs-site.xml
  • yarn-site.xml
  • mapred-site.xml
  • slaves

时间同步

如果服务器在公网环境(能连接外网),可以不采用集群时间同步,因为服务器会定期和公网时间进行校准; 如果服务器在内网环境,必须要配置集群时间同步,否则时间久了,会产生时间偏差,导致集群执行任务时间不同步。

一般情况下,可以连接外网,不需要进行集群同步

ntpd服务

不作详细介绍,网络时间协议

大数据, Hadoop
learn hadoop 大数据
本文由作者按照 CC BY 4.0 进行授权
分享

最近更新

  • Python中的对象
  • Go:函数
  • C语言:宏
  • DST MOD
  • Go Language With C
外部链接
  • 996.icu

文章内容

相关文章

2024/01/21

HDFS概述

HDFS 简介 产出背景 HDFS(Hadoop Distributed File System),它是一个文件系统,用于存储文件,通过目录树来定位文件;其次,它是分布式的,由很多服务器联合起来实现其功能,集群中的服务器有各自的角色。 HDFS 的使用场景:适合一次写入,多次读出的场景。一个文件经过创建、写入和关闭之后就不需要改变。 HDFS优点 高容错性 ...

2023/09/09

Go Language With C

来自你的消息: go语言可以在linux系统上调用dll库进行编译吗 来自ChatAI的消息: 不可以直接在Linux系统上调用Windows动态链接库(DLL)库进行编译,因为Windows DLL库使用的是不同的二进制格式(PE格式),而Linux使用的是ELF格式。这意味着Linux无法直接加载和执行Windows DLL库。 然而,你可以尝试使用一些跨平台的解决方案,如cgo。c...

2023/09/20

HTTP协议

http 关于http协议的学习 前言 近期在项目中处理前端数据,需要深度剖析http协议以及各种请求,方便后端针对性处理各种数据 协议简介

HTTP协议

HDFS概述

© 2024 Gjq. 保留部分权利。

本站采用 Jekyll 主题 Chirpy

热门标签

编程 learn go hadoop python 大数据 cgo c语言 dst echo

发现新版本的内容。