SparkEnv

1.简介:保存正在运行的Spark实例(主服务器或工作服务器)的所有运行时环境对象,包括序列化程序,RpcEnv,块管理器,映射输出跟踪器等。目前Spark代码通过全局变量查找SparkEnv,因此所有线程都可以 访问相同的SparkEnv。 它可以通过SparkEnv.get访问(例如在创建SparkContext之后)。

2.构造方法

class SparkEnv (
    val executorId: String,   //证书,判断是驱动器环境还是执行器环境
    private[spark] val rpcEnv: RpcEnv,   //远程通信环境
    val serializer: Serializer,   //序列化器
    val closureSerializer: Serializer,   //关闭序列化器
    val serializerManager: SerializerManager,   //序列化管理器
    val mapOutputTracker: MapOutputTracker,   //map输出跟踪器
    val shuffleManager: ShuffleManager,   //拖拽管理器
    val broadcastManager: BroadcastManager,   //广播管理器
    val blockManager: BlockManager,   //块管理器
    val securityManager: SecurityManager,   //安全管理器
    val metricsSystem: MetricsSystem,   //测量系统
    val memoryManager: MemoryManager,   //内存管理器
    val outputCommitCoordinator: OutputCommitCoordinator,   //输出提交协调器
    val conf: SparkConf) extends Logging    

 

3.主要成员

private[spark] var isStopped = false
private val pythonWorkers = mutable.
                             HashMap[(String, Map[String,String]),PythonWorkerFactory]()

//HadoopRDD拆分计算期间所需元数据的通用软参考映射
//(例如,HadoopFileRDD使用它来缓存JobConfs和InputFormats)。
private[spark] val hadoopJobMetadata = new MapMaker().softValues().makeMap[String, Any]()

private[spark] var driverTmpDir: Option[String] = None

 

4.初始化:SparkEnv.scala无初始化代码

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值