快捷導(dǎo)航

使用 Docker 部署 Apache Spark 集群的過程

更新時間：2025年02月19日 09:13:32 作者：努力的小T

本文介紹了如何使用Docker和DockerCompose快速部署一個包含一個Master節(jié)點和兩個Worker節(jié)點的Spark集群,通過創(chuàng)建docker-compose.yml文件并執(zhí)行相關(guān)命令,可以實現(xiàn)集群的構(gòu)建和啟動,感興趣的朋友一起看看吧

簡介

Apache Spark 是一個強大的統(tǒng)一分析引擎，用于大規(guī)模數(shù)據(jù)處理。本文將詳細介紹如何使用 Docker 和 Docker Compose 快速部署一個包含一個 Master 節(jié)點和兩個 Worker 節(jié)點的 Spark 集群。這種方法不僅簡化了集群的搭建過程，還提供了資源隔離、易于擴展等優(yōu)勢。

前置條件

在開始之前，請確保你的環(huán)境中已經(jīng)準備好了以下組件：

安裝并運行 Docker Engine。
安裝 Docker Compose，用于定義和運行多容器應(yīng)用。
主機能夠連接到 Docker Hub 以下載所需的鏡像。

Docker Compose 文件配置

創(chuàng)建 docker-compose.yml

首先，創(chuàng)建一個名為 docker-compose.yml 的文件，并添加如下內(nèi)容：

version: '3'
services:
  master:
    image: bitnami/spark:3.5.4
    container_name: master
    user: root
    environment:
      - SPARK_MODE=master
      - SPARK_MASTER_WEBUI_PORT=8080
      - SPARK_MASTER_PORT=7077
    ports:
      - '8080:8080'
      - '7077:7077'
    volumes:
      - ./python:/python
  worker1:
    image: bitnami/spark:3.5.4
    container_name: worker1
    user: root
    environment:
      - SPARK_MODE=worker
      - SPARK_MASTER_URL=spark://master:7077
      - SPARK_WORKER_MEMORY=1G
      - SPARK_WORKER_CORES=1
    depends_on:
      - master
  worker2:
    image: bitnami/spark:3.5.4
    container_name: worker2
    user: root
    environment:
      - SPARK_MODE=worker
      - SPARK_MASTER_URL=spark://master:7077
      - SPARK_WORKER_MEMORY=1G
      - SPARK_WORKER_CORES=1
    depends_on:
      - master
networks:
  default:
    driver: bridge

啟動 Spark 集群

進入保存 docker-compose.yml 文件的目錄，執(zhí)行以下命令啟動集群：

docker compose up -d

這將構(gòu)建并以后臺模式啟動所有容器。

驗證集群狀態(tài)

成功啟動后，您可以通過瀏覽器訪問 {您的虛擬機IP}:8080 查看 Spark Master 的 Web UI，確認 worker1 和 worker2 是否已成功連接。

運行 Spark 作業(yè)

為了測試集群功能，可以提交一個簡單的 Python 腳本 pi.py 計算圓周率 Pi 的近似值。腳本內(nèi)容如下：

from pyspark.sql import SparkSession
if __name__ == "__main__":
    spark = SparkSession.builder.appName("Pi Calculator").getOrCreate()
    numSamples = 100000000
    count = spark.sparkContext.parallelize(range(1, numSamples)).count()
    print(f"Pi is roughly {4.0 * count / numSamples}")
    spark.stop()

將此腳本放置于 ./python 目錄下，并通過以下命令提交作業(yè)：

docker-compose exec master /opt/bitnami/spark/bin/spark-submit --master spark://master:7077 /python/pi.py

結(jié)束語

通過上述步驟，您已經(jīng)成功地使用 Docker 部署了一個包含一個 Master 節(jié)點和兩個 Worker 節(jié)點的 Spark 集群。這種部署方式不僅快速便捷，而且便于根據(jù)需求調(diào)整配置（如增加 Worker 節(jié)點數(shù)量或調(diào)整資源配置）。希望這篇教程能幫助您快速上手 Spark 集群的 Docker 部署！

到此這篇關(guān)于使用 Docker 部署 Apache Spark 集群教程的文章就介紹到這了,更多相關(guān)Docker 部署 Apache Spark 集群內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

您可能感興趣的文章: