진지한 개발자

ec2에 spark 설치하기 본문

IT/spark

ec2에 spark 설치하기

제이_엔 2023. 2. 7. 16:04
728x90

기본세팅

  • spark 와 java 호환 버전 확인
    The Scala 3.x series supports JDK 8, as well as 11 and beyond.
    https://docs.scala-lang.org/overviews/jdk-compatibility/overview.html
  • Java(17) 설치
    • Correto 17 설치
    • sudo yum install java-17-amazon-corretto
    • Java 환경변수 설정 (~/.bashrc 에 작성후 source ~/.bashrc 적용
    • # Java set export JAVA_HOME=/usr/lib/jvm/java-17-amazon-corretto export PATH=$JAVA_HOME/bin:$PATH export CLASS_PATH=$JAVA_HOME/lib:$CLASS_PATH # Java version check java -version
  • Scala 설치
    • sdkman 시작
        curl -s "https://get.sdkman.io" | bash
    • scala 설치
        sdk install spark
728x90

'IT > spark' 카테고리의 다른 글

PySpark의 UDF 예제  (0) 2023.07.31
PySpark 특징 및 장점  (0) 2023.07.31
Pyspark 예제 실행  (0) 2023.04.19
Apache Spark 설치  (0) 2023.04.19
window 에 scala 설치  (0) 2023.02.08