Notice
Recent Posts
Recent Comments
Link
250x250
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
31 |
Tags
- 농지연금
- OpenSearch
- 산지연금
- pod
- 외국납부세액공제
- Resolver
- Kubernetes
- 신탁공매
- 양도소득세
- 정책자금
- 공매
- python
- 매입불공제
- kubectl
- AWS
- 인덱싱
- S3
- boto3
- 임업후계자
- command
- 경매
- 리소스
- 성능개선
- Filter
- lambda
- serverless
- node
- route53
- 세금계산서
- 금융소득
Archives
- Today
- Total
진지한 개발자
PySpark json flatten case 본문
728x90
data1 = spark.read.parquet(path)
json_schema = spark.read.json(data1.rdd.map(lambda row: row.json_col)).schema
data2 = data1.withColumn("data", from_json("json_col", json_schema))
col1 = datat2.columns
col1.remove("data")
col2 = data2.select("data.*").columns
append_str = "data."
col3 = [append_str + val for val in col2]
col_list = col1 + col3
data3 = data2.select(*col_list).drop("json_col")
728x90
'IT > spark' 카테고리의 다른 글
Pyspark 사용예 (HDFS) (0) | 2025.02.18 |
---|---|
PySpark Preprocessing (0) | 2023.08.25 |
PySpark의 UDF 예제 (0) | 2023.07.31 |
PySpark 특징 및 장점 (0) | 2023.07.31 |
Pyspark 예제 실행 (0) | 2023.04.19 |