Skip to content

Commit 3da662d

Browse files
committed
update plans
1 parent 84ac387 commit 3da662d

24 files changed

Lines changed: 1128 additions & 1182 deletions

File tree

Lines changed: 39 additions & 40 deletions
Original file line numberDiff line numberDiff line change
@@ -1,43 +1,42 @@
11
CometNativeColumnarToRow
22
+- CometHashAggregate
3-
+- CometColumnarExchange
4-
+- HashAggregate
5-
+- HashAggregate [COMET: Unsupported aggregation mode PartialMerge]
6-
+- CometNativeColumnarToRow
7-
+- CometHashAggregate
8-
+- CometProject
9-
+- CometBroadcastHashJoin
10-
:- CometProject
11-
: +- CometBroadcastHashJoin
12-
: :- CometProject
13-
: : +- CometBroadcastHashJoin
14-
: : :- CometSortMergeJoin
15-
: : : :- CometProject
16-
: : : : +- CometSortMergeJoin
17-
: : : : :- CometSort
18-
: : : : : +- CometExchange
19-
: : : : : +- CometProject
20-
: : : : : +- CometFilter
21-
: : : : : +- CometNativeScan parquet spark_catalog.default.catalog_sales
22-
: : : : +- CometSort
23-
: : : : +- CometExchange
24-
: : : : +- CometProject
25-
: : : : +- CometNativeScan parquet spark_catalog.default.catalog_sales
26-
: : : +- CometSort
27-
: : : +- CometExchange
28-
: : : +- CometProject
29-
: : : +- CometNativeScan parquet spark_catalog.default.catalog_returns
30-
: : +- CometBroadcastExchange
31-
: : +- CometProject
32-
: : +- CometFilter
33-
: : +- CometNativeScan parquet spark_catalog.default.date_dim
34-
: +- CometBroadcastExchange
35-
: +- CometProject
36-
: +- CometFilter
37-
: +- CometNativeScan parquet spark_catalog.default.customer_address
38-
+- CometBroadcastExchange
39-
+- CometProject
40-
+- CometFilter
41-
+- CometNativeScan parquet spark_catalog.default.call_center
3+
+- CometExchange
4+
+- CometHashAggregate
5+
+- CometHashAggregate
6+
+- CometHashAggregate
7+
+- CometProject
8+
+- CometBroadcastHashJoin
9+
:- CometProject
10+
: +- CometBroadcastHashJoin
11+
: :- CometProject
12+
: : +- CometBroadcastHashJoin
13+
: : :- CometSortMergeJoin
14+
: : : :- CometProject
15+
: : : : +- CometSortMergeJoin
16+
: : : : :- CometSort
17+
: : : : : +- CometExchange
18+
: : : : : +- CometProject
19+
: : : : : +- CometFilter
20+
: : : : : +- CometNativeScan parquet spark_catalog.default.catalog_sales
21+
: : : : +- CometSort
22+
: : : : +- CometExchange
23+
: : : : +- CometProject
24+
: : : : +- CometNativeScan parquet spark_catalog.default.catalog_sales
25+
: : : +- CometSort
26+
: : : +- CometExchange
27+
: : : +- CometProject
28+
: : : +- CometNativeScan parquet spark_catalog.default.catalog_returns
29+
: : +- CometBroadcastExchange
30+
: : +- CometProject
31+
: : +- CometFilter
32+
: : +- CometNativeScan parquet spark_catalog.default.date_dim
33+
: +- CometBroadcastExchange
34+
: +- CometProject
35+
: +- CometFilter
36+
: +- CometNativeScan parquet spark_catalog.default.customer_address
37+
+- CometBroadcastExchange
38+
+- CometProject
39+
+- CometFilter
40+
+- CometNativeScan parquet spark_catalog.default.call_center
4241

43-
Comet accelerated 37 out of 39 eligible operators (94%). Final plan contains 2 transitions between Spark and Comet.
42+
Comet accelerated 39 out of 39 eligible operators (100%). Final plan contains 1 transitions between Spark and Comet.
Lines changed: 39 additions & 40 deletions
Original file line numberDiff line numberDiff line change
@@ -1,43 +1,42 @@
11
CometNativeColumnarToRow
22
+- CometHashAggregate
3-
+- CometColumnarExchange
4-
+- HashAggregate
5-
+- HashAggregate [COMET: Unsupported aggregation mode PartialMerge]
6-
+- CometNativeColumnarToRow
7-
+- CometHashAggregate
8-
+- CometProject
9-
+- CometBroadcastHashJoin
10-
:- CometProject
11-
: +- CometBroadcastHashJoin
12-
: :- CometProject
13-
: : +- CometBroadcastHashJoin
14-
: : :- CometSortMergeJoin
15-
: : : :- CometProject
16-
: : : : +- CometSortMergeJoin
17-
: : : : :- CometSort
18-
: : : : : +- CometExchange
19-
: : : : : +- CometProject
20-
: : : : : +- CometFilter
21-
: : : : : +- CometScan [native_iceberg_compat] parquet spark_catalog.default.catalog_sales
22-
: : : : +- CometSort
23-
: : : : +- CometExchange
24-
: : : : +- CometProject
25-
: : : : +- CometScan [native_iceberg_compat] parquet spark_catalog.default.catalog_sales
26-
: : : +- CometSort
27-
: : : +- CometExchange
28-
: : : +- CometProject
29-
: : : +- CometScan [native_iceberg_compat] parquet spark_catalog.default.catalog_returns
30-
: : +- CometBroadcastExchange
31-
: : +- CometProject
32-
: : +- CometFilter
33-
: : +- CometScan [native_iceberg_compat] parquet spark_catalog.default.date_dim
34-
: +- CometBroadcastExchange
35-
: +- CometProject
36-
: +- CometFilter
37-
: +- CometScan [native_iceberg_compat] parquet spark_catalog.default.customer_address
38-
+- CometBroadcastExchange
39-
+- CometProject
40-
+- CometFilter
41-
+- CometScan [native_iceberg_compat] parquet spark_catalog.default.call_center
3+
+- CometExchange
4+
+- CometHashAggregate
5+
+- CometHashAggregate
6+
+- CometHashAggregate
7+
+- CometProject
8+
+- CometBroadcastHashJoin
9+
:- CometProject
10+
: +- CometBroadcastHashJoin
11+
: :- CometProject
12+
: : +- CometBroadcastHashJoin
13+
: : :- CometSortMergeJoin
14+
: : : :- CometProject
15+
: : : : +- CometSortMergeJoin
16+
: : : : :- CometSort
17+
: : : : : +- CometExchange
18+
: : : : : +- CometProject
19+
: : : : : +- CometFilter
20+
: : : : : +- CometScan [native_iceberg_compat] parquet spark_catalog.default.catalog_sales
21+
: : : : +- CometSort
22+
: : : : +- CometExchange
23+
: : : : +- CometProject
24+
: : : : +- CometScan [native_iceberg_compat] parquet spark_catalog.default.catalog_sales
25+
: : : +- CometSort
26+
: : : +- CometExchange
27+
: : : +- CometProject
28+
: : : +- CometScan [native_iceberg_compat] parquet spark_catalog.default.catalog_returns
29+
: : +- CometBroadcastExchange
30+
: : +- CometProject
31+
: : +- CometFilter
32+
: : +- CometScan [native_iceberg_compat] parquet spark_catalog.default.date_dim
33+
: +- CometBroadcastExchange
34+
: +- CometProject
35+
: +- CometFilter
36+
: +- CometScan [native_iceberg_compat] parquet spark_catalog.default.customer_address
37+
+- CometBroadcastExchange
38+
+- CometProject
39+
+- CometFilter
40+
+- CometScan [native_iceberg_compat] parquet spark_catalog.default.call_center
4241

43-
Comet accelerated 37 out of 39 eligible operators (94%). Final plan contains 2 transitions between Spark and Comet.
42+
Comet accelerated 39 out of 39 eligible operators (100%). Final plan contains 1 transitions between Spark and Comet.

spark/src/test/resources/tpcds-plan-stability/approved-plans-v1_4-spark3_5/q28.native_datafusion/extended.txt

Lines changed: 49 additions & 55 deletions
Original file line numberDiff line numberDiff line change
@@ -5,74 +5,68 @@ BroadcastNestedLoopJoin
55
: : : :- BroadcastNestedLoopJoin [COMET: BroadcastNestedLoopJoin is not supported]
66
: : : : :- CometNativeColumnarToRow
77
: : : : : +- CometHashAggregate
8-
: : : : : +- CometColumnarExchange
9-
: : : : : +- HashAggregate
10-
: : : : : +- HashAggregate [COMET: Unsupported aggregation mode PartialMerge]
11-
: : : : : +- CometNativeColumnarToRow
12-
: : : : : +- CometExchange
13-
: : : : : +- CometHashAggregate
14-
: : : : : +- CometProject
15-
: : : : : +- CometFilter
16-
: : : : : +- CometNativeScan parquet spark_catalog.default.store_sales
8+
: : : : : +- CometExchange
9+
: : : : : +- CometHashAggregate
10+
: : : : : +- CometHashAggregate
11+
: : : : : +- CometExchange
12+
: : : : : +- CometHashAggregate
13+
: : : : : +- CometProject
14+
: : : : : +- CometFilter
15+
: : : : : +- CometNativeScan parquet spark_catalog.default.store_sales
1716
: : : : +- BroadcastExchange
1817
: : : : +- CometNativeColumnarToRow
1918
: : : : +- CometHashAggregate
20-
: : : : +- CometColumnarExchange
21-
: : : : +- HashAggregate
22-
: : : : +- HashAggregate [COMET: Unsupported aggregation mode PartialMerge]
23-
: : : : +- CometNativeColumnarToRow
24-
: : : : +- CometExchange
25-
: : : : +- CometHashAggregate
26-
: : : : +- CometProject
27-
: : : : +- CometFilter
28-
: : : : +- CometNativeScan parquet spark_catalog.default.store_sales
19+
: : : : +- CometExchange
20+
: : : : +- CometHashAggregate
21+
: : : : +- CometHashAggregate
22+
: : : : +- CometExchange
23+
: : : : +- CometHashAggregate
24+
: : : : +- CometProject
25+
: : : : +- CometFilter
26+
: : : : +- CometNativeScan parquet spark_catalog.default.store_sales
2927
: : : +- BroadcastExchange
3028
: : : +- CometNativeColumnarToRow
3129
: : : +- CometHashAggregate
32-
: : : +- CometColumnarExchange
33-
: : : +- HashAggregate
34-
: : : +- HashAggregate [COMET: Unsupported aggregation mode PartialMerge]
35-
: : : +- CometNativeColumnarToRow
36-
: : : +- CometExchange
37-
: : : +- CometHashAggregate
38-
: : : +- CometProject
39-
: : : +- CometFilter
40-
: : : +- CometNativeScan parquet spark_catalog.default.store_sales
30+
: : : +- CometExchange
31+
: : : +- CometHashAggregate
32+
: : : +- CometHashAggregate
33+
: : : +- CometExchange
34+
: : : +- CometHashAggregate
35+
: : : +- CometProject
36+
: : : +- CometFilter
37+
: : : +- CometNativeScan parquet spark_catalog.default.store_sales
4138
: : +- BroadcastExchange
4239
: : +- CometNativeColumnarToRow
4340
: : +- CometHashAggregate
44-
: : +- CometColumnarExchange
45-
: : +- HashAggregate
46-
: : +- HashAggregate [COMET: Unsupported aggregation mode PartialMerge]
47-
: : +- CometNativeColumnarToRow
48-
: : +- CometExchange
49-
: : +- CometHashAggregate
50-
: : +- CometProject
51-
: : +- CometFilter
52-
: : +- CometNativeScan parquet spark_catalog.default.store_sales
41+
: : +- CometExchange
42+
: : +- CometHashAggregate
43+
: : +- CometHashAggregate
44+
: : +- CometExchange
45+
: : +- CometHashAggregate
46+
: : +- CometProject
47+
: : +- CometFilter
48+
: : +- CometNativeScan parquet spark_catalog.default.store_sales
5349
: +- BroadcastExchange
5450
: +- CometNativeColumnarToRow
5551
: +- CometHashAggregate
56-
: +- CometColumnarExchange
57-
: +- HashAggregate
58-
: +- HashAggregate [COMET: Unsupported aggregation mode PartialMerge]
59-
: +- CometNativeColumnarToRow
60-
: +- CometExchange
61-
: +- CometHashAggregate
62-
: +- CometProject
63-
: +- CometFilter
64-
: +- CometNativeScan parquet spark_catalog.default.store_sales
52+
: +- CometExchange
53+
: +- CometHashAggregate
54+
: +- CometHashAggregate
55+
: +- CometExchange
56+
: +- CometHashAggregate
57+
: +- CometProject
58+
: +- CometFilter
59+
: +- CometNativeScan parquet spark_catalog.default.store_sales
6560
+- BroadcastExchange
6661
+- CometNativeColumnarToRow
6762
+- CometHashAggregate
68-
+- CometColumnarExchange
69-
+- HashAggregate
70-
+- HashAggregate [COMET: Unsupported aggregation mode PartialMerge]
71-
+- CometNativeColumnarToRow
72-
+- CometExchange
73-
+- CometHashAggregate
74-
+- CometProject
75-
+- CometFilter
76-
+- CometNativeScan parquet spark_catalog.default.store_sales
63+
+- CometExchange
64+
+- CometHashAggregate
65+
+- CometHashAggregate
66+
+- CometExchange
67+
+- CometHashAggregate
68+
+- CometProject
69+
+- CometFilter
70+
+- CometNativeScan parquet spark_catalog.default.store_sales
7771

78-
Comet accelerated 42 out of 64 eligible operators (65%). Final plan contains 12 transitions between Spark and Comet.
72+
Comet accelerated 54 out of 64 eligible operators (84%). Final plan contains 6 transitions between Spark and Comet.

0 commit comments

Comments
 (0)