1target datalayout = "e-p:64:64:64-i1:8:8-i8:8:8-i16:16:16-i32:32:32-i64:64:64-f32:32:32-f64:64:64-v64:64:64-v128:128:128-a0:0:64-s0:64:64-f80:128:128"
2; RUN: opt < %s -bb-vectorize -bb-vectorize-req-chain-depth=3 -bb-vectorize-ignore-target-info -instcombine -gvn -S | FileCheck %s
3
4; Basic depth-3 chain
5define double @test1(double %A1, double %A2, double %B1, double %B2) {
6; CHECK-LABEL: @test1(
7; CHECK: %X1.v.i1.1 = insertelement <2 x double> undef, double %B1, i32 0
8; CHECK: %X1.v.i1.2 = insertelement <2 x double> %X1.v.i1.1, double %B2, i32 1
9; CHECK: %X1.v.i0.1 = insertelement <2 x double> undef, double %A1, i32 0
10; CHECK: %X1.v.i0.2 = insertelement <2 x double> %X1.v.i0.1, double %A2, i32 1
11	%X1 = fsub double %A1, %B1
12	%X2 = fsub double %A2, %B2
13; CHECK: %X1 = fsub <2 x double> %X1.v.i0.2, %X1.v.i1.2
14	%Y1 = fmul double %X1, %A1
15	%Y2 = fmul double %X2, %A2
16; CHECK: %Y1 = fmul <2 x double> %X1, %X1.v.i0.2
17	%Z1 = fadd double %Y1, %B1
18	%Z2 = fadd double %Y2, %B2
19; CHECK: %Z1 = fadd <2 x double> %Y1, %X1.v.i1.2
20	%R  = fmul double %Z1, %Z2
21; CHECK: %Z1.v.r1 = extractelement <2 x double> %Z1, i32 0
22; CHECK: %Z1.v.r2 = extractelement <2 x double> %Z1, i32 1
23; CHECK: %R = fmul double %Z1.v.r1, %Z1.v.r2
24	ret double %R
25; CHECK: ret double %R
26}
27
28; Basic depth-3 chain (last pair permuted)
29define double @test2(double %A1, double %A2, double %B1, double %B2) {
30; CHECK-LABEL: @test2(
31; CHECK: %X1.v.i1.1 = insertelement <2 x double> undef, double %B1, i32 0
32; CHECK: %X1.v.i1.2 = insertelement <2 x double> %X1.v.i1.1, double %B2, i32 1
33; CHECK: %X1.v.i0.1 = insertelement <2 x double> undef, double %A1, i32 0
34; CHECK: %X1.v.i0.2 = insertelement <2 x double> %X1.v.i0.1, double %A2, i32 1
35	%X1 = fsub double %A1, %B1
36	%X2 = fsub double %A2, %B2
37; CHECK: %X1 = fsub <2 x double> %X1.v.i0.2, %X1.v.i1.2
38	%Y1 = fmul double %X1, %A1
39	%Y2 = fmul double %X2, %A2
40; CHECK: %Y1 = fmul <2 x double> %X1, %X1.v.i0.2
41	%Z1 = fadd double %Y2, %B1
42	%Z2 = fadd double %Y1, %B2
43; CHECK: %Z1.v.i1.1 = insertelement <2 x double> undef, double %B2, i32 0
44; CHECK: %Z1.v.i1.2 = insertelement <2 x double> %Z1.v.i1.1, double %B1, i32 1
45; CHECK: %Z2 = fadd <2 x double> %Y1, %Z1.v.i1.2
46	%R  = fmul double %Z1, %Z2
47; CHECK: %Z2.v.r1 = extractelement <2 x double> %Z2, i32 0
48; CHECK: %Z2.v.r2 = extractelement <2 x double> %Z2, i32 1
49; CHECK: %R = fmul double %Z2.v.r2, %Z2.v.r1
50	ret double %R
51; CHECK: ret double %R
52}
53
54; Basic depth-3 chain (last pair first splat)
55define double @test3(double %A1, double %A2, double %B1, double %B2) {
56; CHECK-LABEL: @test3(
57; CHECK: %X1.v.i1.1 = insertelement <2 x double> undef, double %B1, i32 0
58; CHECK: %X1.v.i1.2 = insertelement <2 x double> %X1.v.i1.1, double %B2, i32 1
59; CHECK: %X1.v.i0.1 = insertelement <2 x double> undef, double %A1, i32 0
60; CHECK: %X1.v.i0.2 = insertelement <2 x double> %X1.v.i0.1, double %A2, i32 1
61	%X1 = fsub double %A1, %B1
62	%X2 = fsub double %A2, %B2
63; CHECK: %X1 = fsub <2 x double> %X1.v.i0.2, %X1.v.i1.2
64	%Y1 = fmul double %X1, %A1
65	%Y2 = fmul double %X2, %A2
66; CHECK: %Y1 = fmul <2 x double> %X1, %X1.v.i0.2
67	%Z1 = fadd double %Y2, %B1
68	%Z2 = fadd double %Y2, %B2
69; CHECK: %Z1.v.i0 = shufflevector <2 x double> %Y1, <2 x double> undef, <2 x i32> <i32 1, i32 1>
70; CHECK: %Z1 = fadd <2 x double> %Z1.v.i0, %X1.v.i1.2
71	%R  = fmul double %Z1, %Z2
72; CHECK: %Z1.v.r1 = extractelement <2 x double> %Z1, i32 0
73; CHECK: %Z1.v.r2 = extractelement <2 x double> %Z1, i32 1
74; CHECK: %R = fmul double %Z1.v.r1, %Z1.v.r2
75	ret double %R
76; CHECK: ret double %R
77}
78
79; Basic depth-3 chain (last pair second splat)
80define double @test4(double %A1, double %A2, double %B1, double %B2) {
81; CHECK-LABEL: @test4(
82; CHECK: %X1.v.i1.1 = insertelement <2 x double> undef, double %B1, i32 0
83; CHECK: %X1.v.i1.2 = insertelement <2 x double> %X1.v.i1.1, double %B2, i32 1
84; CHECK: %X1.v.i0.1 = insertelement <2 x double> undef, double %A1, i32 0
85; CHECK: %X1.v.i0.2 = insertelement <2 x double> %X1.v.i0.1, double %A2, i32 1
86	%X1 = fsub double %A1, %B1
87	%X2 = fsub double %A2, %B2
88; CHECK: %X1 = fsub <2 x double> %X1.v.i0.2, %X1.v.i1.2
89	%Y1 = fmul double %X1, %A1
90	%Y2 = fmul double %X2, %A2
91; CHECK: %Y1 = fmul <2 x double> %X1, %X1.v.i0.2
92	%Z1 = fadd double %Y1, %B1
93	%Z2 = fadd double %Y1, %B2
94; CHECK: %Z1.v.i0 = shufflevector <2 x double> %Y1, <2 x double> undef, <2 x i32> zeroinitializer
95; CHECK: %Z1 = fadd <2 x double> %Z1.v.i0, %X1.v.i1.2
96	%R  = fmul double %Z1, %Z2
97; CHECK: %Z1.v.r1 = extractelement <2 x double> %Z1, i32 0
98; CHECK: %Z1.v.r2 = extractelement <2 x double> %Z1, i32 1
99; CHECK: %R = fmul double %Z1.v.r1, %Z1.v.r2
100	ret double %R
101; CHECK: ret double %R
102}
103
104; Basic depth-3 chain
105define <2 x float> @test5(<2 x float> %A1, <2 x float> %A2, <2 x float> %B1, <2 x float> %B2) {
106; CHECK-LABEL: @test5(
107; CHECK: %X1.v.i1 = shufflevector <2 x float> %B1, <2 x float> %B2, <4 x i32> <i32 0, i32 1, i32 2, i32 3>
108; CHECK: %X1.v.i0 = shufflevector <2 x float> %A1, <2 x float> %A2, <4 x i32> <i32 0, i32 1, i32 2, i32 3>
109	%X1 = fsub <2 x float> %A1, %B1
110	%X2 = fsub <2 x float> %A2, %B2
111; CHECK: %X1 = fsub <4 x float> %X1.v.i0, %X1.v.i1
112	%Y1 = fmul <2 x float> %X1, %A1
113	%Y2 = fmul <2 x float> %X2, %A2
114; CHECK: %Y1 = fmul <4 x float> %X1, %X1.v.i0
115	%Z1 = fadd <2 x float> %Y1, %B1
116	%Z2 = fadd <2 x float> %Y2, %B2
117; CHECK: %Z1 = fadd <4 x float> %Y1, %X1.v.i1
118	%R  = fmul <2 x float> %Z1, %Z2
119; CHECK: %Z1.v.r1 = shufflevector <4 x float> %Z1, <4 x float> undef, <2 x i32> <i32 0, i32 1>
120; CHECK: %Z1.v.r2 = shufflevector <4 x float> %Z1, <4 x float> undef, <2 x i32> <i32 2, i32 3>
121; CHECK: %R = fmul <2 x float> %Z1.v.r1, %Z1.v.r2
122	ret <2 x float> %R
123; CHECK: ret <2 x float> %R
124}
125
126; Basic chain with shuffles
127define <8 x i8> @test6(<8 x i8> %A1, <8 x i8> %A2, <8 x i8> %B1, <8 x i8> %B2) {
128; CHECK-LABEL: @test6(
129; CHECK: %X1.v.i1 = shufflevector <8 x i8> %B1, <8 x i8> %B2, <16 x i32> <i32 0, i32 1, i32 2, i32 3, i32 4, i32 5, i32 6, i32 7, i32 8, i32 9, i32 10, i32 11, i32 12, i32 13, i32 14, i32 15>
130; CHECK: %X1.v.i0 = shufflevector <8 x i8> %A1, <8 x i8> %A2, <16 x i32> <i32 0, i32 1, i32 2, i32 3, i32 4, i32 5, i32 6, i32 7, i32 8, i32 9, i32 10, i32 11, i32 12, i32 13, i32 14, i32 15>
131	%X1 = sub <8 x i8> %A1, %B1
132	%X2 = sub <8 x i8> %A2, %B2
133; CHECK: %X1 = sub <16 x i8> %X1.v.i0, %X1.v.i1
134	%Y1 = mul <8 x i8> %X1, %A1
135	%Y2 = mul <8 x i8> %X2, %A2
136; CHECK: %Y1 = mul <16 x i8> %X1, %X1.v.i0
137	%Z1 = add <8 x i8> %Y1, %B1
138	%Z2 = add <8 x i8> %Y2, %B2
139; CHECK: %Z1 = add <16 x i8> %Y1, %X1.v.i1
140        %Q1 = shufflevector <8 x i8> %Z1, <8 x i8> %Z2, <8 x i32> <i32 15, i32 8, i32 6, i32 1, i32 13, i32 10, i32 4, i32 3>
141        %Q2 = shufflevector <8 x i8> %Z2, <8 x i8> %Z2, <8 x i32> <i32 6, i32 7, i32 0, i32 1, i32 2, i32 4, i32 4, i32 1>
142; CHECK: %Q1.v.i1 = shufflevector <16 x i8> %Z1, <16 x i8> undef, <16 x i32> <i32 8, i32 undef, i32 10, i32 undef, i32 undef, i32 13, i32 undef, i32 15, i32 undef, i32 undef, i32 undef, i32 undef, i32 undef, i32 undef, i32 undef, i32 undef>
143; CHECK: %Q1 = shufflevector <16 x i8> %Z1, <16 x i8> %Q1.v.i1, <16 x i32> <i32 23, i32 16, i32 6, i32 1, i32 21, i32 18, i32 4, i32 3, i32 14, i32 15, i32 8, i32 9, i32 10, i32 12, i32 12, i32 9>
144	%R  = mul <8 x i8> %Q1, %Q2
145; CHECK: %Q1.v.r1 = shufflevector <16 x i8> %Q1, <16 x i8> undef, <8 x i32> <i32 0, i32 1, i32 2, i32 3, i32 4, i32 5, i32 6, i32 7>
146; CHECK: %Q1.v.r2 = shufflevector <16 x i8> %Q1, <16 x i8> undef, <8 x i32> <i32 8, i32 9, i32 10, i32 11, i32 12, i32 13, i32 14, i32 15>
147; CHECK: %R = mul <8 x i8> %Q1.v.r1, %Q1.v.r2
148	ret <8 x i8> %R
149; CHECK: ret <8 x i8> %R
150}
151
152; Basic depth-3 chain (flipped order)
153define double @test7(double %A1, double %A2, double %B1, double %B2) {
154; CHECK-LABEL: @test7(
155; CHECK: %X1.v.i1.1 = insertelement <2 x double> undef, double %B1, i32 0
156; CHECK: %X1.v.i1.2 = insertelement <2 x double> %X1.v.i1.1, double %B2, i32 1
157; CHECK: %X1.v.i0.1 = insertelement <2 x double> undef, double %A1, i32 0
158; CHECK: %X1.v.i0.2 = insertelement <2 x double> %X1.v.i0.1, double %A2, i32 1
159	%X1 = fsub double %A1, %B1
160	%X2 = fsub double %A2, %B2
161; CHECK: %X1 = fsub <2 x double> %X1.v.i0.2, %X1.v.i1.2
162	%Y1 = fmul double %X1, %A1
163	%Y2 = fmul double %X2, %A2
164; CHECK: %Y1 = fmul <2 x double> %X1, %X1.v.i0.2
165	%Z2 = fadd double %Y2, %B2
166	%Z1 = fadd double %Y1, %B1
167; CHECK: %Z1 = fadd <2 x double> %Y1, %X1.v.i1.2
168	%R  = fmul double %Z1, %Z2
169; CHECK: %Z1.v.r1 = extractelement <2 x double> %Z1, i32 0
170; CHECK: %Z1.v.r2 = extractelement <2 x double> %Z1, i32 1
171; CHECK: %R = fmul double %Z1.v.r1, %Z1.v.r2
172	ret double %R
173; CHECK: ret double %R
174}
175
176; Basic depth-3 chain (subclass data)
177define i64 @test8(i64 %A1, i64 %A2, i64 %B1, i64 %B2) {
178; CHECK-LABEL: @test8(
179; CHECK: %X1.v.i1.1 = insertelement <2 x i64> undef, i64 %B1, i32 0
180; CHECK: %X1.v.i1.2 = insertelement <2 x i64> %X1.v.i1.1, i64 %B2, i32 1
181; CHECK: %X1.v.i0.1 = insertelement <2 x i64> undef, i64 %A1, i32 0
182; CHECK: %X1.v.i0.2 = insertelement <2 x i64> %X1.v.i0.1, i64 %A2, i32 1
183	%X1 = sub nsw i64 %A1, %B1
184	%X2 = sub i64 %A2, %B2
185; CHECK: %X1 = sub <2 x i64> %X1.v.i0.2, %X1.v.i1.2
186	%Y1 = mul i64 %X1, %A1
187	%Y2 = mul i64 %X2, %A2
188; CHECK: %Y1 = mul <2 x i64> %X1, %X1.v.i0.2
189	%Z1 = add i64 %Y1, %B1
190	%Z2 = add i64 %Y2, %B2
191; CHECK: %Z1 = add <2 x i64> %Y1, %X1.v.i1.2
192	%R  = mul i64 %Z1, %Z2
193; CHECK: %Z1.v.r1 = extractelement <2 x i64> %Z1, i32 0
194; CHECK: %Z1.v.r2 = extractelement <2 x i64> %Z1, i32 1
195; CHECK: %R = mul i64 %Z1.v.r1, %Z1.v.r2
196	ret i64 %R
197; CHECK: ret i64 %R
198}
199
200