1; RUN: llc %s -o - -mtriple=armv8 -mattr=+crypto,+fuse-aes -enable-misched -disable-post-ra | FileCheck %s
2
3declare <16 x i8> @llvm.arm.neon.aese(<16 x i8> %d, <16 x i8> %k)
4declare <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %d)
5declare <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %d, <16 x i8> %k)
6declare <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %d)
7
8define void @aesea(<16 x i8>* %a0, <16 x i8>* %b0, <16 x i8>* %c0, <16 x i8> %d, <16 x i8> %e) {
9  %d0 = load <16 x i8>, <16 x i8>* %a0
10  %a1 = getelementptr inbounds <16 x i8>, <16 x i8>* %a0, i64 1
11  %d1 = load <16 x i8>, <16 x i8>* %a1
12  %a2 = getelementptr inbounds <16 x i8>, <16 x i8>* %a0, i64 2
13  %d2 = load <16 x i8>, <16 x i8>* %a2
14  %a3 = getelementptr inbounds <16 x i8>, <16 x i8>* %a0, i64 3
15  %d3 = load <16 x i8>, <16 x i8>* %a3
16  %k0 = load <16 x i8>, <16 x i8>* %b0
17  %e00 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %d0, <16 x i8> %k0)
18  %f00 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e00)
19  %e01 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %d1, <16 x i8> %k0)
20  %f01 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e01)
21  %e02 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %d2, <16 x i8> %k0)
22  %f02 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e02)
23  %e03 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %d3, <16 x i8> %k0)
24  %f03 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e03)
25  %b1 = getelementptr inbounds <16 x i8>, <16 x i8>* %b0, i64 1
26  %k1 = load <16 x i8>, <16 x i8>* %b1
27  %e10 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f00, <16 x i8> %k1)
28  %f10 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e00)
29  %e11 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f01, <16 x i8> %k1)
30  %f11 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e01)
31  %e12 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f02, <16 x i8> %k1)
32  %f12 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e02)
33  %e13 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f03, <16 x i8> %k1)
34  %f13 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e03)
35  %b2 = getelementptr inbounds <16 x i8>, <16 x i8>* %b0, i64 2
36  %k2 = load <16 x i8>, <16 x i8>* %b2
37  %e20 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f10, <16 x i8> %k2)
38  %f20 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e10)
39  %e21 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f11, <16 x i8> %k2)
40  %f21 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e11)
41  %e22 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f12, <16 x i8> %k2)
42  %f22 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e12)
43  %e23 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f13, <16 x i8> %k2)
44  %f23 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e13)
45  %b3 = getelementptr inbounds <16 x i8>, <16 x i8>* %b0, i64 3
46  %k3 = load <16 x i8>, <16 x i8>* %b3
47  %e30 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f20, <16 x i8> %k3)
48  %f30 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e20)
49  %e31 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f21, <16 x i8> %k3)
50  %f31 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e21)
51  %e32 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f22, <16 x i8> %k3)
52  %f32 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e22)
53  %e33 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f23, <16 x i8> %k3)
54  %f33 = call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %e23)
55  %g0 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f30, <16 x i8> %d)
56  %h0 = xor <16 x i8> %g0, %e
57  %g1 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f31, <16 x i8> %d)
58  %h1 = xor <16 x i8> %g1, %e
59  %g2 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f32, <16 x i8> %d)
60  %h2 = xor <16 x i8> %g2, %e
61  %g3 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %f33, <16 x i8> %d)
62  %h3 = xor <16 x i8> %g3, %e
63  store <16 x i8> %h0, <16 x i8>* %c0
64  %c1 = getelementptr inbounds <16 x i8>, <16 x i8>* %c0, i64 1
65  store <16 x i8> %h1, <16 x i8>* %c1
66  %c2 = getelementptr inbounds <16 x i8>, <16 x i8>* %c0, i64 2
67  store <16 x i8> %h2, <16 x i8>* %c2
68  %c3 = getelementptr inbounds <16 x i8>, <16 x i8>* %c0, i64 3
69  store <16 x i8> %h3, <16 x i8>* %c3
70  ret void
71
72; CHECK-LABEL: aesea:
73; CHECK: aese.8 [[QA:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
74; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QA]]
75; CHECK: aese.8 [[QB:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
76; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QB]]
77; CHECK: aese.8 {{q[0-9][0-9]?}}, {{q[0-9][0-9]?}}
78; CHECK: aese.8 [[QC:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
79; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QC]]
80; CHECK: aese.8 [[QD:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
81; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QD]]
82; CHECK: aese.8 [[QE:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
83; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QE]]
84; CHECK: aese.8 {{q[0-9][0-9]?}}, {{q[0-9][0-9]?}}
85; CHECK: aese.8 [[QF:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
86; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QF]]
87; CHECK: aese.8 [[QG:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
88; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QG]]
89; CHECK: aese.8 {{q[0-9][0-9]?}}, {{q[0-9][0-9]?}}
90; CHECK: aese.8 [[QH:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
91; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QH]]
92}
93
94define void @aesda(<16 x i8>* %a0, <16 x i8>* %b0, <16 x i8>* %c0, <16 x i8> %d, <16 x i8> %e) {
95  %d0 = load <16 x i8>, <16 x i8>* %a0
96  %a1 = getelementptr inbounds <16 x i8>, <16 x i8>* %a0, i64 1
97  %d1 = load <16 x i8>, <16 x i8>* %a1
98  %a2 = getelementptr inbounds <16 x i8>, <16 x i8>* %a0, i64 2
99  %d2 = load <16 x i8>, <16 x i8>* %a2
100  %a3 = getelementptr inbounds <16 x i8>, <16 x i8>* %a0, i64 3
101  %d3 = load <16 x i8>, <16 x i8>* %a3
102  %k0 = load <16 x i8>, <16 x i8>* %b0
103  %e00 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %d0, <16 x i8> %k0)
104  %f00 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e00)
105  %e01 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %d1, <16 x i8> %k0)
106  %f01 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e01)
107  %e02 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %d2, <16 x i8> %k0)
108  %f02 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e02)
109  %e03 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %d3, <16 x i8> %k0)
110  %f03 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e03)
111  %b1 = getelementptr inbounds <16 x i8>, <16 x i8>* %b0, i64 1
112  %k1 = load <16 x i8>, <16 x i8>* %b1
113  %e10 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f00, <16 x i8> %k1)
114  %f10 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e00)
115  %e11 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f01, <16 x i8> %k1)
116  %f11 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e01)
117  %e12 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f02, <16 x i8> %k1)
118  %f12 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e02)
119  %e13 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f03, <16 x i8> %k1)
120  %f13 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e03)
121  %b2 = getelementptr inbounds <16 x i8>, <16 x i8>* %b0, i64 2
122  %k2 = load <16 x i8>, <16 x i8>* %b2
123  %e20 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f10, <16 x i8> %k2)
124  %f20 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e10)
125  %e21 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f11, <16 x i8> %k2)
126  %f21 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e11)
127  %e22 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f12, <16 x i8> %k2)
128  %f22 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e12)
129  %e23 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f13, <16 x i8> %k2)
130  %f23 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e13)
131  %b3 = getelementptr inbounds <16 x i8>, <16 x i8>* %b0, i64 3
132  %k3 = load <16 x i8>, <16 x i8>* %b3
133  %e30 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f20, <16 x i8> %k3)
134  %f30 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e20)
135  %e31 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f21, <16 x i8> %k3)
136  %f31 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e21)
137  %e32 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f22, <16 x i8> %k3)
138  %f32 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e22)
139  %e33 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f23, <16 x i8> %k3)
140  %f33 = call <16 x i8> @llvm.arm.neon.aesimc(<16 x i8> %e23)
141  %g0 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f30, <16 x i8> %d)
142  %h0 = xor <16 x i8> %g0, %e
143  %g1 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f31, <16 x i8> %d)
144  %h1 = xor <16 x i8> %g1, %e
145  %g2 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f32, <16 x i8> %d)
146  %h2 = xor <16 x i8> %g2, %e
147  %g3 = call <16 x i8> @llvm.arm.neon.aesd(<16 x i8> %f33, <16 x i8> %d)
148  %h3 = xor <16 x i8> %g3, %e
149  store <16 x i8> %h0, <16 x i8>* %c0
150  %c1 = getelementptr inbounds <16 x i8>, <16 x i8>* %c0, i64 1
151  store <16 x i8> %h1, <16 x i8>* %c1
152  %c2 = getelementptr inbounds <16 x i8>, <16 x i8>* %c0, i64 2
153  store <16 x i8> %h2, <16 x i8>* %c2
154  %c3 = getelementptr inbounds <16 x i8>, <16 x i8>* %c0, i64 3
155  store <16 x i8> %h3, <16 x i8>* %c3
156  ret void
157
158; CHECK-LABEL: aesda:
159; CHECK: aesd.8 [[QA:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
160; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QA]]
161; CHECK: aesd.8 [[QB:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
162; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QB]]
163; CHECK: aesd.8 {{q[0-9][0-9]?}}, {{q[0-9][0-9]?}}
164; CHECK: aesd.8 [[QC:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
165; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QC]]
166; CHECK: aesd.8 [[QD:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
167; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QD]]
168; CHECK: aesd.8 [[QE:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
169; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QE]]
170; CHECK: aesd.8 {{q[0-9][0-9]?}}, {{q[0-9][0-9]?}}
171; CHECK: aesd.8 [[QF:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
172; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QF]]
173; CHECK: aesd.8 [[QG:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
174; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QG]]
175; CHECK: aesd.8 {{q[0-9][0-9]?}}, {{q[0-9][0-9]?}}
176; CHECK: aesd.8 [[QH:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
177; CHECK-NEXT: aesimc.8 {{q[0-9][0-9]?}}, [[QH]]
178}
179
180define void @aes_load_store(<16 x i8> *%p1, <16 x i8> *%p2 , <16 x i8> *%p3) {
181entry:
182  %x1 = alloca <16 x i8>, align 16
183  %x2 = alloca <16 x i8>, align 16
184  %x3 = alloca <16 x i8>, align 16
185  %x4 = alloca <16 x i8>, align 16
186  %x5 = alloca <16 x i8>, align 16
187  %in1 = load <16 x i8>, <16 x i8>* %p1, align 16
188  store <16 x i8> %in1, <16 x i8>* %x1, align 16
189  %aese1 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %in1, <16 x i8> %in1) #2
190  store <16 x i8> %aese1, <16 x i8>* %x2, align 16
191  %in2 = load <16 x i8>, <16 x i8>* %p2, align 16
192  %aesmc1= call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %aese1) #2
193  store <16 x i8> %aesmc1, <16 x i8>* %x3, align 16
194  %aese2 = call <16 x i8> @llvm.arm.neon.aese(<16 x i8> %in1, <16 x i8> %in2) #2
195  store <16 x i8> %aese2, <16 x i8>* %x4, align 16
196  %aesmc2= call <16 x i8> @llvm.arm.neon.aesmc(<16 x i8> %aese2) #2
197  store <16 x i8> %aesmc2, <16 x i8>* %x5, align 16
198  ret void
199
200; CHECK-LABEL: aes_load_store:
201; CHECK: aese.8 [[QA:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
202; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QA]]
203; CHECK: aese.8 [[QB:q[0-9][0-9]?]], {{q[0-9][0-9]?}}
204; CHECK-NEXT: aesmc.8 {{q[0-9][0-9]?}}, [[QB]]
205}
206