687 lines · plain
1; RUN: opt < %s -passes=loop-vectorize,dce,instcombine -force-vector-width=4 -force-vector-interleave=1 -S | FileCheck %s2; RUN: opt < %s -passes=loop-vectorize,dce,instcombine -force-vector-width=4 -force-vector-interleave=4 -S | FileCheck %s -check-prefix=UNROLL3 4target datalayout = "e-p:64:64:64-i1:8:8-i8:8:8-i16:16:16-i32:32:32-i64:64:64-f32:32:32-f64:64:64-v64:64:64-v128:128:128-a0:0:64-s0:64:64-f80:128:128-n8:16:32:64-S128"5 6@b = common global [2048 x i32] zeroinitializer, align 167@c = common global [2048 x i32] zeroinitializer, align 168@a = common global [2048 x i32] zeroinitializer, align 169@G = common global [32 x [1024 x i32]] zeroinitializer, align 1610@ub = common global [1024 x i32] zeroinitializer, align 1611@uc = common global [1024 x i32] zeroinitializer, align 1612@d = common global [2048 x i32] zeroinitializer, align 1613@fa = common global [1024 x float] zeroinitializer, align 1614@fb = common global [1024 x float] zeroinitializer, align 1615@ic = common global [1024 x i32] zeroinitializer, align 1616@da = common global [1024 x float] zeroinitializer, align 1617@db = common global [1024 x float] zeroinitializer, align 1618@dc = common global [1024 x float] zeroinitializer, align 1619@dd = common global [1024 x float] zeroinitializer, align 1620@dj = common global [1024 x i32] zeroinitializer, align 1621 22;CHECK-LABEL: @example1(23;CHECK: load <4 x i32>24;CHECK: add nsw <4 x i32>25;CHECK: store <4 x i32>26;CHECK: ret void27;UNROLL-LABEL: @example1(28;UNROLL: load <4 x i32>29;UNROLL: load <4 x i32>30;UNROLL: load <4 x i32>31;UNROLL: load <4 x i32>32;UNROLL: add nsw <4 x i32>33;UNROLL: add nsw <4 x i32>34;UNROLL: add nsw <4 x i32>35;UNROLL: add nsw <4 x i32>36;UNROLL: store <4 x i32>37;UNROLL: store <4 x i32>38;UNROLL: store <4 x i32>39;UNROLL: store <4 x i32>40;UNROLL: ret void41define void @example1() nounwind uwtable ssp {42 br label %143 44; <label>:1 ; preds = %1, %045 %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]46 %2 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %indvars.iv47 %3 = load i32, ptr %2, align 448 %4 = getelementptr inbounds [2048 x i32], ptr @c, i64 0, i64 %indvars.iv49 %5 = load i32, ptr %4, align 450 %6 = add nsw i32 %5, %351 %7 = getelementptr inbounds [2048 x i32], ptr @a, i64 0, i64 %indvars.iv52 store i32 %6, ptr %7, align 453 %indvars.iv.next = add i64 %indvars.iv, 154 %lftr.wideiv = trunc i64 %indvars.iv.next to i3255 %exitcond = icmp eq i32 %lftr.wideiv, 25656 br i1 %exitcond, label %8, label %157 58; <label>:8 ; preds = %159 ret void60}61 62;CHECK-LABEL: @example2(63;CHECK: store <4 x i32>64;CHECK: ret void65;UNROLL-LABEL: @example2(66;UNROLL: store <4 x i32>67;UNROLL: store <4 x i32>68;UNROLL: store <4 x i32>69;UNROLL: store <4 x i32>70;UNROLL: ret void71define void @example2(i32 %n, i32 %x) nounwind uwtable ssp {72 %1 = icmp sgt i32 %n, 073 br i1 %1, label %.lr.ph5, label %.preheader74 75..preheader_crit_edge: ; preds = %.lr.ph576 %phitmp = sext i32 %n to i6477 br label %.preheader78 79.preheader: ; preds = %..preheader_crit_edge, %080 %i.0.lcssa = phi i64 [ %phitmp, %..preheader_crit_edge ], [ 0, %0 ]81 %2 = icmp eq i32 %n, 082 br i1 %2, label %._crit_edge, label %.lr.ph83 84.lr.ph5: ; preds = %0, %.lr.ph585 %indvars.iv6 = phi i64 [ %indvars.iv.next7, %.lr.ph5 ], [ 0, %0 ]86 %3 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %indvars.iv687 store i32 %x, ptr %3, align 488 %indvars.iv.next7 = add i64 %indvars.iv6, 189 %lftr.wideiv = trunc i64 %indvars.iv.next7 to i3290 %exitcond = icmp eq i32 %lftr.wideiv, %n91 br i1 %exitcond, label %..preheader_crit_edge, label %.lr.ph592 93.lr.ph: ; preds = %.preheader, %.lr.ph94 %indvars.iv = phi i64 [ %indvars.iv.next, %.lr.ph ], [ %i.0.lcssa, %.preheader ]95 %.02 = phi i32 [ %4, %.lr.ph ], [ %n, %.preheader ]96 %4 = add nsw i32 %.02, -197 %5 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %indvars.iv98 %6 = load i32, ptr %5, align 499 %7 = getelementptr inbounds [2048 x i32], ptr @c, i64 0, i64 %indvars.iv100 %8 = load i32, ptr %7, align 4101 %9 = and i32 %8, %6102 %10 = getelementptr inbounds [2048 x i32], ptr @a, i64 0, i64 %indvars.iv103 store i32 %9, ptr %10, align 4104 %indvars.iv.next = add i64 %indvars.iv, 1105 %11 = icmp eq i32 %4, 0106 br i1 %11, label %._crit_edge, label %.lr.ph107 108._crit_edge: ; preds = %.lr.ph, %.preheader109 ret void110}111 112;CHECK-LABEL: @example3(113;CHECK: <4 x i32>114;CHECK: ret void115;UNROLL-LABEL: @example3(116;UNROLL: <4 x i32>117;UNROLL: <4 x i32>118;UNROLL: <4 x i32>119;UNROLL: <4 x i32>120;UNROLL: ret void121define void @example3(i32 %n, ptr noalias nocapture %p, ptr noalias nocapture %q) nounwind uwtable ssp {122 %1 = icmp eq i32 %n, 0123 br i1 %1, label %._crit_edge, label %.lr.ph124 125.lr.ph: ; preds = %0, %.lr.ph126 %.05 = phi i32 [ %2, %.lr.ph ], [ %n, %0 ]127 %.014 = phi ptr [ %5, %.lr.ph ], [ %p, %0 ]128 %.023 = phi ptr [ %3, %.lr.ph ], [ %q, %0 ]129 %2 = add nsw i32 %.05, -1130 %3 = getelementptr inbounds i32, ptr %.023, i64 1131 %4 = load i32, ptr %.023, align 16132 %5 = getelementptr inbounds i32, ptr %.014, i64 1133 store i32 %4, ptr %.014, align 16134 %6 = icmp eq i32 %2, 0135 br i1 %6, label %._crit_edge, label %.lr.ph136 137._crit_edge: ; preds = %.lr.ph, %0138 ret void139}140 141;CHECK-LABEL: @example4(142;CHECK: load <4 x i32>143;CHECK: ret void144;UNROLL-LABEL: @example4(145;UNROLL: load <4 x i32>146;UNROLL: load <4 x i32>147;UNROLL: load <4 x i32>148;UNROLL: load <4 x i32>149;UNROLL: ret void150define void @example4(i32 %n, ptr noalias nocapture %p, ptr noalias nocapture %q) nounwind uwtable ssp {151 %1 = add nsw i32 %n, -1152 %2 = icmp eq i32 %n, 0153 br i1 %2, label %.preheader4, label %.lr.ph10154 155.preheader4: ; preds = %0156 %3 = icmp sgt i32 %1, 0157 br i1 %3, label %.lr.ph6, label %._crit_edge158 159.lr.ph10: ; preds = %0, %.lr.ph10160 %4 = phi i32 [ %9, %.lr.ph10 ], [ %1, %0 ]161 %.018 = phi ptr [ %8, %.lr.ph10 ], [ %p, %0 ]162 %.027 = phi ptr [ %5, %.lr.ph10 ], [ %q, %0 ]163 %5 = getelementptr inbounds i32, ptr %.027, i64 1164 %6 = load i32, ptr %.027, align 16165 %7 = add nsw i32 %6, 5166 %8 = getelementptr inbounds i32, ptr %.018, i64 1167 store i32 %7, ptr %.018, align 16168 %9 = add nsw i32 %4, -1169 %10 = icmp eq i32 %4, 0170 br i1 %10, label %._crit_edge, label %.lr.ph10171 172.preheader: ; preds = %.lr.ph6173 br i1 %3, label %.lr.ph, label %._crit_edge174 175.lr.ph6: ; preds = %.preheader4, %.lr.ph6176 %indvars.iv11 = phi i64 [ %indvars.iv.next12, %.lr.ph6 ], [ 0, %.preheader4 ]177 %indvars.iv.next12 = add i64 %indvars.iv11, 1178 %11 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %indvars.iv.next12179 %12 = load i32, ptr %11, align 4180 %13 = add nsw i64 %indvars.iv11, 3181 %14 = getelementptr inbounds [2048 x i32], ptr @c, i64 0, i64 %13182 %15 = load i32, ptr %14, align 4183 %16 = add nsw i32 %15, %12184 %17 = getelementptr inbounds [2048 x i32], ptr @a, i64 0, i64 %indvars.iv11185 store i32 %16, ptr %17, align 4186 %lftr.wideiv13 = trunc i64 %indvars.iv.next12 to i32187 %exitcond14 = icmp eq i32 %lftr.wideiv13, %1188 br i1 %exitcond14, label %.preheader, label %.lr.ph6189 190.lr.ph: ; preds = %.preheader, %.lr.ph191 %indvars.iv = phi i64 [ %indvars.iv.next, %.lr.ph ], [ 0, %.preheader ]192 %18 = getelementptr inbounds [2048 x i32], ptr @a, i64 0, i64 %indvars.iv193 %19 = load i32, ptr %18, align 4194 %20 = icmp sgt i32 %19, 4195 %21 = select i1 %20, i32 4, i32 0196 %22 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %indvars.iv197 store i32 %21, ptr %22, align 4198 %indvars.iv.next = add i64 %indvars.iv, 1199 %lftr.wideiv = trunc i64 %indvars.iv.next to i32200 %exitcond = icmp eq i32 %lftr.wideiv, %1201 br i1 %exitcond, label %._crit_edge, label %.lr.ph202 203._crit_edge: ; preds = %.lr.ph10, %.preheader4, %.lr.ph, %.preheader204 ret void205}206 207;CHECK-LABEL: @example8(208;CHECK: store <4 x i32>209;CHECK: ret void210;UNROLL-LABEL: @example8(211;UNROLL: store <4 x i32>212;UNROLL: store <4 x i32>213;UNROLL: store <4 x i32>214;UNROLL: store <4 x i32>215;UNROLL: ret void216define void @example8(i32 %x) nounwind uwtable ssp {217 br label %.preheader218 219.preheader: ; preds = %3, %0220 %indvars.iv3 = phi i64 [ 0, %0 ], [ %indvars.iv.next4, %3 ]221 br label %1222 223; <label>:1 ; preds = %1, %.preheader224 %indvars.iv = phi i64 [ 0, %.preheader ], [ %indvars.iv.next, %1 ]225 %2 = getelementptr inbounds [32 x [1024 x i32]], ptr @G, i64 0, i64 %indvars.iv3, i64 %indvars.iv226 store i32 %x, ptr %2, align 4227 %indvars.iv.next = add i64 %indvars.iv, 1228 %lftr.wideiv = trunc i64 %indvars.iv.next to i32229 %exitcond = icmp eq i32 %lftr.wideiv, 1024230 br i1 %exitcond, label %3, label %1231 232; <label>:3 ; preds = %1233 %indvars.iv.next4 = add i64 %indvars.iv3, 1234 %lftr.wideiv5 = trunc i64 %indvars.iv.next4 to i32235 %exitcond6 = icmp eq i32 %lftr.wideiv5, 32236 br i1 %exitcond6, label %4, label %.preheader237 238; <label>:4 ; preds = %3239 ret void240}241 242;CHECK-LABEL: @example9(243;CHECK: phi <4 x i32>244;CHECK: ret i32245define i32 @example9() nounwind uwtable readonly ssp {246 br label %1247 248; <label>:1 ; preds = %1, %0249 %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]250 %diff.01 = phi i32 [ 0, %0 ], [ %7, %1 ]251 %2 = getelementptr inbounds [1024 x i32], ptr @ub, i64 0, i64 %indvars.iv252 %3 = load i32, ptr %2, align 4253 %4 = getelementptr inbounds [1024 x i32], ptr @uc, i64 0, i64 %indvars.iv254 %5 = load i32, ptr %4, align 4255 %6 = add i32 %3, %diff.01256 %7 = sub i32 %6, %5257 %indvars.iv.next = add i64 %indvars.iv, 1258 %lftr.wideiv = trunc i64 %indvars.iv.next to i32259 %exitcond = icmp eq i32 %lftr.wideiv, 1024260 br i1 %exitcond, label %8, label %1261 262; <label>:8 ; preds = %1263 ret i32 %7264}265 266;CHECK-LABEL: @example10a(267;CHECK: load <4 x i32>268;CHECK: add nsw <4 x i32>269;CHECK: load <4 x i16>270;CHECK: add <4 x i16>271;CHECK: store <4 x i16>272;CHECK: ret void273define void @example10a(ptr noalias nocapture %sa, ptr noalias nocapture %sb, ptr noalias nocapture %sc, ptr noalias nocapture %ia, ptr noalias nocapture %ib, ptr noalias nocapture %ic) nounwind uwtable ssp {274 br label %1275 276; <label>:1 ; preds = %1, %0277 %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]278 %2 = getelementptr inbounds i32, ptr %ib, i64 %indvars.iv279 %3 = load i32, ptr %2, align 4280 %4 = getelementptr inbounds i32, ptr %ic, i64 %indvars.iv281 %5 = load i32, ptr %4, align 4282 %6 = add nsw i32 %5, %3283 %7 = getelementptr inbounds i32, ptr %ia, i64 %indvars.iv284 store i32 %6, ptr %7, align 4285 %8 = getelementptr inbounds i16, ptr %sb, i64 %indvars.iv286 %9 = load i16, ptr %8, align 2287 %10 = getelementptr inbounds i16, ptr %sc, i64 %indvars.iv288 %11 = load i16, ptr %10, align 2289 %12 = add i16 %11, %9290 %13 = getelementptr inbounds i16, ptr %sa, i64 %indvars.iv291 store i16 %12, ptr %13, align 2292 %indvars.iv.next = add i64 %indvars.iv, 1293 %lftr.wideiv = trunc i64 %indvars.iv.next to i32294 %exitcond = icmp eq i32 %lftr.wideiv, 1024295 br i1 %exitcond, label %14, label %1296 297; <label>:14 ; preds = %1298 ret void299}300 301;CHECK-LABEL: @example10b(302;CHECK: load <4 x i16>303;CHECK: sext <4 x i16>304;CHECK: store <4 x i32>305;CHECK: ret void306define void @example10b(ptr noalias nocapture %sa, ptr noalias nocapture %sb, ptr noalias nocapture %sc, ptr noalias nocapture %ia, ptr noalias nocapture %ib, ptr noalias nocapture %ic) nounwind uwtable ssp {307 br label %1308 309; <label>:1 ; preds = %1, %0310 %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]311 %2 = getelementptr inbounds i16, ptr %sb, i64 %indvars.iv312 %3 = load i16, ptr %2, align 2313 %4 = sext i16 %3 to i32314 %5 = getelementptr inbounds i32, ptr %ia, i64 %indvars.iv315 store i32 %4, ptr %5, align 4316 %indvars.iv.next = add i64 %indvars.iv, 1317 %lftr.wideiv = trunc i64 %indvars.iv.next to i32318 %exitcond = icmp eq i32 %lftr.wideiv, 1024319 br i1 %exitcond, label %6, label %1320 321; <label>:6 ; preds = %1322 ret void323}324 325;CHECK-LABEL: @example11(326;CHECK: load i32327;CHECK: load i32328;CHECK: load i32329;CHECK: load i32330;CHECK: insertelement331;CHECK: insertelement332;CHECK: insertelement333;CHECK: insertelement334;CHECK: ret void335define void @example11() nounwind uwtable ssp {336 br label %1337 338; <label>:1 ; preds = %1, %0339 %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]340 %2 = shl nsw i64 %indvars.iv, 1341 %3 = or i64 %2, 1342 %4 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %3343 %5 = load i32, ptr %4, align 4344 %6 = getelementptr inbounds [2048 x i32], ptr @c, i64 0, i64 %3345 %7 = load i32, ptr %6, align 4346 %8 = mul nsw i32 %7, %5347 %9 = getelementptr inbounds [2048 x i32], ptr @b, i64 0, i64 %2348 %10 = load i32, ptr %9, align 8349 %11 = getelementptr inbounds [2048 x i32], ptr @c, i64 0, i64 %2350 %12 = load i32, ptr %11, align 8351 %13 = mul nsw i32 %12, %10352 %14 = sub nsw i32 %8, %13353 %15 = getelementptr inbounds [2048 x i32], ptr @a, i64 0, i64 %indvars.iv354 store i32 %14, ptr %15, align 4355 %16 = mul nsw i32 %7, %10356 %17 = mul nsw i32 %12, %5357 %18 = add nsw i32 %17, %16358 %19 = getelementptr inbounds [2048 x i32], ptr @d, i64 0, i64 %indvars.iv359 store i32 %18, ptr %19, align 4360 %indvars.iv.next = add i64 %indvars.iv, 1361 %lftr.wideiv = trunc i64 %indvars.iv.next to i32362 %exitcond = icmp eq i32 %lftr.wideiv, 512363 br i1 %exitcond, label %20, label %1364 365; <label>:20 ; preds = %1366 ret void367}368 369;CHECK-LABEL: @example12(370;CHECK: vector.body:371;CHECK: [[VEC_IV_TRUNC:%.+]] = phi <4 x i32>372;CHECK: store <4 x i32> [[VEC_IV_TRUNC]]373;CHECK: ret void374define void @example12() {375 br label %1376 377; <label>:1 ; preds = %1, %0378 %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]379 %2 = getelementptr inbounds [2048 x i32], ptr @a, i64 0, i64 %indvars.iv380 %3 = trunc i64 %indvars.iv to i32381 store i32 %3, ptr %2, align 4382 %indvars.iv.next = add i64 %indvars.iv, 1383 %lftr.wideiv = trunc i64 %indvars.iv.next to i32384 %exitcond = icmp eq i32 %lftr.wideiv, 1024385 br i1 %exitcond, label %4, label %1386 387; <label>:4 ; preds = %1388 ret void389}390 391;CHECK-LABEL: @example13(392;CHECK: <4 x i32>393;CHECK: ret void394define void @example13(ptr nocapture %A, ptr nocapture %B, ptr nocapture %out) nounwind uwtable ssp {395 br label %.preheader396 397.preheader: ; preds = %14, %0398 %indvars.iv4 = phi i64 [ 0, %0 ], [ %indvars.iv.next5, %14 ]399 %1 = getelementptr inbounds ptr, ptr %A, i64 %indvars.iv4400 %2 = load ptr, ptr %1, align 8401 %3 = getelementptr inbounds ptr, ptr %B, i64 %indvars.iv4402 %4 = load ptr, ptr %3, align 8403 br label %5404 405; <label>:5 ; preds = %.preheader, %5406 %indvars.iv = phi i64 [ 0, %.preheader ], [ %indvars.iv.next, %5 ]407 %diff.02 = phi i32 [ 0, %.preheader ], [ %11, %5 ]408 %6 = getelementptr inbounds i32, ptr %2, i64 %indvars.iv409 %7 = load i32, ptr %6, align 4410 %8 = getelementptr inbounds i32, ptr %4, i64 %indvars.iv411 %9 = load i32, ptr %8, align 4412 %10 = add i32 %7, %diff.02413 %11 = sub i32 %10, %9414 %indvars.iv.next = add i64 %indvars.iv, 8415 %12 = trunc i64 %indvars.iv.next to i32416 %13 = icmp slt i32 %12, 1024417 br i1 %13, label %5, label %14418 419; <label>:14 ; preds = %5420 %15 = getelementptr inbounds i32, ptr %out, i64 %indvars.iv4421 store i32 %11, ptr %15, align 4422 %indvars.iv.next5 = add i64 %indvars.iv4, 1423 %lftr.wideiv = trunc i64 %indvars.iv.next5 to i32424 %exitcond = icmp eq i32 %lftr.wideiv, 32425 br i1 %exitcond, label %16, label %.preheader426 427; <label>:16 ; preds = %14428 ret void429}430 431; Can vectorize.432;CHECK-LABEL: @example14(433;CHECK: <4 x i32>434;CHECK: ret void435define void @example14(ptr nocapture %in, ptr nocapture %coeff, ptr nocapture %out) nounwind uwtable ssp {436.preheader3:437 br label %.preheader438 439.preheader: ; preds = %11, %.preheader3440 %indvars.iv7 = phi i64 [ 0, %.preheader3 ], [ %indvars.iv.next8, %11 ]441 %sum.05 = phi i32 [ 0, %.preheader3 ], [ %10, %11 ]442 br label %0443 444; <label>:0 ; preds = %0, %.preheader445 %indvars.iv = phi i64 [ 0, %.preheader ], [ %indvars.iv.next, %0 ]446 %sum.12 = phi i32 [ %sum.05, %.preheader ], [ %10, %0 ]447 %1 = getelementptr inbounds ptr, ptr %in, i64 %indvars.iv448 %2 = load ptr, ptr %1, align 8449 %3 = getelementptr inbounds i32, ptr %2, i64 %indvars.iv7450 %4 = load i32, ptr %3, align 4451 %5 = getelementptr inbounds ptr, ptr %coeff, i64 %indvars.iv452 %6 = load ptr, ptr %5, align 8453 %7 = getelementptr inbounds i32, ptr %6, i64 %indvars.iv7454 %8 = load i32, ptr %7, align 4455 %9 = mul nsw i32 %8, %4456 %10 = add nsw i32 %9, %sum.12457 %indvars.iv.next = add i64 %indvars.iv, 1458 %lftr.wideiv = trunc i64 %indvars.iv.next to i32459 %exitcond = icmp eq i32 %lftr.wideiv, 1024460 br i1 %exitcond, label %11, label %0461 462; <label>:11 ; preds = %0463 %indvars.iv.next8 = add i64 %indvars.iv7, 1464 %lftr.wideiv9 = trunc i64 %indvars.iv.next8 to i32465 %exitcond10 = icmp eq i32 %lftr.wideiv9, 32466 br i1 %exitcond10, label %.preheader3.1, label %.preheader467 468.preheader3.1: ; preds = %11469 store i32 %10, ptr %out, align 4470 br label %.preheader.1471 472.preheader.1: ; preds = %24, %.preheader3.1473 %indvars.iv7.1 = phi i64 [ 0, %.preheader3.1 ], [ %indvars.iv.next8.1, %24 ]474 %sum.05.1 = phi i32 [ 0, %.preheader3.1 ], [ %23, %24 ]475 br label %12476 477; <label>:12 ; preds = %12, %.preheader.1478 %indvars.iv.1 = phi i64 [ 0, %.preheader.1 ], [ %13, %12 ]479 %sum.12.1 = phi i32 [ %sum.05.1, %.preheader.1 ], [ %23, %12 ]480 %13 = add nsw i64 %indvars.iv.1, 1481 %14 = getelementptr inbounds ptr, ptr %in, i64 %13482 %15 = load ptr, ptr %14, align 8483 %16 = getelementptr inbounds i32, ptr %15, i64 %indvars.iv7.1484 %17 = load i32, ptr %16, align 4485 %18 = getelementptr inbounds ptr, ptr %coeff, i64 %indvars.iv.1486 %19 = load ptr, ptr %18, align 8487 %20 = getelementptr inbounds i32, ptr %19, i64 %indvars.iv7.1488 %21 = load i32, ptr %20, align 4489 %22 = mul nsw i32 %21, %17490 %23 = add nsw i32 %22, %sum.12.1491 %lftr.wideiv.1 = trunc i64 %13 to i32492 %exitcond.1 = icmp eq i32 %lftr.wideiv.1, 1024493 br i1 %exitcond.1, label %24, label %12494 495; <label>:24 ; preds = %12496 %indvars.iv.next8.1 = add i64 %indvars.iv7.1, 1497 %lftr.wideiv9.1 = trunc i64 %indvars.iv.next8.1 to i32498 %exitcond10.1 = icmp eq i32 %lftr.wideiv9.1, 32499 br i1 %exitcond10.1, label %.preheader3.2, label %.preheader.1500 501.preheader3.2: ; preds = %24502 %25 = getelementptr inbounds i32, ptr %out, i64 1503 store i32 %23, ptr %25, align 4504 br label %.preheader.2505 506.preheader.2: ; preds = %38, %.preheader3.2507 %indvars.iv7.2 = phi i64 [ 0, %.preheader3.2 ], [ %indvars.iv.next8.2, %38 ]508 %sum.05.2 = phi i32 [ 0, %.preheader3.2 ], [ %37, %38 ]509 br label %26510 511; <label>:26 ; preds = %26, %.preheader.2512 %indvars.iv.2 = phi i64 [ 0, %.preheader.2 ], [ %indvars.iv.next.2, %26 ]513 %sum.12.2 = phi i32 [ %sum.05.2, %.preheader.2 ], [ %37, %26 ]514 %27 = add nsw i64 %indvars.iv.2, 2515 %28 = getelementptr inbounds ptr, ptr %in, i64 %27516 %29 = load ptr, ptr %28, align 8517 %30 = getelementptr inbounds i32, ptr %29, i64 %indvars.iv7.2518 %31 = load i32, ptr %30, align 4519 %32 = getelementptr inbounds ptr, ptr %coeff, i64 %indvars.iv.2520 %33 = load ptr, ptr %32, align 8521 %34 = getelementptr inbounds i32, ptr %33, i64 %indvars.iv7.2522 %35 = load i32, ptr %34, align 4523 %36 = mul nsw i32 %35, %31524 %37 = add nsw i32 %36, %sum.12.2525 %indvars.iv.next.2 = add i64 %indvars.iv.2, 1526 %lftr.wideiv.2 = trunc i64 %indvars.iv.next.2 to i32527 %exitcond.2 = icmp eq i32 %lftr.wideiv.2, 1024528 br i1 %exitcond.2, label %38, label %26529 530; <label>:38 ; preds = %26531 %indvars.iv.next8.2 = add i64 %indvars.iv7.2, 1532 %lftr.wideiv9.2 = trunc i64 %indvars.iv.next8.2 to i32533 %exitcond10.2 = icmp eq i32 %lftr.wideiv9.2, 32534 br i1 %exitcond10.2, label %.preheader3.3, label %.preheader.2535 536.preheader3.3: ; preds = %38537 %39 = getelementptr inbounds i32, ptr %out, i64 2538 store i32 %37, ptr %39, align 4539 br label %.preheader.3540 541.preheader.3: ; preds = %52, %.preheader3.3542 %indvars.iv7.3 = phi i64 [ 0, %.preheader3.3 ], [ %indvars.iv.next8.3, %52 ]543 %sum.05.3 = phi i32 [ 0, %.preheader3.3 ], [ %51, %52 ]544 br label %40545 546; <label>:40 ; preds = %40, %.preheader.3547 %indvars.iv.3 = phi i64 [ 0, %.preheader.3 ], [ %indvars.iv.next.3, %40 ]548 %sum.12.3 = phi i32 [ %sum.05.3, %.preheader.3 ], [ %51, %40 ]549 %41 = add nsw i64 %indvars.iv.3, 3550 %42 = getelementptr inbounds ptr, ptr %in, i64 %41551 %43 = load ptr, ptr %42, align 8552 %44 = getelementptr inbounds i32, ptr %43, i64 %indvars.iv7.3553 %45 = load i32, ptr %44, align 4554 %46 = getelementptr inbounds ptr, ptr %coeff, i64 %indvars.iv.3555 %47 = load ptr, ptr %46, align 8556 %48 = getelementptr inbounds i32, ptr %47, i64 %indvars.iv7.3557 %49 = load i32, ptr %48, align 4558 %50 = mul nsw i32 %49, %45559 %51 = add nsw i32 %50, %sum.12.3560 %indvars.iv.next.3 = add i64 %indvars.iv.3, 1561 %lftr.wideiv.3 = trunc i64 %indvars.iv.next.3 to i32562 %exitcond.3 = icmp eq i32 %lftr.wideiv.3, 1024563 br i1 %exitcond.3, label %52, label %40564 565; <label>:52 ; preds = %40566 %indvars.iv.next8.3 = add i64 %indvars.iv7.3, 1567 %lftr.wideiv9.3 = trunc i64 %indvars.iv.next8.3 to i32568 %exitcond10.3 = icmp eq i32 %lftr.wideiv9.3, 32569 br i1 %exitcond10.3, label %53, label %.preheader.3570 571; <label>:53 ; preds = %52572 %54 = getelementptr inbounds i32, ptr %out, i64 3573 store i32 %51, ptr %54, align 4574 ret void575}576 577;CHECK-LABEL: @example21(578;CHECK: load <4 x i32>579;CHECK: shufflevector {{.*}} <i32 3, i32 2, i32 1, i32 0>580;CHECK: ret i32581define i32 @example21(ptr nocapture %b, i32 %n) nounwind uwtable readonly ssp {582 %1 = icmp sgt i32 %n, 0583 br i1 %1, label %.lr.ph, label %._crit_edge584 585.lr.ph: ; preds = %0586 %2 = sext i32 %n to i64587 br label %3588 589; <label>:3 ; preds = %.lr.ph, %3590 %indvars.iv = phi i64 [ %2, %.lr.ph ], [ %indvars.iv.next, %3 ]591 %a.02 = phi i32 [ 0, %.lr.ph ], [ %6, %3 ]592 %indvars.iv.next = add i64 %indvars.iv, -1593 %4 = getelementptr inbounds i32, ptr %b, i64 %indvars.iv.next594 %5 = load i32, ptr %4, align 4595 %6 = add nsw i32 %5, %a.02596 %7 = trunc i64 %indvars.iv.next to i32597 %8 = icmp sgt i32 %7, 0598 br i1 %8, label %3, label %._crit_edge599 600._crit_edge: ; preds = %3, %0601 %a.0.lcssa = phi i32 [ 0, %0 ], [ %6, %3 ]602 ret i32 %a.0.lcssa603}604 605;CHECK-LABEL: @example23(606;CHECK: <4 x i32>607;CHECK: ret void608define void @example23(ptr nocapture %src, ptr nocapture %dst) nounwind uwtable ssp {609 br label %1610 611; <label>:1 ; preds = %1, %0612 %.04 = phi ptr [ %src, %0 ], [ %2, %1 ]613 %.013 = phi ptr [ %dst, %0 ], [ %6, %1 ]614 %i.02 = phi i32 [ 0, %0 ], [ %7, %1 ]615 %2 = getelementptr inbounds i16, ptr %.04, i64 1616 %3 = load i16, ptr %.04, align 2617 %4 = zext i16 %3 to i32618 %5 = shl nuw nsw i32 %4, 7619 %6 = getelementptr inbounds i32, ptr %.013, i64 1620 store i32 %5, ptr %.013, align 4621 %7 = add nsw i32 %i.02, 1622 %exitcond = icmp eq i32 %7, 256623 br i1 %exitcond, label %8, label %1624 625; <label>:8 ; preds = %1626 ret void627}628 629;CHECK-LABEL: @example24(630;CHECK: shufflevector <4 x i16>631;CHECK: ret void632define void @example24(i16 signext %x, i16 signext %y) nounwind uwtable ssp {633 br label %1634 635; <label>:1 ; preds = %1, %0636 %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]637 %2 = getelementptr inbounds [1024 x float], ptr @fa, i64 0, i64 %indvars.iv638 %3 = load float, ptr %2, align 4639 %4 = getelementptr inbounds [1024 x float], ptr @fb, i64 0, i64 %indvars.iv640 %5 = load float, ptr %4, align 4641 %6 = fcmp olt float %3, %5642 %x.y = select i1 %6, i16 %x, i16 %y643 %7 = sext i16 %x.y to i32644 %8 = getelementptr inbounds [1024 x i32], ptr @ic, i64 0, i64 %indvars.iv645 store i32 %7, ptr %8, align 4646 %indvars.iv.next = add i64 %indvars.iv, 1647 %lftr.wideiv = trunc i64 %indvars.iv.next to i32648 %exitcond = icmp eq i32 %lftr.wideiv, 1024649 br i1 %exitcond, label %9, label %1650 651; <label>:9 ; preds = %1652 ret void653}654 655;CHECK-LABEL: @example25(656;CHECK: and <4 x i1>657;CHECK: zext <4 x i1>658;CHECK: ret void659define void @example25() nounwind uwtable ssp {660 br label %1661 662; <label>:1 ; preds = %1, %0663 %indvars.iv = phi i64 [ 0, %0 ], [ %indvars.iv.next, %1 ]664 %2 = getelementptr inbounds [1024 x float], ptr @da, i64 0, i64 %indvars.iv665 %3 = load float, ptr %2, align 4666 %4 = getelementptr inbounds [1024 x float], ptr @db, i64 0, i64 %indvars.iv667 %5 = load float, ptr %4, align 4668 %6 = fcmp olt float %3, %5669 %7 = getelementptr inbounds [1024 x float], ptr @dc, i64 0, i64 %indvars.iv670 %8 = load float, ptr %7, align 4671 %9 = getelementptr inbounds [1024 x float], ptr @dd, i64 0, i64 %indvars.iv672 %10 = load float, ptr %9, align 4673 %11 = fcmp olt float %8, %10674 %12 = and i1 %6, %11675 %13 = zext i1 %12 to i32676 %14 = getelementptr inbounds [1024 x i32], ptr @dj, i64 0, i64 %indvars.iv677 store i32 %13, ptr %14, align 4678 %indvars.iv.next = add i64 %indvars.iv, 1679 %lftr.wideiv = trunc i64 %indvars.iv.next to i32680 %exitcond = icmp eq i32 %lftr.wideiv, 1024681 br i1 %exitcond, label %15, label %1682 683; <label>:15 ; preds = %1684 ret void685}686 687