C代码循环性能[续]

 

这个问题继续在我的问题上（根据神秘的建议）：

C代码循环性能

继续我的问题，当我使用打包指令而不是标量指令时，使用内部函数的代码看起来非常相似： 

for(int i=0; i<size; i+=16) {
    y1 = _mm_load_ps(output[i]);
    …
    y4 = _mm_load_ps(output[i+12]);

    for(k=0; k<ksize; k++){
        for(l=0; l<ksize; l++){
            w  = _mm_set_ps1(weight[i+k+l]);

            x1 = _mm_load_ps(input[i+k+l]);
            y1 = _mm_add_ps(y1,_mm_mul_ps(w,x1));
            …
            x4 = _mm_load_ps(input[i+k+l+12]);
            y4 = _mm_add_ps(y4,_mm_mul_ps(w,x4));
        }
    }
    _mm_store_ps(&output[i],y1);
    …
    _mm_store_ps(&output[i+12],y4);
    }

这个内核测得的性能每个周期大约为5.6个FP操作，但我预计它将是标量版本性能的4倍，即每个周期4.1,6 = 6,4个FP操作。

考虑到权重因素的移动（感谢您指出了这一点），计划如下所示：

时间表

虽然在movss操作之后有一个额外的指令，将标量权重值移动到XMM寄存器，然后使用shufps将该标量值复制到整个矢量中，但看起来时间表并未改变。 考虑到负载到浮点域的切换延迟时间，似乎权重向量已准备好用于mulps ，所以这不应该导致任何额外的延迟。

这个内核中使用的movaps （对齐，包装移动）， addps ＆ mulps指令（用汇编代码检查）与标量版本具有相同的延迟和吞吐量，所以这不应该导致任何额外的延迟。

假设这个内核能够获得的最高性能是每个周期6.4 FP运算，并且每个周期运行在5.6 FP运算，那么是否有人知道每8个周期花费多少周期？

顺便说一下，这里是实际装配的样子： 

…
Block x: 
  movapsx  (%rax,%rcx,4), %xmm0
  movapsx  0x10(%rax,%rcx,4), %xmm1
  movapsx  0x20(%rax,%rcx,4), %xmm2
  movapsx  0x30(%rax,%rcx,4), %xmm3
  movssl  (%rdx,%rcx,4), %xmm4
  inc %rcx
  shufps $0x0, %xmm4, %xmm4               {fill weight vector}
  cmp $0x32, %rcx 
  mulps %xmm4, %xmm0 
  mulps %xmm4, %xmm1
  mulps %xmm4, %xmm2 
  mulps %xmm3, %xmm4
  addps %xmm0, %xmm5 
  addps %xmm1, %xmm6 
  addps %xmm2, %xmm7 
  addps %xmm4, %xmm8 
  jl 0x401ad6 <Block x> 
…

尝试在Vtune中使用EMON分析，或者使用一些类似oprof的工具

  • Vtune for Linux（您可以搜索Windows版本）
  • oprofile的

    • EMON（事件监测）分析=>就像基于时间的工具，但它可以告诉你什么样的性能事件导致了这个问题。 虽然，你应该先从基于时间的配置文件开始，看看是否有特定的指令跳出。 （可能还有相关的事件会告诉你在该知识产权的退休摊位频率。）

    要使用EMON分析，您必须查看一系列事件，从“常见的嫌疑人”到......

    在这里，我将从缓存未命中开始。 我不知道你使用的处理器是否有一个用于RF端口限制的计数器 - 它应该 - 但是我很久以前加入了EMON分析，我不知道他们通过添加适合微架构的事件保持了多好。

    它也可能是一个前端，取指令，失速。 无论如何，这些指令中有多少个字节？ 也有EMON事件。

    回应评论说，Nehalem VTune无法看到L3事件：不正确。 这里是我添加评论的内容，但不适合：

    实际上，有LL3 / L3 $ /所谓Uncore的性能计数器。 如果VTune不支持他们，我会非常惊讶。 请参阅http://software.intel.com/sites/products/collat​​eral/hpc/vtune/performance_analysis_guide.pdf指向VTune和其他工具（如PTU）。 事实上，即使没有LL3事件，正如David Levinthal所说：“英特尔®酷睿™i7处理器有一个”延迟事件“，与安腾®处理器系列数据EAR事件非常相似。在执行指令和实际传送数据之间的周期如果测量的延迟大于MSR 0x3f6中设置的最小延时（位15：0），则计数器递增计数器溢出支持PEBS机制，并在下一个满足等待时间阈值，测量的等待时间，虚拟或线性地址和数据源的事件被复制到PEBS缓冲区中的3个附加寄存器中，因为虚拟地址被捕获到已知位置，所以采样驱动器也可以执行虚拟到物理转换和捕获物理地址，物理地址标识NUMA归属位置，原则上允许分析缓存占用的细节。“ 他还在第35页指出了VTune事件，例如L3 CACHE_HIT_UNCORE_HIT和L3 CACHE_MISS_REMOTE_DRAM。 有时你需要查看数字代码并将它们编程到VTune的较低级别的界面中，但我认为在这种情况下，它可以在漂亮的用户界面中看到。

    好吧，在http://software.intel.com/en-us/forums/showthread.php?t=77700&o=d&s=lr俄罗斯的VTune程序员（我认为）“解释说”你不能在Uncore上进行采样事件。

    他错了 - 例如，你可以只启用一个CPU，然后进行有意义的采样。 我也相信，当它返回到CPU时，有能力标记L3丢失的数据。 实际上，L3总体上知道它正在将数据返回给哪个CPU，因此您可以绝对采样。 你可能不知道哪个超线程，但你可以禁用，进入单线程模式。

    但是看起来像很常见，你必须在VTune周围工作，而不是在VTune上工作。

    先尝试延迟分析。 这完全在CPU内部，并且VTune人员不太可能将其搞乱。

    而且，我再说一遍，可能性是你的问题是核心问题，而不是L3问题。 所以VTune应该能够处理这个问题。

    按Levinthal尝试“循环会计”。

    链接地址: http://www.djcxy.com/p/85529.html

    上一篇: C code loop performance [continued]

    下一篇: Floating multiplication performing slower depending of operands in C