SIMD and Avx2

SIMD and Avx2SIMD一条指令可以执行多个数据group的计算和输出。对于SIMD相对应的SISD.intel SSE2 ,AVX2,AVX-512假设有一个任务是统计字符串中每一个字符出现的次数,我们可以用128bit的SISD指令进行统计。每8个bit代表一个字符,所以只需要两个SIMD指令(movemask、popcount)。详细测试:#include<stdio.h>#include<thread>#defineINC_TO1000000//o

大家好,又见面了,我是你们的朋友全栈君。

SIMD 一条指令可以执行多个数据group的计算和输出。对于SIMD相对应的SISD.
intel SSE2 , AVX2, AVX-512

假设有一个任务是统计字符串中每一个字符出现的次数,我们可以用128bit 的SISD指令进行统计。每8个bit代表一个字符,所以只需要两个SIMD指令(move mask、pop count)。
在这里插入图片描述

详细测试:

#include <stdio.h>
#include <thread>
#define INC_TO 1000000 // one million...
#include <mutex>
#include <functional>
#include <atomic>
#include <vector>
#include <sstream>
#include <iostream>
#include <emmintrin.h>
#include <immintrin.h>
#include <assert.h> 
#include <x86intrin.h>

struct StringView {
  char* buffer;
  size_t len;
};

void RandomGeneratorFile(const char* filename) {
  FILE* fp =  fopen(filename, "w");
  const size_t numbers = 16*8*1000;
  size_t count =0;
  do {
    for (char i = 'A'; i < 'Z'; i++) {
      fputc(i, fp);
    }
    count++;
  } while (count < numbers);
  fclose(fp);
}

StringView* GetFileContent(const char* filename) {
  FILE* fp = fopen(filename, "r");
  /*Move file point at the end of file.*/
  fseek(fp,0,SEEK_END);
  /*Get the current position of the file pointer.*/
  size_t size=ftell(fp);
  printf("file size:%d\n", size);
  char * buffer = new char[size];
  fseek(fp, 0, SEEK_SET);
  fread(buffer, size, size, fp);
  //  printf("content of buffer:%s\n", buffer);
  fclose(fp);
  StringView* str = new StringView();
  str->buffer = buffer;
  str->len = size;
  return str;
}

// 正常统计字符串
size_t count_chars_8(const char* data, size_t size, const char ch)
{
  size_t total = 0;
  while (size) {
    if (*data == ch)
      total += 1;
    data += 1;
    size -= 1;
  }
  return total;
}

// SIMD
size_t count_chars_128(const char* data, size_t size, const char ch)
{
  size_t total = 0;
  assert(size % 16 == 0);
  // 将ch广播16次
  __m128i tocmp = _mm_set1_epi8(ch);
  while (size) {
    int mask = 0;
    // 从memory 取出128bit数据
    __m128i chunk = _mm_load_si128 ((__m128i const*)data);
    // 对128bit数据进行比较, 返回16bit
    __m128i results = _mm_cmpeq_epi8(chunk, tocmp);
    // 
    mask = _mm_movemask_epi8(results);
    //统计int32的bit位是1的值
    // _mm_ prefix, because it does not operate on 128-bit registers, it just operates on standard 64-bit registers.
    total += _popcnt32(mask);
    data += 16;
    size -= 16;
  }
  return total;
}

// AVX
size_t count_chars_avx(const char* data, size_t size, const char ch)
{
  size_t total = 0;
  assert(size % 16 == 0);
  __m256i tocmp = _mm256_set1_epi8(ch);
  while(size) {
    __m256i chunk = _mm256_loadu_si256((__m256i*)data);
    __m256i results = _mm256_cmpeq_epi8(tocmp, chunk);
    unsigned mask = _mm256_movemask_epi8(results);
    total += __builtin_popcount(mask);
    data += 32;
    size -= 32;
  }
  // printf("count:%d\n", total);
  return total;
}

static void print_time_us(const char* name, 
      size_t(*fn)(const char*, size_t, const char), const char* a,
      size_t size, const char ch) {
    struct timespec start, end;
    clock_gettime(CLOCK_MONOTONIC_RAW, &start);
    fn(a, size, ch);
    clock_gettime(CLOCK_MONOTONIC_RAW, &end);
    uint64_t delta_us = (end.tv_sec - start.tv_sec) * 1000000 + (end.tv_nsec - start.tv_nsec) / 1000;
    printf("Running: '%s' took %llu u/s\n", name, delta_us);
}

int main()
{
  RandomGeneratorFile("test.file");
  StringView* str = GetFileContent("test.file");
  print_time_us("NORMAL", count_chars_8, str->buffer, str->len, 'A');
  print_time_us("SIMD", count_chars_128, str->buffer, str->len, 'A');
  print_time_us("AVX", count_chars_avx, str->buffer, str->len, 'A');
  return 0;
}

编译命令:g++ -std=c++14 main.cc -o main -mavx -mavx2 -O2

输出:

file size:3200000
Running: 'NORMAL' took 2505 u/s
Running: 'SIMD' took 192 u/s
Running: 'AVX' took 97 u/s
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/139752.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)
blank

相关推荐

  • win10 专业工作站激活码【在线破解激活】[通俗易懂]

    win10 专业工作站激活码【在线破解激活】,https://javaforall.cn/100143.html。详细ieda激活码不妨到全栈程序员必看教程网一起来了解一下吧!

  • Oracle数据库中 dbms_output.put_line 不显示的问题解决方案

    @Json.Xu 在学习Oracle的过程中学到匿名语句块在执行过程中发现控制台打印输出DBMS_OUTPUT.PUT_LINE(vename||’过节费’||vmsg);的时候并不显示。一下是我的数据库代码declare vename varchar2(20); vsal_comm emp.sal%type; vcomm emp.comm%type; …

    2021年11月30日
  • Jenkins的详细安装及使用

    Jenkins的详细安装及使用操作环境:Windows一、环境准备1安装JDK&amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;nbsp;本文采用jdk-8u111-windows-x64.exe;2配置tomcat&amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;amp;nbs

  • 截图文字识别+翻译

    截图文字识别+翻译截图文字识别+翻译importpytesseractimportrequests,json,osfromPILimportImagefile_path=os.listdir(“./pic”)foriinfile_path:path=”./pic/”+iimage=Image.open(path)vcode=pytesseract….

  • 进程间的六种通信方式

    进程间的六种通信方式概述每个进程的用户地址空间都是独立的,一般而言是不能互相访问的,但内核空间是每个进程都共享的,所以进程之间要通信必须通过内核。进程间通信目的一般有共享数据,数据传输,消息通知,进程控制等。以Unix/Linux为例,介绍几种重要的进程间通信方式:管道、消息队列、共享内存、信号量、信号、Socket。六种通信方式管道如果你学过Linux命令,那你肯定很熟悉|这个竖线。$psauxf|grepmysql上面命令行里的|竖线就是一个管道,它的功能是将前一.

    2022年10月11日
  • 我的webos系统system-X 1.0 beta发布

    我的webos系统system-X 1.0 beta发布   在经历了将近一个月的努力后,我 的webos终于编写完成,该系统完全用javascript编写,没有用到任何flash以及插件,现在还处于测试阶段,暂时只支持ie浏览器,有许多功能还不完善,期待大家一起给我提出宝贵意见,我会继续努力的.   暂时把他命名为system-X,也就是我的姓名sx的扩展.该webos有以下功能:   1.仿windows的文件夹,支持不同文件夹窗口间

    2022年10月21日

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号