IOCP全称I/O Completion Port，中文译为I/O完成端口。IOCP是一个异步I/O的Windows API，它可以高效地将I/O事件通知给应用程序，类似于Linux中的Epoll，关于epoll可以参考linux之epoll

1. 简介

　　IOCP模型属于一种通讯模型，适用于Windows平台下高负载服务器的一个技术。在处理大量用户并发请求时，如果采用一个用户一个线程的方式那将造成CPU在这成千上万的线程间进行切换，后果是不可想象的。而IOCP完成端口模型则完全不会如此处理，它的理论是并行的线程数量必须有一个上限-也就是说同时发出500个客户请求，不应该允许出现500个可运行的线程。目前来说，IOCP完成端口是Windows下性能最好的I/O模型，同时它也是最复杂的内核对象。它避免了大量用户并发时原有模型采用的方式，极大的提高了程序的并行处理能力。

2. 原理图

　　一共包括三部分：完成端口（存放重叠的I/O请求），客户端请求的处理，等待者线程队列（一定数量的工作者线程，一般采用CPU*2个）

　　完成端口中所谓的[端口]并不是我们在TCP/IP中所提到的端口，可以说是完全没有关系。它其实就是一个通知队列，由操作系统把已经完成的重叠I/O请求的通知放入其中。当某项I/O操作一旦完成，某个可以对该操作结果进行处理的工作者线程就会收到一则通知。

　　通常情况下，我们会在创建一定数量的工作者线程来处理这些通知，也就是线程池的方法。线程数量取决于应用程序的特定需要。理想的情况是，线程数量等于处理器的数量，不过这也要求任何线程都不应该执行诸如同步读写、等待事件通知等阻塞型的操作，以免线程阻塞。每个线程都将分到一定的CPU时间，在此期间该线程可以运行，然后另一个线程将分到一个时间片并开始执行。如果某个线程执行了阻塞型的操作，操作系统将剥夺其未使用的剩余时间片并让其它线程开始执行。也就是说，前一个线程没有充分使用其时间片，当发生这样的情况时，应用程序应该准备其它线程来充分利用这些时间片。

3. IOCP优点

　　基于IOCP的开发是异步IO的，决定了IOCP所实现的服务器的高吞吐量。

　　通过引入IOCP，会大大减少Thread切换带来的额外开销，最小化的线程上下文切换，减少线程切换带来的巨大开销，让CPU把大量的事件用于线程的运行。当与该完成端口相关联的可运行线程的总数目达到了该并发量，系统就会阻塞，

4. IOCP应用

4.1 创建和关联完成端口

//功能：创建完成端口和关联完成端口

 HANDLE WINAPI CreateIoCompletionPort(

     *    __in   HANDLE FileHandle,              // 已经打开的文件句柄或者空句柄，一般是客户端的句柄

     *    __in   HANDLE ExistingCompletionPort,  // 已经存在的IOCP句柄

     *    __in   ULONG_PTR CompletionKey,        // 完成键，包含了指定I/O完成包的指定文件

     *    __in   DWORD NumberOfConcurrentThreads // 真正并发同时执行最大线程数，一般推介是CPU核心数*2

     * );
//创建完成端口句柄

HANDLE completionPort = CreateIoCompletionPort(INVALID_HANDLE_VALUE, NULL, , )；

4.2 与socket进行关联

typedef struct{

    SOCKET socket;//客户端socket

    SOCKADDR_STORAGE ClientAddr;//客户端地址

}PER_HANDLE_DATA, *LPPER_HANDLE_DATA;
//与socket进行关联

CreateIoCompletionPort((HANDLE)(PerHandleData -> socket), 
　　　　　　　　　　completionPort, (DWORD)PerHandleData, );

4.3 获取队列完成状态

//功能：获取队列完成状态

/*

返回值：

调用成功，则返回非零数值，相关数据存于lpNumberOfBytes、lpCompletionKey、
lpoverlapped变量中。失败则返回零值。

*/

BOOL   GetQueuedCompletionStatus(

    HANDLE   CompletionPort,          //完成端口句柄

    LPDWORD   lpNumberOfBytes,    //一次I/O操作所传送的字节数

    PULONG_PTR   lpCompletionKey, //当文件I/O操作完成后，用于存放与之关联的CK

    LPOVERLAPPED   *lpOverlapped, //IOCP特定的结构体

    DWORD   dwMilliseconds);           //调用者的等待时间

/*

4.4 用于IOCP的特点函数

//用于IOCP的特定函数

typedef struct _OVERLAPPEDPLUS{

    OVERLAPPED ol;      //一个固定的用于处理网络消息事件返回值的结构体变量

    SOCKET s, sclient;  int OpCode;  //用来区分本次消息的操作类型（在完成端口的操作里面，
　　　　　　　　　　　　　　　　　　　　　　　是以消息通知系统，读数据/写数据，都是要发这样的
　　　　　　　　　　　　　　　　　　　　　　  消息结构体过去的）

    WSABUF wbuf;　　　　 //读写缓冲区结构体变量

    DWORD dwBytes, dwFlags; //一些在读写时用到的标志性变量

}OVERLAPPEDPLUS;

4.5 投递一个队列完成状态

//功能：投递一个队列完成状态

BOOL PostQueuedCompletionStatus(

　　HANDLE CompletlonPort, //指定想向其发送一个完成数据包的完成端口对象

　　DW0RD dwNumberOfBytesTrlansferred, //指定—个值,直接传递给GetQueuedCompletionStatus
　　　　　　　　　　　　　　　　　　　　　　　　函数中对应的参数

　　DWORD dwCompletlonKey, //指定—个值,直接传递给GetQueuedCompletionStatus函数中对应的参数

　　LPOVERLAPPED lpoverlapped, ); //指定—个值,直接传递给GetQueuedCompletionStatus
　　　　　　　　　　　　　　　　　　　　函数中对应的参数

5. 示例

#include <winsock2.h>

#include <windows.h>

#include <string>

#include <iostream>

using namespace std;

#pragma comment(lib,"ws2_32.lib")

#pragma comment(lib,"kernel32.lib")

HANDLE g_hIOCP;

enum IO_OPERATION{IO_READ,IO_WRITE};

struct IO_DATA{

    OVERLAPPED                  Overlapped;

    WSABUF                      wsabuf;

    int                         nBytes;

    IO_OPERATION                opCode;

    SOCKET                      client;

};

char buffer[];

DWORD WINAPI WorkerThread (LPVOID WorkThreadContext) {

    IO_DATA *lpIOContext = NULL;

    DWORD nBytes = ;

    DWORD dwFlags = ;

    int nRet = ;

    DWORD dwIoSize = ;

    void * lpCompletionKey = NULL;

    LPOVERLAPPED lpOverlapped = NULL;

    while(){

        GetQueuedCompletionStatus(g_hIOCP, &dwIoSize,(LPDWORD)&lpCompletionKey,(LPOVERLAPPED *)&lpOverlapped, INFINITE);

        lpIOContext = (IO_DATA *)lpOverlapped;

        if(dwIoSize == )

        {

            cout << "Client disconnect" << endl;

            closesocket(lpIOContext->client);

            delete lpIOContext;

            continue;

        }

        if(lpIOContext->opCode == IO_READ) // a read operation complete

        {

            ZeroMemory(&lpIOContext->Overlapped, sizeof(lpIOContext->Overlapped));

            lpIOContext->wsabuf.buf = buffer;

            lpIOContext->wsabuf.len = strlen(buffer)+;

            lpIOContext->opCode = IO_WRITE;

            lpIOContext->nBytes = strlen(buffer)+;

            dwFlags = ;

            nBytes = strlen(buffer)+;

            nRet = WSASend(

                lpIOContext->client,

                &lpIOContext->wsabuf, , &nBytes,

                dwFlags,

                &(lpIOContext->Overlapped), NULL);

            if( nRet == SOCKET_ERROR && (ERROR_IO_PENDING != WSAGetLastError()) ) {

                cout << "WASSend Failed::Reason Code::"<< WSAGetLastError() << endl;

                closesocket(lpIOContext->client);

                delete lpIOContext;

                continue;

            }

            memset(buffer, NULL, sizeof(buffer));

        }

        else if(lpIOContext->opCode == IO_WRITE) //a write operation complete

        {

            // Write operation completed, so post Read operation.

            lpIOContext->opCode = IO_READ;

            nBytes = ;

            dwFlags = ;

            lpIOContext->wsabuf.buf = buffer;

            lpIOContext->wsabuf.len = nBytes;

            lpIOContext->nBytes = nBytes;

            ZeroMemory(&lpIOContext->Overlapped, sizeof(lpIOContext->Overlapped));

            nRet = WSARecv(

                lpIOContext->client,

                &lpIOContext->wsabuf, , &nBytes,

                &dwFlags,

                &lpIOContext->Overlapped, NULL);

            if( nRet == SOCKET_ERROR && (ERROR_IO_PENDING != WSAGetLastError()) ) {

                cout << "WASRecv Failed::Reason Code1::"<< WSAGetLastError() << endl;

                closesocket(lpIOContext->client);

                delete lpIOContext;

                continue;

            }

            cout<<lpIOContext->wsabuf.buf<<endl;

        }

    }

    return ;

}

void main ()

{

    WSADATA wsaData;

    WSAStartup(MAKEWORD(,), &wsaData);

    SOCKET    m_socket = WSASocket(AF_INET,SOCK_STREAM, IPPROTO_TCP, NULL,,WSA_FLAG_OVERLAPPED);

    sockaddr_in server;

    server.sin_family = AF_INET;

    server.sin_port = htons();

    server.sin_addr.S_un.S_addr = htonl(INADDR_ANY);

    bind(m_socket ,(sockaddr*)&server,sizeof(server));

    listen(m_socket, );

    SYSTEM_INFO sysInfo;

    GetSystemInfo(&sysInfo);

    int g_ThreadCount = sysInfo.dwNumberOfProcessors * ;

    g_hIOCP = CreateIoCompletionPort(INVALID_HANDLE_VALUE,NULL,,g_ThreadCount);

    //CreateIoCompletionPort((HANDLE)m_socket,g_hIOCP,0,0);

    for( int i=;i < g_ThreadCount; ++i){

        HANDLE  hThread;

        DWORD   dwThreadId;

        hThread = CreateThread(NULL, , WorkerThread, , , &dwThreadId);

        CloseHandle(hThread);

    }

    while()

    {

        SOCKET client = accept( m_socket, NULL, NULL );

        cout << "Client connected." << endl;

        if (CreateIoCompletionPort((HANDLE)client, g_hIOCP, , ) == NULL){

            cout << "Binding Client Socket to IO Completion Port Failed::Reason Code::"<< GetLastError() << endl;

            closesocket(client);

        }

        else { //post a recv request

            IO_DATA * data = new IO_DATA;

            memset(buffer, NULL ,);

            memset(&data->Overlapped,  , sizeof(data->Overlapped));

            data->opCode = IO_READ;

            data->nBytes = ;

            data->wsabuf.buf  = buffer;

            data->wsabuf.len  = sizeof(buffer);

            data->client = client;

            DWORD nBytes=  ,dwFlags=;

            int nRet = WSARecv(client,&data->wsabuf, , &nBytes,

                &dwFlags,

                &data->Overlapped, NULL);

            if(nRet == SOCKET_ERROR  && (ERROR_IO_PENDING != WSAGetLastError())){

                cout << "WASRecv Failed::Reason Code::"<< WSAGetLastError() << endl;

                closesocket(client);

                delete data;

            }

            cout<<data->wsabuf.buf<<endl;

        }

    }

    closesocket(m_socket);

    WSACleanup();

}

Server.cpp

#include <iostream>

#include <WinSock2.h>

using namespace std;

#pragma comment(lib,"ws2_32.lib")

void main()

{

    WSADATA wsaData;

    WSAStartup(MAKEWORD(,), &wsaData);

    sockaddr_in server;

    server.sin_family = AF_INET;

    server.sin_port   = htons();

    server.sin_addr.S_un.S_addr = inet_addr("127.0.0.1");

    SOCKET client = socket(AF_INET, SOCK_STREAM, IPPROTO_TCP);

    int flag;

    flag = connect(client, (sockaddr*)&server, sizeof(server));

    if(flag < ){

        cout<<"error!"<<endl;

        return;

    }

    while(){

        cout<<"sent hello!!!!"<<endl;

        char buffer[];

        strcpy(buffer,"hello");

        send(client, buffer, , );

        memset(buffer, NULL, sizeof(buffer));

        cout<<"recv: "<<endl;

        int rev = recv(client, buffer, , );

        if(rev == )

            cout<<"recv nothing!"<<endl;

        cout<<buffer<<endl;

        Sleep();

    }

    closesocket(client);

    WSACleanup();

}

client.cpp

最新文章

  1. Spring MVC 中 HandlerInterceptorAdapter的使用
  2. HTML5 获取地理位置信息
  3. 多个Python环境的构建：基于virtualenv 包
  4. 基于OpenCv的人脸检测、识别系统学习制作笔记之三
  5. Unity 实现物体破碎效果（转）
  6. iOS-打开word、ppt、pdf、execl文档方式
  7. Yii2.0中文开发向导——Yii2中多表关联查询（join、joinwith)
  8. redis客户端--jedis
  9. Yii 中的createUrl和redirectUrl
  10. 【Linux/Ubuntu学习8】unbuntu 下播放swf文件
  11. 小白日记13：kali渗透测试之服务扫描（三）-SMTB扫描、防火墙识别、负载均衡识别、WAF识别
  12. 于CentOS 6 安装 Wordpress
  13. 大数据学习系列之七 ----- Hadoop+Spark+Zookeeper+HBase+Hive集群搭建 图文详解
  14. Python基础_文件的的处理及异常处理
  15. Iterate over slices of a string
  16. spring boot application.properties详解
  17. activiti5/6 系列之--Activiti 读取并转换BPMN2文件
  18. c# 四舍五入、上取整、下取整
  19. puppeteer （Nodejs版selenium ）快速入门
  20. 显示列表控件（引用SourceGrid）

热门文章

  1. 类百度DOC编辑区域
  2. Redis的分布式配置
  3. Python 列表List的定义及操作
  4. 【转载】用Scikit-Learn构建K-近邻算法，分类MNIST数据集
  5. Linux 系统密码破解
  6. 关于Hystrix
  7. 创建SVN仓库的步骤
  8. codeforces 777C.Alyona and Spreadsheet 解题报告
  9. java:IO:file 类
  10. selenium与firefox版本不兼容