内存映射文件大家都时不时听过,但它到底是个什么?赶紧来看看吧

内存映射文件到底是干嘛的呢?让我们先来思考下面几个问题:
如果您想读的内容大于系统分配的内存块怎么办?如果您想搜索的字符串刚好超过内存块的边界又该如何处理?对于第一个问题,您也许会说,只要不断地读就不解决了吗。至于第二个问题,您又会说在内存块的边界处做一些特别的处理,譬如放上一些标志位就可以了。原理上确实是行得通,但是这随问题复杂程度加深而显得非常难以处理。其中的第二个问题是有名的边界判断问题,程序中许许多多的错误都是由此引起。想一想,如果我们能够分配一个能够容纳整个文件的大内存块该多好啊,这样这两个问题不都迎刃而解了吗?是的,WIN32的内存映射文件确实允许我们分配一个装得下现实中可能存在的足够大的文件的内存。
1#include <iostream> 2#include <fcntl.h> 3#include <io.h> 4#include <afxwin.h> 5using namespace std; 6 7int main() 8{ 9 /开始 10 //获得文件句柄 11 HANDLE hFile=CreateFile( 12 "c:\\test.dat", //文件名 13 GENERIC_READ|GENERIC_WRITE, //对文件进行读写操作 14 FILE_SHARE_READ|FILE_SHARE_WRITE, 15 NULL, 16 OPEN_EXISTING, //打开已存在文件 17 FILE_ATTRIBUTE_NORMAL, 18 0); 19 20 //返回值size_high,size_low分别表示文件大小的高32位/低32位 21 DWORD size_low,size_high; 22 size_low= GetFileSize(hFile,&size_high); 23 24 //创建文件的内存映射文件。 25 HANDLE hMapFile=CreateFileMapping( 26 hFile, 27 NULL, 28 PAGE_READWRITE, //对映射文件进行读写 29 size_high, 30 size_low, //这两个参数共64位,所以支持的最大文件长度为16EB 31 NULL); 32 if(hMapFile==INVALID_HANDLE_VALUE) 33 { 34 AfxMessageBox("Can't create file mapping.Error%d:\n", GetLastError()); 35 CloseHandle(hFile); 36 return 0; 37 } 38 39 //把文件数据映射到进程的地址空间 40 void* pvFile=MapViewOfFile( 41 hMapFile, 42 FILE_MAP_READ|FILE_MAP_WRITE, 43 0, 44 0, 45 0); 46 unsigned char *p=(unsigned char*)pvFile; 47 48 //至此,就获得了外部文件test.dat在内存地址空间的映射, 49 //下面就可以用指针p"折磨"这个文件了 50 CString s; 51 p[size_low-1]='!'; 52 p[size_low-2]='X'; //修改该文件的最后两个字节(文件大小<4GB高32位为0) 53 s.Format("%s",p); 54 //读文件的最后3个字节 55 AfxMessageBox(s); 56 57 58 //结束 59 //UnmapViewOfFile(pvFile); //撤销映射 60 //CloseHandle(hFile); //关闭文件 61 62 return 0; 63} 64 65#include <iostream> 66#include <fcntl.h> 67#include <io.h> 68#include <afxwin.h> 69using namespace std; 70 71int main() 72{ 73 //开始 74 //获得文件句柄 75 HANDLE hFile=CreateFile( 76 "c:\\test.dat", //文件名 77 GENERIC_READ|GENERIC_WRITE, //对文件进行读写操作 78 FILE_SHARE_READ|FILE_SHARE_WRITE, 79 NULL, 80 OPEN_EXISTING, //打开已存在文件 81 FILE_ATTRIBUTE_NORMAL, 82 0); 83 84 //返回值size_high,size_low分别表示文件大小的高32位/低32位 85 DWORD size_low,size_high; 86 size_low= GetFileSize(hFile,&size_high); 87 88 //创建文件的内存映射文件。 89 HANDLE hMapFile=CreateFileMapping( 90 hFile, 91 NULL, 92 PAGE_READWRITE, //对映射文件进行读写 93 size_high, 94 size_low, //这两个参数共64位,所以支持的最大文件长度为16EB 95 NULL); 96 if(hMapFile==INVALID_HANDLE_VALUE) 97 { 98 AfxMessageBox("Can't create file mapping.Error%d:\n", GetLastError()); 99 CloseHandle(hFile); 100 return 0; 101 } 102 103 //把文件数据映射到进程的地址空间 104 void* pvFile=MapViewOfFile( 105 hMapFile, 106 FILE_MAP_READ|FILE_MAP_WRITE, 107 0, 108 0, 109 0); 110 unsigned char *p=(unsigned char*)pvFile; 111 112 //至此,就获得了外部文件test.dat在内存地址空间的映射, 113 //下面就可以用指针p"折磨"这个文件了 114 CString s; 115 p[size_low-1]='!'; 116 p[size_low-2]='X'; //修改该文件的最后两个字节(文件大小<4GB高32位为0) 117 s.Format("%s",p); 118 //读文件的最后3个字节 119 AfxMessageBox(s); 120 121 122 //结束 123 //UnmapViewOfFile(pvFile); //撤销映射 124 //CloseHandle(hFile); //关闭文件 125 126 return 0; 127}
往小了说,只要你把这几个API函数搞定了,一般的内存映射问题就可以解决了。。
利用内存映射文件您可以认为操作系统已经为您把文件全部装入了内存,然后您只要移动文件指针进行读写即可了。这样您甚至不需要调用那些分配、释放内存块和文件输入/输出的API函数,另外您可以把这用作不同的进程之间共享数据的一种办法。运用内存映射文件实际上没有涉及实际的文件操作,它更象为每个进程保留一个看得见的内存空间。
至于把内存映射文件当成进程间共享数据的办法来用,则要加倍小心,因为您不得不处理数据的同步问题,否则您的应用程序也许很可能得到过时或错误的数据甚至崩溃。本课中我们将主要讲述内存映射文件,将不涉及进程间的同步。WIN32中的内存映射文件应用非常广泛,譬如:即使是系统的核心模块—PE格式文件装载器也用到了内存映射文件,因为PE格式的文件并不是一次性加载到内存中来的,譬如他它在首次加载时只加载必需加载的部分,而其他部分在用到时再加载,这正好可以利用到内存映射文件的长处。实际中的大多数文件存取都和PE加载器类似,所以您在处理该类问题时也应该充分利用内存映射文件。
以下介绍如何使用CreateFileMapping,MapViewOfFile创建内存映射文件,如何向内存映射文件中写入数据,读取数据。
1#include <iostream> 2#include <assert.h> 3 4#include <Windows.h> 5#include <WinBase.h> 6 7#define BAD_POS 0xFFFFFFFF // returned by SetFilePointer and GetFileSize 8#define SUCCESS 0 9using namespace std; 10 11 12typedef DWORD mmf_share_mode; 13typedef DWORD mmf_access_mode; 14typedef DWORD mmf_flags; 15 16 17int main(){ 18 cout<<"create memorymapfile..."<<endl; 19 const char* shared_name = "testMmf"; 20 const char* file_name = "d:\\testMmf.mmf"; 21 const DWORD mmf_size = 512*1024; 22 //存取模式 23 mmf_access_mode access_mode = (GENERIC_READ|GENERIC_WRITE); 24 //共享模式 25 mmf_share_mode share_mode = FILE_SHARE_READ | FILE_SHARE_WRITE; 26 //文件属性 27 mmf_flags flags = FILE_FLAG_SEQUENTIAL_SCAN;//|FILE_FLAG_WRITE_THROUGH|FILE_FLAG_NO_BUFFERING; 28 DWORD error_code; 29 30 //创建文件 31 HANDLE mmHandle = 32 CreateFile(file_name, 33 access_mode, 34 share_mode, 35 NULL, 36 OPEN_ALWAYS, 37 flags, 38 NULL); 39 40 if (mmHandle == INVALID_HANDLE_VALUE) { 41 error_code = GetLastError(); 42 cout<<"创建mmf失败:"<<error_code<<endl; 43 }else{ 44 DWORD high_size; 45 DWORD file_size = GetFileSize(mmHandle, &high_size); 46 if (file_size == BAD_POS && (error_code = GetLastError()) != SUCCESS) { 47 CloseHandle(mmHandle); 48 cout<<"error:"<<error_code<<endl; 49 } 50 cout<<"create mmf sucessfully"<<endl; 51 52 //assert(file_size == 0); 53 54 DWORD size_high = 0; 55 //创建文件映射,如果要创建内存页面文件的映射,第一个参数设置为INVALID_HANDLE_VALUE 56 HANDLE mmfm = CreateFileMapping(mmHandle, 57 NULL, 58 PAGE_READWRITE, 59 size_high, 60 mmf_size, 61 shared_name); 62 63 error_code = GetLastError(); 64 if(SUCCESS != error_code){ 65 cout<<"createFileMapping error"<<error_code<<endl; 66 }else{ 67 if(mmfm == NULL){ 68 if(mmHandle != INVALID_HANDLE_VALUE){ 69 CloseHandle(mmHandle); 70 } 71 }else{ 72 //char write_chars[] = "hello chars"; 73 //size_t position = 0; 74 //DWORD written = 0; 75 //const size_t write_chars_size = sizeof(write_chars); 76 //WriteFile(mmHandle,write_chars,write_chars_size,&written,NULL); 77 size_t view_size = 1024*256; 78 DWORD view_access = FILE_MAP_ALL_ACCESS; 79 80 //获得映射视图 81 char* mmfm_base_address = (char*)MapViewOfFile(mmfm,view_access,0,0,view_size); 82 if(mmfm_base_address == NULL){ 83 error_code = GetLastError(); 84 if(error_code != SUCCESS){ 85 cout<<"error code "<<error_code<<endl; 86 } 87 }else{ 88 char write_chars[] = "hello chars"; 89 const size_t write_chars_size = sizeof(write_chars); 90 //向内存映射视图中写数据 91 CopyMemory((PVOID)mmfm_base_address, write_chars, write_chars_size); 92 93 //memcpy(mmfm_base_address,write_chars,write_chars_size); 94 95 size_t position = 0; 96 char read_chars[write_chars_size]; 97 98 //读数据 99 memcpy(read_chars,mmfm_base_address,write_chars_size); 100 cout<<"read chars "<<read_chars<<endl; 101 102 //卸载映射 103 UnmapViewOfFile(mmfm_base_address); 104 //关闭内存映射文件 105 CloseHandle(mmfm); 106 //关闭文件 107 CloseHandle(mmHandle); 108 } 109 } 110 } 111 } 112 113 114 115 system("pause"); 116 exit(0); 117 return EXIT_SUCCESS; 118}
内存映射文件本身还是有一些局限性的,譬如一旦您生成了一个内存映射文件,那么您在那个会话期间是不能够改变它的大小的。所以内存映射文件对于只读文件和不会影响其大小的文件操作是非常有用的。当然这并不意味着对于会引起改变其大小的文件操作就一定不能用内存影射文件的方法,您可以事先估计操作后的文件的可能大小,然后生成这么大小一块的内存映射文件,然后文件的长度就可以增长到这么一个大小。
1#include <iostream> 2#include <assert.h> 3 4#include <Windows.h> 5#include <WinBase.h> 6 7#define BAD_POS 0xFFFFFFFF // returned by SetFilePointer and GetFileSize 8#define SUCCESS 0 9using namespace std; 10 11 12typedef DWORD mmf_share_mode; 13typedef DWORD mmf_access_mode; 14typedef DWORD mmf_flags; 15 16 17int main(){ 18 cout<<"create memorymapfile..."<<endl; 19 const char* shared_name = "testMmf"; 20 const char* file_name = "d:\\testMmf.mmf"; 21 const DWORD mmf_size = 512*1024; 22 //存取模式 23 mmf_access_mode access_mode = (GENERIC_READ|GENERIC_WRITE); 24 //共享模式 25 mmf_share_mode share_mode = FILE_SHARE_READ | FILE_SHARE_WRITE; 26 //文件属性 27 mmf_flags flags = FILE_FLAG_SEQUENTIAL_SCAN;//|FILE_FLAG_WRITE_THROUGH|FILE_FLAG_NO_BUFFERING; 28 DWORD error_code; 29 30 //创建文件 31 HANDLE mmHandle = 32 CreateFile(file_name, 33 access_mode, 34 share_mode, 35 NULL, 36 OPEN_ALWAYS, 37 flags, 38 NULL); 39 40 if (mmHandle == INVALID_HANDLE_VALUE) { 41 error_code = GetLastError(); 42 cout<<"创建mmf失败:"<<error_code<<endl; 43 }else{ 44 DWORD high_size; 45 DWORD file_size = GetFileSize(mmHandle, &high_size); 46 if (file_size == BAD_POS && (error_code = GetLastError()) != SUCCESS) { 47 CloseHandle(mmHandle); 48 cout<<"error:"<<error_code<<endl; 49 } 50 cout<<"create mmf sucessfully"<<endl; 51 52 //assert(file_size == 0); 53 54 DWORD size_high = 0; 55 //创建文件映射,如果要创建内存页面文件的映射,第一个参数设置为INVALID_HANDLE_VALUE 56 HANDLE mmfm = CreateFileMapping(mmHandle, 57 NULL, 58 PAGE_READWRITE, 59 size_high, 60 mmf_size, 61 shared_name); 62 63 error_code = GetLastError(); 64 if(SUCCESS != error_code){ 65 cout<<"createFileMapping error"<<error_code<<endl; 66 }else{ 67 if(mmfm == NULL){ 68 if(mmHandle != INVALID_HANDLE_VALUE){ 69 CloseHandle(mmHandle); 70 } 71 }else{ 72 //char write_chars[] = "hello chars"; 73 //size_t position = 0; 74 //DWORD written = 0; 75 //const size_t write_chars_size = sizeof(write_chars); 76 //WriteFile(mmHandle,write_chars,write_chars_size,&written,NULL); 77 size_t view_size = 1024*256; 78 DWORD view_access = FILE_MAP_ALL_ACCESS; 79 80 //获得映射视图 81 char* mmfm_base_address = (char*)MapViewOfFile(mmfm,view_access,0,0,view_size); 82 if(mmfm_base_address == NULL){ 83 error_code = GetLastError(); 84 if(error_code != SUCCESS){ 85 cout<<"error code "<<error_code<<endl; 86 } 87 }else{ 88 char write_chars[] = "hello chars"; 89 const size_t write_chars_size = sizeof(write_chars); 90 //向内存映射视图中写数据 91 CopyMemory((PVOID)mmfm_base_address, write_chars, write_chars_size); 92 93 //memcpy(mmfm_base_address,write_chars,write_chars_size); 94 95 size_t position = 0; 96 char read_chars[write_chars_size]; 97 98 //读数据 99 memcpy(read_chars,mmfm_base_address,write_chars_size); 100 cout<<"read chars "<<read_chars<<endl; 101 102 //卸载映射 103 UnmapViewOfFile(mmfm_base_address); 104 //关闭内存映射文件 105 CloseHandle(mmfm); 106 //关闭文件 107 CloseHandle(mmHandle); 108 } 109 } 110 } 111 } 112 113 114 115 system("pause"); 116 exit(0); 117 return EXIT_SUCCESS; 118}
最后还是要推荐下小编的C/C++学习群:710520381,邀请码(柳猫),不管你是小白还是大牛,小编我都欢迎,不定期分享干货,包括小编自己整理的一份2018最新的C/C++和0基础入门教程,欢迎初学和进阶中的小伙伴。