วิธีรับการใช้หน่วยความจำในรันไทม์โดยใช้ C ++


90

ฉันต้องการรับ VIRT การใช้งาน mem และ RES ณ เวลาทำงานของโปรแกรมของฉันและแสดง

สิ่งที่ฉันพยายามจนถึงตอนนี้:

getrusage ( http://linux.die.net/man/2/getrusage )

int who = RUSAGE_SELF; 
struct rusage usage; 
int ret; 

ret=getrusage(who,&usage);

cout<<usage.ru_maxrss;

แต่ฉันจะได้ 0 เสมอ


3
สิ่งนี้ขึ้นอยู่กับระบบ - ดูเหมือนว่าระบบของคุณไม่รองรับการรายงาน maxrss ผ่าน getrusage - คุณสามารถบอกเราได้ไหมว่าคุณใช้การกระจายแบบใด?
tvanfosson

คำตอบ:


79

บน Linux ฉันไม่เคยพบโซลูชันioctl () สำหรับการใช้งานของเราเรารหัสประจำยูทิลิตี้ทั่วไปตามที่ไฟล์ในการอ่าน/ proc / pid มีไฟล์เหล่านี้จำนวนมากที่ให้ผลลัพธ์ที่แตกต่างกัน นี่คือสิ่งที่เราตัดสิน (คำถามถูกแท็ก C ++ และเราจัดการ I / O โดยใช้โครงสร้าง C ++ แต่ควรปรับให้เข้ากับกิจวัตร C i / o ได้อย่างง่ายดายหากคุณต้องการ):

#include <unistd.h>
#include <ios>
#include <iostream>
#include <fstream>
#include <string>

//////////////////////////////////////////////////////////////////////////////
//
// process_mem_usage(double &, double &) - takes two doubles by reference,
// attempts to read the system-dependent data for a process' virtual memory
// size and resident set size, and return the results in KB.
//
// On failure, returns 0.0, 0.0

void process_mem_usage(double& vm_usage, double& resident_set)
{
   using std::ios_base;
   using std::ifstream;
   using std::string;

   vm_usage     = 0.0;
   resident_set = 0.0;

   // 'file' stat seems to give the most reliable results
   //
   ifstream stat_stream("/proc/self/stat",ios_base::in);

   // dummy vars for leading entries in stat that we don't care about
   //
   string pid, comm, state, ppid, pgrp, session, tty_nr;
   string tpgid, flags, minflt, cminflt, majflt, cmajflt;
   string utime, stime, cutime, cstime, priority, nice;
   string O, itrealvalue, starttime;

   // the two fields we want
   //
   unsigned long vsize;
   long rss;

   stat_stream >> pid >> comm >> state >> ppid >> pgrp >> session >> tty_nr
               >> tpgid >> flags >> minflt >> cminflt >> majflt >> cmajflt
               >> utime >> stime >> cutime >> cstime >> priority >> nice
               >> O >> itrealvalue >> starttime >> vsize >> rss; // don't care about the rest

   stat_stream.close();

   long page_size_kb = sysconf(_SC_PAGE_SIZE) / 1024; // in case x86-64 is configured to use 2MB pages
   vm_usage     = vsize / 1024.0;
   resident_set = rss * page_size_kb;
}

int main()
{
   using std::cout;
   using std::endl;

   double vm, rss;
   process_mem_usage(vm, rss);
   cout << "VM: " << vm << "; RSS: " << rss << endl;
}

คุณมีการรับประกันเกี่ยวกับโครงสร้าง / proc / self / stat ภายใต้แพลตฟอร์ม * nix ที่แตกต่างกันหรือไม่? ... ไม่แน่ใจ แต่ถ้าใช่ก็จะดี
bayda

ในช่วงหลายปีที่ผ่านมาฉันใช้ Solaris, HP-UX และ Linux เป็นส่วนใหญ่ / proc / self / stat น่าจะเป็น Linux-ism เวอร์ชันดั้งเดิมของโปรแกรมข้างต้นมีบล็อก #if สำหรับ Solaris เนื่องจากแตกต่างกัน
Don Wakefield

ฉันสมมติว่า OP สนใจเฉพาะ Linux ตามการแท็กคำถาม การอ่าน / proc จะดีพอ ๆ กับที่คุณได้รับ ใน Solaris คุณยังสามารถรับข้อมูลเกี่ยวกับสิ่งต่างๆได้ผ่าน kstat (แม้ว่ามันมักจะจำลองสิ่งที่คุณจะได้รับด้วยวิธีอื่นก็ตาม)
stsquad

ฉันเพิ่งไปงานปาร์ตี้ช้าไป 10 ปี แต่ช่วยบอกหน่อยได้ไหมว่าทำไมคุณหาร vsize ด้วย 1024.0 แทนที่จะเป็น 1024
a_river_in_canada

1
re: why 1024.0?- มันบอกให้คอมไพเลอร์แปลงเป็น FIRST สองครั้งจากนั้นทำการหารเพื่อให้ได้ผลลัพธ์สองเท่า อีกทางเลือกหนึ่ง: vm_usage = vsize / 1024;จะทำการหารก่อน (สูญเสียความแม่นยำเมื่อ @DonWakefield ใกล้ชิด) แล้วแปลงเป็นสองเท่า
Jesse Chisholm

52

David Robert Nadeauได้ใช้ฟังก์ชัน C ที่มีหลายแพลตฟอร์มในตัวเพื่อให้ได้ขนาดชุดที่อยู่อาศัยของกระบวนการ (การใช้หน่วยความจำกายภาพ)ในเว็บไซต์ของเขา:

/*
 * Author:  David Robert Nadeau
 * Site:    http://NadeauSoftware.com/
 * License: Creative Commons Attribution 3.0 Unported License
 *          http://creativecommons.org/licenses/by/3.0/deed.en_US
 */

#if defined(_WIN32)
#include <windows.h>
#include <psapi.h>

#elif defined(__unix__) || defined(__unix) || defined(unix) || (defined(__APPLE__) && defined(__MACH__))
#include <unistd.h>
#include <sys/resource.h>

#if defined(__APPLE__) && defined(__MACH__)
#include <mach/mach.h>

#elif (defined(_AIX) || defined(__TOS__AIX__)) || (defined(__sun__) || defined(__sun) || defined(sun) && (defined(__SVR4) || defined(__svr4__)))
#include <fcntl.h>
#include <procfs.h>

#elif defined(__linux__) || defined(__linux) || defined(linux) || defined(__gnu_linux__)
#include <stdio.h>

#endif

#else
#error "Cannot define getPeakRSS( ) or getCurrentRSS( ) for an unknown OS."
#endif





/**
 * Returns the peak (maximum so far) resident set size (physical
 * memory use) measured in bytes, or zero if the value cannot be
 * determined on this OS.
 */
size_t getPeakRSS( )
{
#if defined(_WIN32)
    /* Windows -------------------------------------------------- */
    PROCESS_MEMORY_COUNTERS info;
    GetProcessMemoryInfo( GetCurrentProcess( ), &info, sizeof(info) );
    return (size_t)info.PeakWorkingSetSize;

#elif (defined(_AIX) || defined(__TOS__AIX__)) || (defined(__sun__) || defined(__sun) || defined(sun) && (defined(__SVR4) || defined(__svr4__)))
    /* AIX and Solaris ------------------------------------------ */
    struct psinfo psinfo;
    int fd = -1;
    if ( (fd = open( "/proc/self/psinfo", O_RDONLY )) == -1 )
        return (size_t)0L;      /* Can't open? */
    if ( read( fd, &psinfo, sizeof(psinfo) ) != sizeof(psinfo) )
    {
        close( fd );
        return (size_t)0L;      /* Can't read? */
    }
    close( fd );
    return (size_t)(psinfo.pr_rssize * 1024L);

#elif defined(__unix__) || defined(__unix) || defined(unix) || (defined(__APPLE__) && defined(__MACH__))
    /* BSD, Linux, and OSX -------------------------------------- */
    struct rusage rusage;
    getrusage( RUSAGE_SELF, &rusage );
#if defined(__APPLE__) && defined(__MACH__)
    return (size_t)rusage.ru_maxrss;
#else
    return (size_t)(rusage.ru_maxrss * 1024L);
#endif

#else
    /* Unknown OS ----------------------------------------------- */
    return (size_t)0L;          /* Unsupported. */
#endif
}





/**
 * Returns the current resident set size (physical memory use) measured
 * in bytes, or zero if the value cannot be determined on this OS.
 */
size_t getCurrentRSS( )
{
#if defined(_WIN32)
    /* Windows -------------------------------------------------- */
    PROCESS_MEMORY_COUNTERS info;
    GetProcessMemoryInfo( GetCurrentProcess( ), &info, sizeof(info) );
    return (size_t)info.WorkingSetSize;

#elif defined(__APPLE__) && defined(__MACH__)
    /* OSX ------------------------------------------------------ */
    struct mach_task_basic_info info;
    mach_msg_type_number_t infoCount = MACH_TASK_BASIC_INFO_COUNT;
    if ( task_info( mach_task_self( ), MACH_TASK_BASIC_INFO,
        (task_info_t)&info, &infoCount ) != KERN_SUCCESS )
        return (size_t)0L;      /* Can't access? */
    return (size_t)info.resident_size;

#elif defined(__linux__) || defined(__linux) || defined(linux) || defined(__gnu_linux__)
    /* Linux ---------------------------------------------------- */
    long rss = 0L;
    FILE* fp = NULL;
    if ( (fp = fopen( "/proc/self/statm", "r" )) == NULL )
        return (size_t)0L;      /* Can't open? */
    if ( fscanf( fp, "%*s%ld", &rss ) != 1 )
    {
        fclose( fp );
        return (size_t)0L;      /* Can't read? */
    }
    fclose( fp );
    return (size_t)rss * (size_t)sysconf( _SC_PAGESIZE);

#else
    /* AIX, BSD, Solaris, and Unknown OS ------------------------ */
    return (size_t)0L;          /* Unsupported. */
#endif
}

การใช้งาน

size_t currentSize = getCurrentRSS( );
size_t peakSize    = getPeakRSS( );

สำหรับการอภิปรายเพิ่มเติมให้ตรวจสอบเว็บไซต์ก็ยังมีฟังก์ชั่นเพื่อให้ได้ขนาดหน่วยความจำทางกายภาพของระบบได้


2
ได้ดีกว่าเพิ่ม#pragma comment(lib, "psapi.lib")ไปยัง#if defined(_WIN32)ขอบเขต
Bloodmoon

1
@Bloodmon จะเป็นอย่างไรถ้ามีคนใช้ windows แต่ไม่ใช่ microsoft compiler? pragma นั้นจะทำให้คอมไพเลอร์ล้มเหลว
เอเดรียน

รหัสนี้ใช้ rusage :: ru_maxrss จาก getrusage ซึ่ง OP รายงานว่าไม่ได้ผลสำหรับเธอ
facetus

22

เก่า:

maxrss ระบุหน่วยความจำสูงสุดที่พร้อมใช้งานสำหรับกระบวนการ 0 หมายความว่าไม่มีขีด จำกัด ในกระบวนการ ru_idrssสิ่งที่คุณอาจต้องการคือการใช้ข้อมูลยกเลิกการแชร์

ใหม่: ดูเหมือนว่าข้างต้นใช้งานไม่ได้จริงเนื่องจากเคอร์เนลไม่เติมเต็มค่าส่วนใหญ่ สิ่งที่ได้ผลคือการได้รับข้อมูลจาก proc แทนที่จะแยกวิเคราะห์ด้วยตัวเองการใช้ libproc (ส่วนหนึ่งของอุปกรณ์ประกอบฉาก) จะง่ายกว่าดังนี้:

// getrusage.c
#include <stdio.h>
#include <proc/readproc.h>

int main() {
  struct proc_t usage;
  look_up_our_self(&usage);
  printf("usage: %lu\n", usage.vsize);
}

รวบรวมด้วย " gcc -o getrusage getrusage.c -lproc"


1
ยกเว้นไม่มีฟิลด์ใดใน Linux
jmanning2k

2
สิ่งนี้ไม่ถูกต้อง maxrss คือการใช้หน่วยความจำสูงสุดของกระบวนการไม่ใช่จำนวนสูงสุดที่มี - ซึ่งจะเป็น getrlimit (RLIMIT_DATA, & rl)
jmanning2k

2
#include <proc/readproc.h>วิธีการแก้ปัญหาการทำงานที่ดีสำหรับฉันภายใต้อูบุนตู libproc-devผมได้มีการติดตั้งแพคเกจ usage.vm_dataเป็นค่าประมาณที่ใกล้เคียงกับสิ่งที่ฉันต้องการมากพอ สถิติหน่วยความจำที่คุณเลือกมีบันทึกไว้ที่นี่: /usr/include/proc/readproc.hสิ่งที่ฉันพยายามทั้งหมดดูเหมือนจะเป็นไบต์ไม่ใช่หน้า ฉันไม่คิดว่ากระบวนการของฉันใช้ 46 ล้านหน้า ความคิดเห็นที่ว่าโซลูชันนี้ใช้ไม่ได้กับ Linux ดูเหมือนจะเข้าใจผิด
Allan Stokes

2
ตัวเชื่อมที่ถูกต้องคือ: -lprocps
Sembiance

1
ใช้งานได้ดีอันนี้น่าจะเป็นคำตอบที่ยอมรับ!
Pekov


8

วิธีที่หรูหรากว่าสำหรับวิธี Don Wakefield:

#include <iostream>
#include <fstream>

using namespace std;

int main(){

    int tSize = 0, resident = 0, share = 0;
    ifstream buffer("/proc/self/statm");
    buffer >> tSize >> resident >> share;
    buffer.close();

    long page_size_kb = sysconf(_SC_PAGE_SIZE) / 1024; // in case x86-64 is configured to use 2MB pages
    double rss = resident * page_size_kb;
    cout << "RSS - " << rss << " kB\n";

    double shared_mem = share * page_size_kb;
    cout << "Shared Memory - " << shared_mem << " kB\n";

    cout << "Private Memory - " << rss - shared_mem << "kB\n";
    return 0;
}

7

คำตอบที่มีอยู่นั้นดีกว่าสำหรับวิธีรับค่าที่ถูกต้อง แต่อย่างน้อยฉันก็อธิบายได้ว่าทำไม getrusage ถึงไม่เหมาะกับคุณ

ชาย 2 getrusage:

โครงสร้างข้างต้น [rusage] ถูกนำมาจาก BSD 4.3 Reno ไม่ใช่ทุกช่องที่มีความหมายภายใต้ Linux ตอนนี้ (Linux 2.4, 2.6) จะมีการดูแลเฉพาะฟิลด์ ru_utime, ru_stime, ru_minflt, ru_majflt และ ru_nswap


3

นอกจากนี้
คุณยังสามารถเรียกใช้คำสั่ง ps ระบบและรับการใช้หน่วยความจำจากเอาต์พุตได้
หรืออ่านข้อมูลจาก / proc / pid (ดูโครงสร้าง PIOCPSINFO)


PIOCPSINFO ไม่สามารถใช้งานได้บน Linux ที่ฉันเคยใช้ การอ่านจาก / proc / pid เป็นเรื่องธรรมดา ฉันจะโพสต์โค้ดตัวอย่างสำหรับ Linux ในคำตอบ ...
Don Wakefield

ใช่ / proc / pid โครงสร้าง couls แตกต่างกันในแพลตฟอร์ม * nix ที่แตกต่างกัน แต่ถ้าคุณมี PIOCPSINFO ก็ไม่เป็นไร ฉันเคยมีสถานการณ์ที่โครงสร้างนี้ไม่ได้กำหนดไว้ในโซลาริสบางรุ่น .. ฉันใช้เอาต์พุต ps ในกรณีนี้
bayda

2

ในระบบของคุณมีไฟล์ชื่อ /proc/self/statm . ระบบไฟล์ proc เป็นระบบไฟล์หลอกซึ่งจัดเตรียมส่วนต่อประสานกับโครงสร้างข้อมูลเคอร์เนล ไฟล์นี้มีข้อมูลที่คุณต้องการในคอลัมน์ที่มีเฉพาะจำนวนเต็มที่คั่นด้วยช่องว่าง

คอลัมน์เลขที่:

  1. = ขนาดโปรแกรมทั้งหมด (VmSize in / proc / [pid] / status)

  2. = ขนาดชุดถิ่นที่อยู่ (VmRSS ใน / proc / [pid] / สถานะ)

สำหรับข้อมูลเพิ่มเติมโปรดดูที่LINK


1

ฉันใช้วิธีอื่นในการทำเช่นนั้นและฟังดูสมจริง สิ่งที่ฉันทำคือฉันได้รับ PID ของกระบวนการโดยฟังก์ชัน getpid () จากนั้นฉันใช้ไฟล์ / proc / pid / stat ฉันเชื่อว่าคอลัมน์ที่ 23 ของไฟล์ stat เป็น vmsize (ดูที่โพสต์ Don) คุณสามารถอ่าน vmsize จากไฟล์ได้ทุกที่ที่คุณต้องการในโค้ด ในกรณีที่คุณสงสัยว่าข้อมูลโค้ดอาจใช้หน่วยความจำมากแค่ไหนคุณอาจอ่านไฟล์นั้นก่อนส่วนข้อมูลนั้นและหลังจากนั้นคุณสามารถลบออกจากกันได้


1

จากการแก้ปัญหาของ Don W ซึ่งมีตัวแปรน้อยกว่า

void process_mem_usage(double& vm_usage, double& resident_set)
{
    vm_usage     = 0.0;
    resident_set = 0.0;

    // the two fields we want
    unsigned long vsize;
    long rss;
    {
        std::string ignore;
        std::ifstream ifs("/proc/self/stat", std::ios_base::in);
        ifs >> ignore >> ignore >> ignore >> ignore >> ignore >> ignore >> ignore >> ignore >> ignore >> ignore
                >> ignore >> ignore >> ignore >> ignore >> ignore >> ignore >> ignore >> ignore >> ignore >> ignore
                >> ignore >> ignore >> vsize >> rss;
    }

    long page_size_kb = sysconf(_SC_PAGE_SIZE) / 1024; // in case x86-64 is configured to use 2MB pages
    vm_usage = vsize / 1024.0;
    resident_set = rss * page_size_kb;
}

0

ฉันกำลังมองหาแอพ Linux เพื่อวัดหน่วยความจำสูงสุดที่ใช้ valgrind เป็นเครื่องมือที่ยอดเยี่ยม แต่ให้ข้อมูลมากกว่าที่ฉันต้องการ tstimeดูเหมือนจะเป็นเครื่องมือที่ดีที่สุดที่ฉันสามารถหาได้ วัดการใช้งานหน่วยความจำ "highwater" (RSS และเสมือน) ดูคำตอบนี้

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.