The OpenNET Project / Index page

[ новости/++ | форум | wiki | теги | ]

Автоматическое определение в Linux количества процессорных ядер из скрипта
Данный подход можно применять для обработки данных на компьютерных системах с
разным количеством процессорных ядер и использовать для параллелизации
обработки данных по усмотрению.

Пример скрипта с использованием cppcheck (статический анализ исходников в
несколько потоков, опция -j)


Пример скрипта с использованием cppcheck

   #!/bin/sh

   COUNT=$(cat /proc/cpuinfo | grep 'model name' | sed -e 's/.*: //' | wc -l)
   echo "number of detected CPUs =" $COUNT

   cppcheck -j $COUNT --force --inline-suppr . 2>errors.txt


вариант от Vee Nee

   COUNT=$(lscpu -p=cpu | grep -v \\# | wc -l)

вариант от pavlinux:

   COUNT=$(getconf _NPROCESSORS_ONLN)

дополнение от Andrey Mitrofanov:

   COUNT=$(egrep -c '^processor' /proc/cpuinfo)
 
18.08.2012 , Автор: Карбофос
Ключи: cpu, cppcheck, shell / Лицензия: CC-BY
Раздел:    Корень / Программисту и web-разработчику / Shell / Готовые скрипты

Обсуждение [ Линейный режим | Показать все | RSS ]
 
  • 1.1, Андрей (??), 23:05, 19/08/2012 [ответить] [показать ветку] [···]    [к модератору]
  • +/
    Хмм.. А зачем?? Типа каждый день отсылать статистику по кол-ву процов на мыло админа?? Плюс еще график от рисовать :)
    Было бы неплохо описать задачу с которой столкнулись и для чего это?? Загрузку процессоров, понятно для чего в автоматическом режиме, но кол-во... Что-то я не догоняю - подскажите??
     
     
  • 2.3, Карбофос (ok), 23:19, 19/08/2012 [^] [ответить]     [к модератору]
  • +/
    например, для параллельной обработки фотографий отчасти проблематика была затрон... весь текст скрыт [показать]
     
     
  • 3.7, Андрей (??), 04:53, 20/08/2012 [^] [ответить]     [к модератору]  
  • +/
    Далек от этой темы Пока далек Но кто знает когда потребуется Спасибо В... весь текст скрыт [показать]
     
     
  • 4.13, Карбофос (ok), 12:45, 20/08/2012 [^] [ответить]     [к модератору]  
  • +/
    это нужно для параллельного запуска заданий по обработке данных, для полного исп... весь текст скрыт [показать]
     
  • 2.23, Аноним (-), 21:19, 22/08/2012 [^] [ответить]    [к модератору]  
  • +/
    Например чтобы make пинать с нужным -j. Ну так, самый очевидный вариант :)
     
  • 1.2, Vee Nee (?), 23:11, 19/08/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    Как вариант:
    COUNT=$(lscpu -p=cpu | grep -v \# | wc -l)

    Не понимаю только, для чего вырезание заголовка строки sed-ом, вариант без него что-то упускает?
    COUNT=$(grep 'model name' /proc/cpuinfo | wc -l)

     
     
  • 2.4, Карбофос (ok), 23:25, 19/08/2012 [^] [ответить]    [к модератору]  
  • +/
    благодарю за дополнение!
    нет, не упускает. видимо, sed еще использовался для того, чтобы выдавать имя процессора, после этого просто ничего не меняли :)
     
  • 2.9, pavlinux (ok), 05:49, 20/08/2012 [^] [ответить]    [к модератору]  
  • +/
    COUNT=$(('lscpu -p=cpu | tail -1'+1))

     
  • 2.11, Andrey Mitrofanov (?), 09:58, 20/08/2012 [^] [ответить]     [к модератору]  
  • +/
    А wc egrep -c processor proc cpuinfo ... весь текст скрыт [показать]
     
     
  • 3.12, Карбофос (ok), 10:35, 20/08/2012 [^] [ответить]    [к модератору]  
  • +/
    кстати, тоже хорошая идея использовать как можно меньше утилит, мерси за сие!
    grep -c '^processor' /proc/cpuinfo
     
  • 2.25, Аноним (-), 10:38, 23/08/2012 [^] [ответить]    [к модератору]  
  • +/
    как все сложно в ваших линухах, толи дело во фре:
    sysctl kern.smp.cpus
     
  • 1.6, pavlinux (ok), 03:49, 20/08/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +1 +/
    Кто больше вариантов определения процов?

    [code]
    #!/bin/sh

      # Вот этот самый Юникс-вей фен-шуйный, POSIX IEEE Std 1003.1-2001, все дела...

      getconf _NPROCESSORS_ONLN;

      # А дальше скриптодрочка.
      echo $(('cat /sys/devices/system/cpu/online | cut -d"-" -f2'+1));
      dmesg | grep "processors activated" | cut -d" " -f3;
    [/code]

    Хардкор мазафака кульхацкер метод
    [code]
    #!/bin/sh

    cat >> /tmp/cpus.c << EOF
    #include <stdio.h>
    #include <unistd.h>

    int main(void) {

         printf("%ld\n", sysconf(_SC_NPROCESSORS_ONLN));

    return 0;
    }
    EOF
    gcc /tmp/cpus.c -o /tmp/cpus;

    export CPU=$(/tmp/cpus)
    [/code]

     
     
  • 2.8, pavlinux (ok), 05:04, 20/08/2012 [^] [ответить]    [к модератору]  
  • +/
    [code]
    #!/bin/sh

    sed -ne '/processor/p;' /proc/cpuinfo | wc -l;
    awk '/processor/{x++}; END {print x}' /proc/cpuinfo;

    [/code]

     
  • 2.10, Карбофос (ok), 07:10, 20/08/2012 [^] [ответить]    [к модератору]  
  • +/
    с комуляцией - вообще жесть.
    спасибо за варианты :)

    слушай, а он разве в /proc/cpuinfo как раз не показывает только активированные процы?

     
     
  • 3.18, pavlinux (ok), 01:09, 21/08/2012 [^] [ответить]    [к модератору]  
  • +/
    Да, только онлайновые!

    Где-то там: http://lxr.free-electrons.com/source/arch/x86/kernel/cpu/proc.c#L141

     
     
  • 4.21, Карбофос (ok), 00:52, 22/08/2012 [^] [ответить]    [к модератору]  
  • +/
    ну вот и речь об чем: нефиг забор городить из нескольких скриптов
     
     
  • 5.22, pavlinux (ok), 04:05, 22/08/2012 [^] [ответить]     [к модератору]  
  • +/
    getconf _NPROCESSORS_ONLN как раз делает вот это echo cat sys devices ... весь текст скрыт [показать]
     
  • 1.14, Анонимуз (?), 15:24, 20/08/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    Процов? Насколько я заметил, тут речь идет исключительно о количестве ядер.
    Ну, я понимаю, что обычно не количество сокетов интересует, а именно ядра, но почему бы так и не написать сразу?
     
     
  • 2.15, Карбофос (ok), 15:41, 20/08/2012 [^] [ответить]    [к модератору]  
  • +/
    это принципиально что-то меняет?
    для меня лично ядро=процессор. точка.
    можно, конечно, вступить в бессмысленный диспут, в том числе и затронуть HT.
     
     
  • 3.16, Анонимуз (?), 16:37, 20/08/2012 [^] [ответить]    [к модератору]  
  • –1 +/
    Для большинства людей операционная система = винда, а название статьи не соответствует содержимому.
    Не-не, спорить тут не о чем, все хорошо.
     
     
  • 4.30, Michael Shigorin (ok), 17:39, 24/08/2012 [^] [ответить]    [к модератору]  
  • +1 +/
    > Для большинства людей операционная система = винда

    Большинство людей таких слов-то не знают, из наблюдений...

     
     
  • 5.38, Аноним (-), 19:05, 27/10/2012 [^] [ответить]    [к модератору]  
  • +/
    >> Для большинства людей операционная система = винда
    > Большинство людей таких слов-то не знают, из наблюдений...

    А должны были?

     
     
  • 6.39, Michael Shigorin (ok), 20:14, 27/10/2012 [^] [ответить]    [к модератору]  
  • +/
    > А должны были?

    Здесь -- да, наверное.

     
  • 2.17, Andrey Mitrofanov (?), 23:22, 20/08/2012 [^] [ответить]    [к модератору]  
  • +/
    > но почему бы так и не написать сразу?

    А в "процессора-а-ах" я зничиительно длинннее! <.)>

     
     
  • 3.24, pavlinux (ok), 02:42, 23/08/2012 [^] [ответить]    [к модератору]  
  • +/
    А двайте регистрами меряться?!
     
     
  • 4.32, Аноним (-), 21:01, 24/08/2012 [^] [ответить]    [к модератору]  
  • +/
    И сколько сантиметров у тебя регистр?
     
     
  • 5.33, pavlinux (ok), 05:18, 26/08/2012 [^] [ответить]    [к модератору]  
  • +1 +/
    > И сколько сантиметров у тебя регистр?

    strlen("sizeof(register);");

     
  • 1.19, АнонимусРекс (?), 00:10, 22/08/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    а где разделение на треды?
     
     
  • 2.20, Карбофос (ok), 00:50, 22/08/2012 [^] [ответить]    [к модератору]  
  • +/
    если шапка жмёт - дополни
     
     
  • 3.27, Michael Shigorin (ok), 02:55, 24/08/2012 [^] [ответить]    [к модератору]  
  • –1 +/
    > если шапка жмёт - дополни

    Вообще в первом же Вашем примере наблюдается избыточное применение cat(1), да и остального:

    echo "CPU cores available: 'grep -c ^processor /proc/cpuinfo'"

    А для адаптивного параллельного выполнения лучше сразу смотреть на parallel(1) или paexec(1).

     
     
  • 4.31, Карбофос (ok), 18:04, 24/08/2012 [^] [ответить]    [к модератору]  
  • +/
    >echo "CPU cores available: 'grep -c ^processor /proc/cpuinfo'"

    наблюдается избыточность и ненужность такой строки вообще. а мне нужно было значение переменной.

     
  • 1.26, DelGod (?), 20:56, 23/08/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +1 +/
    Количество физических процессоров
    grep 'physical id' /proc/cpuinfo | sort -u | wc -l

    Количиство Ядер в каждом из процесоров
    grep 'core id' /proc/cpuinfo | sort -u | wc -l

     
     
  • 2.34, pavlinux (ok), 05:41, 26/08/2012 [^] [ответить]    [к модератору]  
  • +/
    > Количество физических процессоров
    > grep 'physical id' /proc/cpuinfo | sort -u | wc -l

    Да не, жирно слишком - и grep, и sort, и wc...  

    $ getconf _NPROCESSORS_ONLN;


    > Количиство Ядер в каждом из процесоров
    > grep 'core id' /proc/cpuinfo | sort -u | wc -l

    12
    4
    8

    А че, на моем кластере и 4-х ядерные есть и 8-ми и 12... :)


     
  • 1.28, zumm (?), 17:32, 24/08/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    гыгы

    #!/bin/sh
    cat >> /tmp/cpus.f90 << EOF
    program cpus_num
    use omp_lib
    write (*,*) omp_get_num_procs()
    end program cpus_num
    EOF

    gfortran /tmp/cpus.f90 -fopenmp -o /tmp/cpus;
    /tmp/cpus

     
     
  • 2.29, Michael Shigorin (ok), 17:38, 24/08/2012 [^] [ответить]    [к модератору]  
  • –1 +/
    > -fopenmp

    Этак недалеко до "поставить оракл и сделать запрос". :)

    (напомнило анекдот про выяснение чётности числа различными программистами)

     
     
  • 3.35, pavlinux (ok), 05:54, 26/08/2012 [^] [ответить]    [к модератору]  
  • +1 +/
    > (напомнило анекдот про выяснение чётности числа различными программистами)

    Как-то лет 12-13 назад, мерились в фидо, в RU.LINUX, кто-сколько,
    придумает способов замены команды ls


     
     
  • 4.37, Crazy Alex (ok), 11:47, 06/09/2012 [^] [ответить]    [к модератору]  
  • +/
    Мне, кстати, такие извращения когда-то пригодились - надо было разобраться с железкой, в которой было что-то адски ограниченное в роли шелла - в частности, ls не было. Обходился "echo *" и подобными.
     
  • 1.36, ананим (?), 00:14, 29/08/2012 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    ну тады и от меня добавь:
    1)
    $ cat /sys/devices/system/cpu/online
    0-7
    $ cat /sys/devices/system/cpu/offline
    $ cat /sys/devices/system/cpu/possible
    0-7
    $ cat /sys/devices/system/cpu/present
    0-7
    2)
    # dmidecode -t processor|grep Thread
    Thread Count: 8
    # dmidecode -t processor|grep Core
    Family: Core i7
    Version: Intel(R) Core(TM) i7-3610QM CPU @ 2.30GHz
    Core Count: 4
    Core Enabled: 4
     
  • 1.40, sailor (??), 22:56, 05/05/2013 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    COUNT=$(sed -ne '/processor/p;' /proc/cpuinfo | wc -l)
     
  • 1.41, ziplex (?), 15:18, 26/09/2018 [ответить] [показать ветку] [···]    [к модератору]  
  • +/
    Забыли про утилиту nproc
     

    Ваш комментарий
    Имя:         
    E-Mail:      
    Заголовок:
    Текст:



      Закладки на сайте
      Проследить за страницей
    Created 1996-2018 by Maxim Chirkov  
    ДобавитьПоддержатьВебмастеруГИД  
    Hosting by Ihor