Положить любую систему можно довольно легко, вот Вам программа, которая полностью завешивает одно ядро процессора, запустите её с повышенным приоритетом и она может полностью убить работу на одноядерной системе:

int main(int argc, char* argv[])
{ while (1) ;
  return 0;
}

из этого можно сделать вывод, что любая ОС, ээ.. очень кривая по дизайну, раз позволяет это сделать? Аналогично с Вашим примером - возможно дело вовсе даже и не в X-ах, а в Вашей программе, которая оригинальным образом скролит графику..

Далее, Вы наверное не поверите, но 2D частный случай 3D, с координатой Z=0, соответственно оно ни капли не более ресурсоёмкое.

Вы тоже наверное не поверите, но сетевая прозрачность, имхо, используется только при работе по сети, не по сети - не используется (используются локальные сокеты, а то и вовсе разделяемая память), соответственно, лично в Вашем случае никак Вам не мешает.

Ну и последнее, есть подозрение, что для упрощения своей работы Qt и GTK просто не пользуются теми возможностями, которые предоставляют X-ы, с соответствующим результатом.