Не только понимание как работает железо, но и - как компиляторы.
А, ассембрер это компилятор в котором программист заведо понимает как и что работает в сгенерированном коде, без его знания - не будет никакого понимания. Другое дело что да, просто выучивание ассемблера, например в ВУЗах, обычно не приводит к полноценному понимаю оптимизаций, тут уже опыт в сфере именно оптимизаций и это не обязательно на ассемблере, но без знаний ассемблера это нереально или не полноценно. В общем, ещё и опыт именно в оптимизации нужен, а это не только книга по ассемблеру... К тому же, самые сильные оптимизации - даже не архитектурные, но без понимания архитектурных ограничений это затруднительно.

Но, проблема даже не в этом, а в том что оптимизировать нужно хотеть желать (тратя время, а руководству т.о.инвестируя деньги), а без этого когда понадобится - уже поздно, даже при желании и выделении денег.