> Т.е. процессоры выпускались со спекулятивным выполнением, чтобы конвейеры не простаивали
> и считали несколько веток,

Не совсем, обе ветки сразу считать — это предикатное выполнение. На интелах (кроме Itanium) предикатного выполнения нет. Спекулятивное — это когда на основе ранее собраных процессором данных делается предсказание более вероятной ветки и она считается, и всё, что за ней следует. Это и позволяет заполнить конвеер.

> а сейчас софт переписывают под особенности процессоров,
> чтобы последние "промаргивали" возможное выполнение веток, отличных от текущей?

Да, именно так. Притом потери быстродействия сильные и компилятор пытается угадать, где нужно дурить предсказатель ветвей, а где нет. Результаты ошибок при попытках угадать мы уже видели, дежавю. Так что уязвимости класса Spectre в том или ином виде будут ещё долго встречаться.

> Ну отличненько,
> чё. Делайте аппаратный флаг, разрешающий/запрещающий это самое спекулятивное выполнение.

Ну так это нужно все процессоры менять, что дорого и зачастую просто невозможно. Если уж менять что-то в процессорах аппаратно, то лучше модифицировать предсказатель ветвей, например, добавить для него собственный некеширующий буфер, чтоб результаты вычислений не попадали в общий кеш до выполнения проверки условия ветвления.