Грамматика — это совокупность правил, которым должен удовлетворять текст программы, чтобы считаться грамматически-правильным. В случае естественных языков определение аналогично. Грамматическая правильность в случае естественных языков — штука неточная, хотя в большинстве случаев её можно считать точной.

В случае языка программирования представляется наиболее естественным считать грамматически-корректными такие тексты, для которых любой идеальный (соответствующий стандарту и не содержащий багов) компилятор гарантированно продуцирует некоторый выходной (объектный/бинарный) файл. Для программы, содержащей undefined behavior, компилятор не обязан этого делать. Может, но не обязан.

> вполне можно придумать ситуацию, когда именно хочется получить "неопределенное поведение".

Не всё, что можно придумать, можно реализовать на практике.