CXX = g++
CXXFLAGS = -Wall -g

а

CXX ?= g++
CXXFLAGS += -Wall

чтобы пользователи, source-based пакетные менеджеры и системы сборки могли управлять сборкой как им угодно без патченья таких вот Makefile'ов.
А -g - это вообще не ваше дело.