что Мерлин, что энтузиастов - для вашей задачи они ОДИНАКОВЫ!
обе поддерживают USB модемы
обе предоставляют возможность управлять посредством скриптов пользователя.
при этом Мерлин лучше, поскольку пользует JFFS для этого, а не flashfs энтузиастов - имхо (по крайней мере не надо при каждом изменении давать комманды save & commit & enable)
собственно в самой прошивке ничего править не надо и под себя компилировать тоже.
хотя в вашем конкретном случае вам бы лучше подошел какой-то ITX Atom based barabone под управлением OpenWRT.
что-то типа такого Неттоп Asus EeeBox PC EB1036-B0060