Однозначно второй вариант. Сейчас такая ситуация, что многие менее мощные карты нового поколения могут именно для CUDA оказаться быстрее, чем более мощные предыдущих.
К тому же старые карты не будут поддерживать новые стандарты CUDA, что не есть хорошо для программирования.