CTEST_CUSTOM_MAXIMUM_FAILED_TEST_OUTPUT_SIZE

При сохранении вывода неудачного теста, это максимальный размер в байтах, который будет собран командой ctest_test(). По умолчанию 307200 (300 КБ).

Инициализируется командой ctest(1), но может быть отредактирован в файле CTestCustom. Смотрите документацию ctest_read_custom_files().