CTEST_CUSTOM_MAXIMUM_FAILED_TEST_OUTPUT_SIZE

При сохранении вывода неудачного теста, это максимальный размер в байтах, который будет собран командой ctest_test(). По умолчанию значение равно 307200 (300 КБ).

Он инициализируется командой ctest(1), но может быть изменён в файле CTestCustom. См. документацию по ctest_read_custom_files().