CTEST_CUSTOM_MAXIMUM_FAILED_TEST_OUTPUT_SIZE

При сохранении вывода не пройденного теста это максимальный размер в байтах, который будет собран командой ctest_test(). По умолчанию составляет 307200 байт (300 Кбайт).

Он инициализируется командой ctest(1), но может быть изменён в файле CTestCustom. См. документацию ctest_read_custom_files().