tf.contrib.model_pruning.get_pruning_hparams

Получение объекта tf.HParams с значениями по умолчанию для гиперпараметров.

tf.contrib.model_pruning.get_pruning_hparams()

name: строковое имя спецификации обрезки. Используется для добавления сводок и операций под общим именем области tensorflow name_scope begin_pruning_step: целое число – глобальный шаг, с которого начинается обрезка end_pruning_step: целое число – глобальный шаг, по которому завершается обрезка. По умолчанию -1, что означает, что обрезка продолжается до остановки обучения weight_sparsity_map: список строк, запятой-разделенный список пар {имя_переменной_веса:целевая_разреженность} или {регулярное_выражение:целевая_разреженность}. Для слоев/весов, не входящих в этот список, используется разреженность, заданная гиперпараметром target_sparsity. Пример: [conv1:0.9,conv2/kernel:0.8] block_dims_map: список строк, запятой-разделенный список пар {имя_переменной_веса:высота_блока x ширина_блока} или {регулярное_выражение:высота_блока x ширина_блока}. Для слоев/весов, не входящих в этот список, размеры блоков задаются гиперпараметрами block_height, block_width. Пример: [dense1:4x4,dense2:1x16,dense3:1x1] threshold_decay: число с плавающей точкой – множитель затухания для экспоненциального затухания порогов pruning_frequency: целое число – как часто должны обновляться маски? (в количестве глобальных шагов) nbins: целое число – количество бинов для вычисления гистограммы block_height: целое число – количество строк в блоке (по умолчанию 1), может быть -1, в этом случае оно устанавливается в размер соответствующего тензора весов. block_width: целое число – количество столбцов в блоке (по умолчанию 1), может быть -1, в этом случае оно устанавливается в размер соответствующего тензора весов. block_pooling_function: строка – выполнять ли усреднение (AVG) или максимальную (MAX) выборку в блоке (по умолчанию: AVG) initial_sparsity: число с плавающей точкой – начальное значение разреженности target_sparsity: число с плавающей точкой – целевое значение разреженности sparsity_function_begin_step: целое число – глобальный шаг, с которого начинает действовать функция постепенного изменения разреженности sparsity_function_end_step: целое число – глобальный шаг, используемый как конечная точка для функции постепенного изменения разреженности sparsity_function_exponent: число с плавающей точкой – показатель степени = 1 – линейное изменение разреженности между начальным и конечным значениями. показатель степени > 1 – более медленное изменение к концу, чем в начале use_tpu: False – указывает, использовать ли TPU

Мы используем следующую функцию разреженности:

num_steps = (sparsity_function_end_step - sparsity_function_begin_step)/pruning_frequency sparsity(step) = (initial_sparsity - target_sparsity)* [1-step/(num_steps -1)]**exponent + target_sparsity