Sequential¶
Описание¶
Контейнер, осуществляющий последовательное соединение модулей.
Инициализация¶
def __init__(self, name=None):
Параметры
Параметр | Возможные типы | Описание | По умолчанию |
---|---|---|---|
name | str | Имя контейнера. | None |
Пояснения
-
Примеры¶
Простая последовательность¶
Простая последовательность:
- Паддинг входного тензора снизу и справа 2 дополнительными строками/столбцами
- Пулинг по максимальному значению
- Уплощение тензора
Необходимые импорты:
>>> import numpy as np
>>> from PuzzleLib.Backend import gpuarray
>>> from PuzzleLib.Containers import Sequential
>>> from PuzzleLib.Modules import Pad2D, MaxPool2D, Flatten
Info
gpuarray
необходим для правильного размещения тензора на GPU
Инициализация последовательности и добавление к ней вышеперечисленных операций методом append
:
>>> seq = Sequential()
>>> seq.append(Pad2D(pad=(0, 2, 0, 2), fillValue=255, name="pad"))
>>> seq.append(MaxPool2D(name="pool"))
>>> seq.append(Flatten(name="flatten"))
Синтетический тензор:
>>> data = np.random.randint(0, 127, size=(1, 1, 4, 4)).astype(np.float32)
>>> print(data)
[[[[105. 62. 58. 56.]
[100. 80. 26. 5.]
[105. 56. 29. 79.]
[114. 89. 54. 117.]]]]
Important
Для корректной работы библиотеки с тензорами, имеющими четыре оси (например, картинки с осями NCHW, где N - номер тензора в батче, C - количество каналов (карт), H - высота, W - ширина), должно выполняться два условия:
- Последовательность осей тензора - (N, C, H, W)
- Тип данных тензора - float32
Размещение ихсодного тензора на GPU и его прогон через последовательность:
>>> seq(gpuarray.to_gpu(data))
Tip
К любому элементу последовательности можно обратиться либо по его имени, либо по его индексу
Результат:
>>> # 'pad' layer results
>>> print(seq["pad"].data)
[[[[105. 62. 58. 56. 0. 0.]
[100. 80. 26. 5. 0. 0.]
[105. 56. 29. 79. 0. 0.]
[114. 89. 54. 117. 0. 0.]
[ 0. 0. 0. 0. 0. 0.]
[ 0. 0. 0. 0. 0. 0.]]]]
>>> # 'pool' layer results
>>> print(seq["pool"].data)
[[[[105. 58. 0.]
[114. 117. 0.]
[ 0. 0. 0.]]]]
>>> # 'flatten' layer results
>>> print(seq["flatten"].data)
[[105. 58. 0. 114. 117. 0. 0. 0. 0.]]
Циклическое расширение¶
Допустим, в сети необходимо несколько раз повторить один и тот же набор блоков, которые состоят, например, из:
Необходимые импорты:
>>> from PuzzleLib.Modules import MulAddConst, Activation
Функция для создания составных блоков:
def block(numb):
block = Sequential()
block.append(MulAddConst(a=2, b=0, name="mul_const_{}".format(numb)))
block.append(Activation(activation="relu", name="act_{}".format(numb)))
return block
Расширение базовой последовательности блоками:
>>> for i in range(3):
... seq.extend(block(i))
Синтетический тензор:
>>> data = np.random.randint(-5, 5, size=(1, 1, 4, 4)).astype(np.float32)
>>> print(data, end="\n\n")
[[[[ 3. 0. -2. -2.]
[-5. -2. -2. 1.]
[ 4. -2. -5. -1.]
[ 2. -3. -5. 2.]]]]
Размещение ихсодного тензора на GPU и его прогон через последовательность:
>>> seq(gpuarray.to_gpu(data))
Результат:
>>> # 'mul_const_0' layer results
>>> print(seq["mul_const_0"].data)
[[[[ 6. 0. -4. -4.]
[-10. -4. -4. 2.]
[ 8. -4. -10. -2.]
[ 4. -6. -10. 4.]]]]
>>> # 'act_0' layer results
>>> print(seq["act_0"].data)
[[[[6. 0. 0. 0.]
[0. 0. 0. 2.]
[8. 0. 0. 0.]
[4. 0. 0. 4.]]]]