Sequential

Описание

Контейнер, осуществляющий последовательное соединение модулей.

Инициализация

def __init__(self, name=None):

Параметры

Параметр Возможные типы Описание По умолчанию
name str Имя контейнера. None

Пояснения

-

Примеры


Простая последовательность


Простая последовательность:

  1. Паддинг входного тензора снизу и справа 2 дополнительными строками/столбцами
  2. Пулинг по максимальному значению
  3. Уплощение тензора

Необходимые импорты:

>>> import numpy as np
>>> from PuzzleLib.Backend import gpuarray
>>> from PuzzleLib.Containers import Sequential
>>> from PuzzleLib.Modules import Pad2D, MaxPool2D, Flatten

Info

gpuarray необходим для правильного размещения тензора на GPU

Инициализация последовательности и добавление к ней вышеперечисленных операций методом append:

>>> seq = Sequential()
>>> seq.append(Pad2D(pad=(0, 2, 0, 2), fillValue=255, name="pad"))
>>> seq.append(MaxPool2D(name="pool"))
>>> seq.append(Flatten(name="flatten"))

Синтетический тензор:

>>> data = np.random.randint(0, 127, size=(1, 1, 4, 4)).astype(np.float32)
>>> print(data)
[[[[105.  62.  58.  56.]
   [100.  80.  26.   5.]
   [105.  56.  29.  79.]
   [114.  89.  54. 117.]]]]

Important

Для корректной работы библиотеки с тензорами, имеющими четыре оси (например, картинки с осями NCHW, где N - номер тензора в батче, C - количество каналов (карт), H - высота, W - ширина), должно выполняться два условия:

  • Последовательность осей тензора - (N, C, H, W)
  • Тип данных тензора - float32

Размещение ихсодного тензора на GPU и его прогон через последовательность:

>>> seq(gpuarray.to_gpu(data))

Tip

К любому элементу последовательности можно обратиться либо по его имени, либо по его индексу

Результат:

>>> # 'pad' layer results
>>> print(seq["pad"].data)
[[[[105.  62.  58.  56.   0.   0.]
   [100.  80.  26.   5.   0.   0.]
   [105.  56.  29.  79.   0.   0.]
   [114.  89.  54. 117.   0.   0.]
   [  0.   0.   0.   0.   0.   0.]
   [  0.   0.   0.   0.   0.   0.]]]]
>>> # 'pool' layer results
>>> print(seq["pool"].data)
[[[[105.  58.   0.]
   [114. 117.   0.]
   [  0.   0.   0.]]]]
>>> # 'flatten' layer results
>>> print(seq["flatten"].data)
[[105.  58.   0. 114. 117.   0.   0.   0.   0.]]


Циклическое расширение


Допустим, в сети необходимо несколько раз повторить один и тот же набор блоков, которые состоят, например, из:

  1. Умножение тензора на константу
  2. Активация ("ReLU")

Необходимые импорты:

>>> from PuzzleLib.Modules import MulAddConst, Activation

Функция для создания составных блоков:

def block(numb):
  block = Sequential()

  block.append(MulAddConst(a=2, b=0, name="mul_const_{}".format(numb)))
  block.append(Activation(activation="relu", name="act_{}".format(numb)))

  return block

Расширение базовой последовательности блоками:

>>> for i in range(3):
...     seq.extend(block(i))

Синтетический тензор:

>>> data = np.random.randint(-5, 5, size=(1, 1, 4, 4)).astype(np.float32)
>>> print(data, end="\n\n")
[[[[ 3.  0. -2. -2.]
   [-5. -2. -2.  1.]
   [ 4. -2. -5. -1.]
   [ 2. -3. -5.  2.]]]]

Размещение ихсодного тензора на GPU и его прогон через последовательность:

>>> seq(gpuarray.to_gpu(data))

Результат:

>>> # 'mul_const_0' layer results
>>> print(seq["mul_const_0"].data)
[[[[  6.   0.  -4.  -4.]
   [-10.  -4.  -4.   2.]
   [  8.  -4. -10.  -2.]
   [  4.  -6. -10.   4.]]]]
>>> # 'act_0' layer results
>>> print(seq["act_0"].data)
[[[[6. 0. 0. 0.]
   [0. 0. 0. 2.]
   [8. 0. 0. 0.]
   [4. 0. 0. 4.]]]]