[ART] ART for TensorFlow v2 - Callable 코드 분석

 

✅ 코드 :  https://github.com/Trusted-AI/adversarial-robustness-toolbox/blob/main/notebooks/art-for-tensorflow-v2-callable.ipynb

GitHub - Trusted-AI/adversarial-robustness-toolbox: Adversarial Robustness Toolbox (ART) - Python Library for Machine Learning S

 

커스텀 모델 클래스 생성

class KerasModel(Model):
    # super(KerasModel: super를 호출하는 자기 자신, self: super를 호출하는 참조 객체)
    def __init__(self):
        super(KerasModel, self).__init__()
        self.conv1 = Conv2D(filters=3, kernel_size=3, activation='relu')
        self.flatten = Flatten()
        self.dense1 = Dense(10, activation='softmax')

    def call(self, x):
        x = self.conv1(x)
        x = self.flatten(x)
        x = self.dense1(x)
        return x

 

입력 파이프라인 생성

학습과 테스트를 위한 입력 파이프라인을 생성한다.

 

train_ds = tf.data.Dataset.from_tensor_slices((x_train, y_train)).shuffle(10000).batch(32)
test_ds = tf.data.Dataset.from_tensor_slices((x_test, y_test)).batch(32)

 

1. tf.data.Dataset.from_tensor_slices

1) from_tensor_slices

입력 데이터를 여러 개의 Tensor로 자른다. train_ds, test_ds에서 shuffle, batch 부분을 빼고 print문을 추가해서 코드를 실행하면 TensorSliceDataset shapes가 반환된다.

 

2) shuffle / batch

◽ shuffle : 데이터셋의 요소를 랜덤하게 섞는다. 첫 인자가 섞는 횟수를 의미하는 줄 알았는데..! buffer_size였다. 

◽ batch : 데이터셋을 지정한 배치 크기로 나눈다.

 

학습/테스트 단계 정의

@tf.function
def train_step(images, labels):
    with tf.GradientTape() as tape:
        predictions = model(images)
        loss = loss_object(labels, predictions)
    # 입력 이미지에 대한 손실 함수의 기울기 계산
    gradients = tape.gradient(loss, model.trainable_variables)
    optimizer.apply_gradients(zip(gradients, model.trainable_variables))

    train_loss(loss)
    train_accuracy(labels, predictions)
    
@tf.function
def test_step(images, labels):
    predictions = model(images)
    t_loss = loss_object(labels, predictions)

    test_loss(t_loss)
    test_accuracy(labels, predictions)

 

1. @tf.function

tf.function을 직접 호출하거나 데코레이터로 사용하여 TensorFlow에서 그래프를 만들고 실행한다. 일반 함수를 입력으로 받고 Function을 반환하는데, Function은 Python 함수로부터 TensorFlow 그래프를 빌드하는 Python callable이다.

 

🔍 정보 출처 : https://tensorflow.google.cn/guide/intro_to_graphs?hl=ko

🧐 참고 자료 : https://www.tensorflow.org/api_docs/python/tf/function

 

2. with tf.GradientTape() as tape

tf.GradientTape는 주어진 입력 변수에 대한 연산의 그래디언트를 자동으로 계산하기 위해 TensorFlow에서 제공하는 API이다. 컨텍스트 안에서 실행된 모든 연산을 테이프에 기록하고 reverse mode differentiation을 사용해 테이프에 기록된 연산의 그래디언트를 계산한다. 이 과정은 모두 TensorFlow가 알아서 해준다.

 

3. loss_object(labels, predictions)

**더 찾아봐야 함**

 

4. tape.gradient(loss, model.trainable_variables)

model.trainable_variables에 대한 loss의 미분값을 계산한다.

 

5. optimizer.apply_gradients(~)

**더 찾아봐야 함**

 

커스텀 모델 클래스를 위한 TensorFlow v2 classifier 생성

# TensorFlowV2Classifier: art/estimators/classification/tensorflow.py
classifier = TensorFlowV2Classifier(model=model, nb_classes=10, input_shape=(28, 28, 1), loss_object=loss_object, 
                                    clip_values=(0, 1), channels_first=False)

 

파라미터 의미

◽ model : 모델이 정의된 파이썬 함수 또는 callable 클래스. 모델의 예측 결과를 output으로 출력한다.

◽ nb_classes : 분류 클래스의 수(MNIST 데이터니까 0~9 총 10가지 클래스)

◽ loss_objects : tf.keras.losses

◽ channels_first : 채널을 첫번째로 할 건지 마지막으로 할 건지 지정 → 아직 정확한 의미는 잘 모르겠음