20.9. Construcción de redes neuronales con Keras y TensorFlow: evaluación y optimización del rendimiento del modelo

Además, visualizar el rendimiento del modelo durante el entrenamiento es útil para detectar problemas como el sobreajuste o el desajuste. Esto se puede hacer trazando curvas de aprendizaje, que son gráficos de pérdida y precisión a lo largo de épocas tanto para el conjunto de entrenamiento como para el de validación.

Optimización del rendimiento del modelo

Una vez evaluado el rendimiento, se pueden adoptar varias estrategias para optimizar el modelo:

• Ajuste de hiperparámetros: el proceso de ajuste de los hiperparámetros del modelo, como la tasa de aprendizaje, el número de unidades en capas ocultas o el tamaño del lote, puede tener un gran impacto en el rendimiento del modelo. Herramientas como GridSearchCV o RandomizedSearchCV de Scikit-learn se pueden integrar con Keras para automatizar la búsqueda de los mejores hiperparámetros.
• Regularización: Para combatir el sobreajuste, se pueden aplicar técnicas de regularización como L1, L2 o Dropout. Keras facilita la adición de estas técnicas al modelo a través de argumentos de capa o envoltorios de regularización.
• Detención anticipada: detener el entrenamiento tan pronto como el rendimiento en el conjunto de validación comienza a deteriorarse es una forma eficaz de evitar el sobreajuste. Keras ofrece una devolución de llamada EarlyStopping que se puede configurar para monitorear una métrica específica y detener el entrenamiento cuando deja de mejorar.
• Aumento de datos: aumentar el conjunto de datos mediante técnicas de aumento puede mejorar la capacidad del modelo para generalizar. Keras tiene una clase ImageDataGenerator que le permite aplicar transformaciones como rotaciones, cambios de escala y volteos a datos de imágenes.

Implementación de optimización con Keras y TensorFlow

A continuación se muestra un ejemplo de cómo implementar algunas de estas técnicas de optimización en Keras y TensorFlow:

# Ajuste de hiperparámetros
desde keras.wrappers.scikit_learn importar KerasClassifier
desde sklearn.model_selection importar GridSearchCV

def crear_modelo(tasa_de_aprendizaje=0.01):
    modelo = Secuencial([
        Denso(unidades=64, activación='relu', input_shape=(input_shape,)),
        Denso(unidades=num_clases, activación='softmax')
    ])
    model.compile(optimizador=Adam(tasa_de_aprendizaje=tasa_de_aprendizaje),
                  pérdida = 'categorical_crossentropy',
                  métricas = ['precisión'])
    modelo de devolución

modelo = KerasClassifier(build_fn=create_model, detallado=0)
param_grid = {'tamaño_lote': [32, 64, 128],
              'épocas': [50, 100],
              'tasa_de_aprendizaje': [0,01, 0,001, 0,0001]}
grid = GridSearchCV(estimador=modelo, param_grid=param_grid, n_jobs=-1, cv=3)
resultado_cuadrícula = cuadrícula.fit(tren_x, tren_y)

# Regularización y Parada Temprana
desde keras.layers importar Abandono
de keras.callbacks importar EarlyStopping

modelo = Secuencial([
    Denso (64, activación = 'relu', input_shape = (input_shape,), kernel_regularizer = regularizers.l2 (0.01)),
    Abandono (0,5),
    Denso(num_clases, activación='softmax')
])
model.compile(optimizador='adam', pérdida='categorical_crossentropy', métricas=['exactitud'])

early_stopping = EarlyStopping(monitor='val_loss', paciencia=5)
historial = model.fit(x_train, y_train, épocas=100, tamaño_de_lote=128, división_de_validación=0.2, devoluciones de llamada=[parada_temprana])

# Aumento de datos
desde keras.preprocessing.image importar ImageDataGenerator

generador de datos = ImageDataGenerator(
    rango_rotación=20,
    ancho_shift_range=0.2,
    height_shift_range=0.2,
    horizontal_flip=Verdadero
)
datagen.fit(x_train)

model.fit(datagen.flow(x_train, y_train, lote_size=32), épocas=100)