Qual è il vantaggio di usare il pooling medio piuttosto che il pooling massimo?

Perché eseguiamo il pooling? Risposta: Per ridurre la varianza, ridurre la complessità di calcolo (come 2*2 max pooling/average pooling riduce il 75% dei dati) ed estrarre caratteristiche di basso livello dal vicinato. Tutte queste descrizioni, penso, si adattano meglio al max-pooling. Non è vero?

Diamo un'occhiata a questa immagine:

Max pooling estrae le caratteristiche più importanti come i bordi mentre, average pooling estrae le caratteristiche in modo fluido. Per i dati di immagine, si può vedere la differenza. Anche se entrambi sono usati per lo stesso motivo, penso che max pooling sia migliore per estrarre le caratteristiche estreme. L'average pooling a volte non può estrarre buone caratteristiche perché prende tutto nel conteggio e dà come risultato un valore medio che può/deve essere importante per compiti di rilevamento di oggetti.

Nota qui, l'average pooling porta tutto nel conteggio e lo invia al livello successivo, il che significa che tutti i valori sono effettivamente usati per la mappatura delle caratteristiche e la creazione dell'output - che è un calcolo molto generalizzato. Se non hai bisogno di tutti gli input dal livello Conv, otterrai una cattiva accuratezza per il pooling medio.

Ma, naturalmente ci sono molti compiti di classificazione in github dove il pooling medio è stato usato e ha superato il pooling massimo (anche se non sono sicuro che questo sia dovuto all'uso del pooling medio). Quindi, ancora una volta dipende dal tipo di set di dati (fondamentalmente sto prendendo le immagini e la loro densità di pixel).

Quindi, per rispondere alla tua domanda, non credo che il pooling medio abbia alcun vantaggio significativo sul pooling massimo. Ma, forse in alcuni casi, dove la varianza in un filtro max-pooling non è significativa, entrambi i pooling daranno lo stesso tipo di risultati. Ma in casi estremi, il max-pooling fornirà sicuramente risultati migliori.

Inoltre, con il drop out pooling, tutto questo non ha molta importanza, poiché i livelli di drop out possono svanire in ogni singolo blocco. Non ho mai visto alcun documento di ricerca significativo per confrontare tra i livelli di pooling. Ma potrebbero essercene alcuni. Potete cercare, leggere e imparare meglio. Buona fortuna.

Grazie.