Diskriminasi minibatch

1. Apakah diskriminasi Minibatch?
2. Bagaimana anda mengelakkan mod GAN runtuh?
3. Bagaimana saya boleh meningkatkan latihan GAN saya?
4. Mengapa GAN tidak stabil?

Apakah diskriminasi Minibatch?

Minibatch Discrimination adalah teknik diskriminatif untuk jaringan lawan generatif di mana kita membezakan antara keseluruhan minibatch sampel daripada antara sampel individu. Ini bertujuan untuk mengelakkan kejatuhan generator.

Bagaimana anda mengelakkan mod GAN runtuh?

Kadar pembelajaran yang diatur dengan teliti dapat mengurangkan beberapa masalah GAN yang serius seperti mod runtuh. Secara khusus, turunkan kadar pembelajaran dan ulangi latihan ketika mod runtuh berlaku. Kita juga boleh bereksperimen dengan kadar pembelajaran yang berbeza untuk penjana dan pembeza.

Bagaimana saya boleh meningkatkan latihan GAN saya?

Petua dan Trik Tambahan

1. Pencocokan ciri. Kembangkan GAN menggunakan pembelajaran separa penyeliaan.
2. Diskriminasi minibatch. Kembangkan ciri di pelbagai sampel dalam minibatch.
3. Purata sejarah. Kemas kini fungsi kerugian untuk memasukkan sejarah.
4. Melicinkan label satu sisi. ...
5. Normalisasi kumpulan maya.

Mengapa GAN tidak stabil?

Fakta bahawa GAN disusun oleh dua rangkaian, dan masing-masing mempunyai fungsi kehilangannya, mengakibatkan fakta bahawa GAN secara semula jadi tidak stabil - menyelami sedikit lebih mendalam ke dalam masalah ini, kerugian Generator (G) dapat menyebabkan ketidakstabilan GAN , yang boleh menjadi penyebab masalah kecerunan hilang ketika ...