Παραγωγικό αντιπαραθετικό δίκτυο

Από τη Βικιπαίδεια, την ελεύθερη εγκυκλοπαίδεια
Μετάβαση στην πλοήγηση Πήδηση στην αναζήτηση

Τα Παραγωγικά Αντιπαλικά Δίκτυα (ΠΑΔ), γνωστά επίσης ως Αντιπαλικά Δίκτυα, Παραγωγικά Ανταγωνιστικά Δίκτυα, Παραγωγικά Δἰκτυα Αντιπάλων και Aναγεννητικά Aνταγωνιστικά Δίκτυα (στα αγγλικά Generative Adversarial Networks - GAN) είναι μια κατηγορία συστημάτων μηχανικής μάθησης που εφευρέθηκε από τον Ian Goodfellow και τους συναδέλφους του το 2014. Βασίζονται στην λογική της αντιπαλικής μάθησης. Δύο νευρωνικά δίκτυα διαγωνίζονται σε ένα παίγνιο (με την έννοια της θεωρίας παιγνίων, συχνά αλλά όχι πάντα με τη μορφή ενός παιγνίου μηδενικού αθροίσματος ). Δοθέντος ενός συνόλου εκπαίδευσης, αυτή η τεχνική μαθαίνει να δημιουργεί νέα δεδομένα με τα ίδια στατιστικά στοιχεία. Για παράδειγμα, ένα αντιπαλικό δίκτυο εκπαιδευμένο σε φωτογραφίες μπορεί να δημιουργήσει νέες φωτογραφίες που φαίνονται τουλάχιστον επιφανειακά αυθεντικές στους ανθρώπινους παρατηρητές, έχοντας πολλά ρεαλιστικά χαρακτηριστικά. Αν και αρχικά προτάθηκαν αμιγώς ως μορφή παραγωγικού μοντέλου για εφαρμογές μη επιβλεπόμενη μάθηση, τα ΠΑΔ έχουν επίσης αποδειχθεί χρήσιμα για την ημι-εποπτευόμενη μάθηση, την πλήρως εποπτευόμενη μάθηση [1] και ενισχυτική μάθηση . [2] Σε ένα σεμινάριο του 2016, ο Yann LeCun περιέγραψε τα GAN ως "την πιο έξυπνη ιδέα στη μηχανική μάθηση τα τελευταία είκοσι χρόνια". [3]

Μέθοδος[Επεξεργασία | επεξεργασία κώδικα]

Το παραγωγικό δίκτυο δημιουργεί υποψηφίους ενώ το διαχωριστικό δίκτυο τους αξιολογεί. Ο διαγωνισμός λειτουργεί με όρους διανομών δεδομένων. Το παραγωγικό δίκτυο μαθαίνει να προβάλλει από έναν λανθάνοντα χώρο σε μια επιθυμητή κατανομή δεδομένων, ενώ το διαχωριστικό δίκτυο διακρίνει τους παραγμένους υποψήφιους από την πραγματική κατανομή. Ο στόχος εκπαίδευσης του παραγωγικού δικτύου είναι η αύξηση του ποσοστού σφάλματος του διακριτικού δικτύου (δηλ. να "ξεγελάσει" το διαχωριστικό δίκτυο με την παραγωγή νέων υποψηφίων που το διαχωριστικό δίκτυο πιστεύει ότι προήλθαν από την πραγματική κατανομή). [4]

Ένα γνωστό σύνολο δεδομένων χρησιμεύει ως το αρχικό σύνολο εκπαίδευσης για τον διαχωριστή. ΤΟ διαχωριστικό μοντέλο εκπαιδεύεται παρουσιάζοντάς το με δείγματα από το σύνολο δεδομένων εκπαίδευσης, μέχρι να επιτευχθεί αποδεκτή ακρίβεια. Το παραγωγικό μοντέλο εκπαιδεύεται βάσει του κατά πόσο καταφέρνει να ξεγελάσει το διαχωριστικό. Συνήθως, το παραγωγικό σπέρνεται με τυχαία εισερχόμενη δειγματοληψία από προκαθορισμένο λανθάνοντα χώρο (π.χ. πολλαπλή κανονική κατανομή ). Στη συνέχεια, οι παραγμένοι υποψήφιοι αξιολογούνται από το διαχωριστικό. Οπισθοδιάδοση εφαρμόζεται και στα δύο δίκτυα έτσι ώστε το παραγωιγικό μοντέλο να παράγει καλύτερες εικόνες, ενώ το διαχωριστικό γίνεται πιο εξειδικευμένο στην ανίχνευση συνθετικών εικόνων. [5] Το παραγωγικό μοντέλο είναι συνήθως ένα νευρωνικό δίκτυο ενώ το διαχωριστικό είναι ένα συνελικτικό νευρικό δίκτυο .

Εφαρμογές[Επεξεργασία | επεξεργασία κώδικα]

Οι εφαρμογές των ΠΑΔ έχουν αυξηθεί ταχύτατα. [6]

Μόδα, τέχνη και διαφήμιση[Επεξεργασία | επεξεργασία κώδικα]

Τα ΠΑΔ μπορούν να χρησιμοποιηθούν για τη δημιουργία φωτογραφιών φανταστικών μοντέλων μόδας, χωρίς να χρειάζεται πρόσληψη μοντέλου, φωτογράφου, καλλιτέχνη μακιγιάζ ή δαπάνες για στούντιο και μεταφορά. [7] Τα GAN μπορούν να χρησιμοποιηθούν για τη δημιουργία διαφημιστικών εκστρατειών μόδας, συμπεριλαμβανομένων πιο ποικιλόμορφων ομάδων μοντέλων. [8] Μπορούν επίσης να χρησιμοποιηθούν για τη δημιουργία πορτραίτων, τοπίων και εξώφυλλων άλμπουμ .

Επιστήμη[Επεξεργασία | επεξεργασία κώδικα]

Τα GAN μπορούν να βελτιώσουν τις αστρονομικές εικόνες [9] και να προσομοιώσουν τον βαρυτικό φακό για την έρευνα για τη σκοτεινή ύλη. [10] [11] [12] Χρησιμοποιήθηκαν το 2019 για να μοντελοποιήσουν με επιτυχία τη διανομή της σκοτεινής ύλης σε μια συγκεκριμένη κατεύθυνση στο διάστημα και να προβλέψουν τον βαρυτικό φακό που θα συμβεί. [13] [14]

Τα ΠΑΔ έχουν προταθεί ως ένας γρήγορος και ακριβής τρόπος για τη μοντελοποίηση του σχηματισμού πίδακα υψηλής ενέργειας [15] και για τη μοντελοποίηση ντους μέσω θερμιδομέτρων πειραμάτων φυσικής υψηλής ενέργειας . [16] [17] [18] [19] Τα ΠΑΔ έχουν επίσης εκπαιδευτεί ώστε να προσεγγίζουν με ακρίβεια τα σημεία συμφόρησης σε ακριβές υπολογιστικές προσομοιώσεις πειραμάτων σωματιδιακής φυσικής. Οι εφαρμογές στο πλαίσιο των παρόντων και προτεινόμενων πειραμάτων του CERN κατέδειξαν τις δυνατότητες αυτών των μεθόδων για την επιτάχυνση της προσομοίωσης και / ή τη βελτίωση της πιστότητας προσομοίωσης. [20]

Βιντεοπαιχνίδια[Επεξεργασία | επεξεργασία κώδικα]

Το 2018, τα αντιπαλικά δίκτυα έφθασαν στην κοινότητα modding ως μια μέθοδο κλιμάκωσης των δυδιάστατων υφών χαμηλής ανάλυσης στα παλιά βιντεοπαιχνίδια, αναδημιουργώντας τους σε αναλύσεις 4k ή μεγαλύτερες μέσω της κατάρτισης εικόνας. [21] Με την κατάλληλη εκπαίδευση, τα ΠΑΔ παρέχουν μια σαφέστερη και ευκρινέστερη δυδιάστατη εικόνα υφής μακράν υψηλότερης ποιότητας από το πρωτότυπο, διατηρώντας πλήρως το επίπεδο των λεπτομερειών, των χρωμάτων, κλπ. Γνωστά παραδείγματα εκτεταμένης χρήσης GAN περιλαμβάνουν το Final Fantasy VIII, το Final Fantasy IX, το Resident Evil REmake HD Remaster και το Max Payne .

Ανησυχίες για κακόβουλες εφαρμογές[Επεξεργασία | επεξεργασία κώδικα]

Μια εικόνα παραγμένη από ένα StyleGAN που μοιάζει παραπλανητικά πολύ με φωτογραφία πραγματικού προσώπου. Αυτή η εικόνα δημιουργήθηκε από ένα StyleGAN βάσει ανάλυσης πορτραίτων.

Έχουν εγερθεί ανησυχίες σχετικά με την πιθανή χρήση της σύνθεσης εικόνων ανθρώπων με ΠΑΔ για κακόβουλους σκοπούς, π.χ. για την παραγωγή ψεύτικων και / ή ενοχοποιητικών φωτογραφιών και βίντεο. [22] Τα GAN μπορούν να χρησιμοποιηθούν για να δημιουργηθούν μοναδικές, ρεαλιστικές φωτογραφίες προφίλ ατόμων που δεν υπάρχουν, προκειμένου να αυτοματοποιηθούν οι δημιουργίες ψεύτικων προφίλ κοινωνικών μέσων. [23]

Το 2019 η πολιτεία της Καλιφόρνια συζήτησε [24] και ψήφησε στις 3 Οκτωβρίου 2019 το νομοσχέδιο ΑΒ-602 που απαγορεύει τη χρήση των τεχνολογιών της σύνθεσης ανθρώπινης εικόνας για την δημιουργία ψεύτικης πορνογραφίας χωρίς τη συγκατάθεση των ατόμων που απεικονίζονται ενώ το νομοσχέδιο ΑΒ-730, το οποίο απαγορεύει τη διανομή παραποιημένων βίντεο πολιτικών υποψηφίων μέχρι 60 ημέρες πριν από εκλογές, υπογράφηκε από τον κυβερνήτη Gavin Newsom. Και τα δύο νομοσχέδια προτάθηκαν από το μέλος της Συνέλευσης Marc Berman . Οι νόμοι θα τεθούν σε ισχύ το 2020. [25]

Το πρόγραμμα Media Forensics της DARPA μελετά τρόπους αντιμετώπισης πλαστών ειδήσεων, συμπεριλαμβανομένων αυτών που παράγονται χρησιμοποιώντας GAN. [26]

Άλλες εφαρμογές[Επεξεργασία | επεξεργασία κώδικα]

Παραγωγικά αντιπαλικά δίκτυα που παράγουν φωτορεαλιστικές εικόνες μπορούν να χρησιμοποιηθούν για την απεικόνηση εσωτερικής διακόσμησης, βιομηχανικών σχεδιασμών, παπουτσιών [27], ρούχων ή αντικείμενων για σκηνές σε ηλεκτρονικά παιχνίδια. Τα δίκτυα αυτά έχουν αναφερθεί ότι χρησιμοποιούνται από το Facebook . [28]

Τα GAN μπορούν να αναδημιουργήσουν τρισδιάστατα μοντέλα αντικειμένων από εικόνες, [29] και πρότυπα μοντέλα κίνησης σε βίντεο. [30]

Το 2016, χρησιμοποιήθηκαν GAN για τη δημιουργία νέων μορίων για μια ποικιλία πρωτεϊνικών στόχων που εμπλέκονται στον καρκίνο, τη φλεγμονή και την ίνωση. Το 2019 δημιουργήθηκαν μόρια από ΠΑΔ που ελέγχθηκαν πειραματικά σε ποντίκια. [31] [32]

Αναφορές[Επεξεργασία | επεξεργασία κώδικα]

  1. Isola, Phillip; Zhu, Jun-Yan; Zhou, Tinghui; Efros, Alexei (2017). «Image-to-Image Translation with Conditional Adversarial Nets». Computer Vision and Pattern Recognition. https://phillipi.github.io/pix2pix/. 
  2. Ho, Jonathon; Ermon, Stefano (2016). «Generative Adversarial Imitation Learning». Advances in Neural Information Processing Systems: 4565–4573. Bibcode2016arXiv160603476H. http://papers.nips.cc/paper/6391-generative-adversarial-imitation-learning. 
  3. LeCun, Yann. «RL Seminar: The Next Frontier in AI: Unsupervised Learning». 
  4. Luc, Pauline; Couprie, Camille; Chintala, Soumith; Verbeek, Jakob (2016-11-25). «Semantic Segmentation using Adversarial Networks». NIPS Workshop on Adversarial Training, Dec, Barcelona, Spain 2016. Bibcode2016arXiv161108408L. 
  5. Andrej Karpathy; Pieter Abbeel; Greg Brockman; Peter Chen; Vicki Cheung; Rocky Duan; Ian Goodfellow; Durk Kingma και άλλοι., Generative Models, OpenAI, https://openai.com/blog/generative-models/, ανακτήθηκε στις April 7, 2016 
  6. Caesar, Holger (2019-03-01), A list of papers on Generative Adversarial (Neural) Networks: nightrome/really-awesome-gan, https://github.com/nightrome/really-awesome-gan, ανακτήθηκε στις 2019-03-02 
  7. Wong, Ceecee. «The Rise of AI Supermodels». CDO Trends. 
  8. Dietmar, Julia. «GANs and Deepfakes Could Revolutionize The Fashion Industry». Forbes. 
  9. Schawinski, Kevin; Zhang, Ce; Zhang, Hantian; Fowler, Lucas; Santhanam, Gokula Krishnan (2017-02-01). «Generative Adversarial Networks recover features in astrophysical images of galaxies beyond the deconvolution limit». Monthly Notices of the Royal Astronomical Society: Letters 467 (1): L110–L114. doi:10.1093/mnrasl/slx008. Bibcode2017MNRAS.467L.110S. 
  10. Kincade, Kathy. «Researchers Train a Neural Network to Study Dark Matter». R&D Magazine. https://www.rdmag.com/news/2019/05/researchers-train-neural-network-study-dark-matter. 
  11. Kincade, Kathy (May 16, 2019). «CosmoGAN: Training a neural network to study dark matter». Phys.org. https://phys.org/news/2019-05-cosmogan-neural-network-dark.html. 
  12. «Training a neural network to study dark matter». Science Daily. May 16, 2019. https://www.sciencedaily.com/releases/2019/05/190516145206.htm. 
  13. at 06:13, Katyanna Quach 20 May 2019. «Cosmoboffins use neural networks to build dark matter maps the easy way». www.theregister.co.uk (στα Αγγλικά). Ανακτήθηκε στις 20 Μαΐου 2019. 
  14. Mustafa, Mustafa; Bard, Deborah; Bhimji, Wahid; Lukić, Zarija; Al-Rfou, Rami; Kratochvil, Jan M. (2019-05-06). «CosmoGAN: creating high-fidelity weak lensing convergence maps using Generative Adversarial Networks». Computational Astrophysics and Cosmology 6 (1): 1. doi:10.1186/s40668-019-0029-9. ISSN 2197-7909. Bibcode2019ComAC...6....1M. 
  15. Paganini, Michela; de Oliveira, Luke; Nachman, Benjamin (2017). «Learning Particle Physics by Example: Location-Aware Generative Adversarial Networks for Physics Synthesis». Computing and Software for Big Science 1: 4. doi:10.1007/s41781-017-0004-6. 
  16. Paganini, Michela; de Oliveira, Luke; Nachman, Benjamin (2018). «Accelerating Science with Generative Adversarial Networks: An Application to 3D Particle Showers in Multi-Layer Calorimeters». Phys. Rev. Letters 120 (4): 042003. doi:10.1103/PhysRevLett.120.042003. PMID 29437460. 
  17. Paganini, Michela; de Oliveira, Luke; Nachman, Benjamin (2018). «CaloGAN: Simulating 3D High Energy Particle Showers in Multi-Layer Electromagnetic Calorimeters with Generative Adversarial Networks». Phys. Rev. D 97: 014021. doi:10.1103/PhysRevD.97.014021. 
  18. Erdmann, Martin; Glombitza, Jonas; Quast, Thorben (2019). «Precise Simulation of Electromagnetic Calorimeter Showers Using a Wasserstein Generative Adversarial Network». Computing and Software for Big Science 3: 4. doi:10.1007/s41781-018-0019-7. 
  19. Musella, Pasquale; Pandolfi, Francesco (2018). «Fast and Accurate Simulation of Particle Detectors Using Generative Adversarial Networks». Computing and Software for Big Science 2: 8. doi:10.1007/s41781-018-0015-y. Bibcode2018arXiv180500850M. 
  20. ATLAS, Collaboration (2018). «Deep generative models for fast shower simulation in ATLAS». 
  21. Tang, Xiaoou; Qiao, Yu; Loy, Chen Change; Dong, Chao; Liu, Yihao; Gu, Jinjin; Wu, Shixiang; Yu, Ke και άλλοι. (2018-09-01). «ESRGAN: Enhanced Super-Resolution Generative Adversarial Networks» (στα αγγλικά). Bibcode2018arXiv180900219W. 
  22. msmash (14 Φεβρουαρίου 2019). «'This Person Does Not Exist' Website Uses AI To Create Realistic Yet Horrifying Faces». Slashdot. Ανακτήθηκε στις 16 Φεβρουαρίου 2019. 
  23. Doyle, Michael (May 16, 2019). «John Beasley lives on Saddlehorse Drive in Evansville. Or does he?». Courier and Press. https://www.courierpress.com/story/news/crime/2019/05/16/john-beasley-lives-saddlehorse-drive-evansville-does-he/3700111002/. 
  24. Targett, Ed (May 16, 2019). «California moves closer to making deepfake pornography illegal». Computer Business Review. 
  25. Mihalcik, Carrie (4 Οκτωβρίου 2019). «California laws seek to crack down on deepfakes in politics and porn». cnet.com. CNET. Ανακτήθηκε στις 13 Οκτωβρίου 2019. 
  26. Knight, Will (Aug 7, 2018). «The Defense Department has produced the first tools for catching deepfakes». MIT Technology Review. https://www.technologyreview.com/s/611726/the-defense-department-has-produced-the-first-tools-for-catching-deepfakes/. 
  27. Wei, Jerry (3 Ιουλίου 2019). «Generating Shoe Designs with Machine Learning». Medium (στα Αγγλικά). Ανακτήθηκε στις 6 Νοεμβρίου 2019. 
  28. Greenemeier, Larry (20 Ιουνίου 2016). «When Will Computers Have Common Sense? Ask Facebook». Scientific American. Ανακτήθηκε στις 31 Ιουλίου 2016. 
  29. «3D Generative Adversarial Network». 3dgan.csail.mit.edu. 
  30. Vondrick, Carl; Pirsiavash, Hamed; Torralba, Antonio (2016). «Generating Videos with Scene Dynamics». carlvondrick.com. arXiv:1609.02612Freely accessible. Bibcode:2016arXiv160902612V. 
  31. Zhavoronkov, Alex (2019). «Deep learning enables rapid identification of potent DDR1 kinase inhibitors». Nature Biotechnology 37 (9): 1038–1040. doi:10.1038/s41587-019-0224-x. PMID 31477924. 
  32. Gregory, Barber. «A Molecule Designed By AI Exhibits 'Druglike' Qualities». Wired.