Δεν είναι δύσκολο να φανταστεί κανείς κυβερνήσεις ή άλλους παράγοντες να κατασκευάζουν εικόνες για να παρενοχλούν ή να δυσφημούν τους εχθρούς τους ή ακόμα χειρότερα...
Ο Πάπας Φραγκίσκος φορά ένα μακρύ, λευκό μπουφάν εμπνευσμένο από τις δημιουργίες του οίκου Balenciaga.
Ο ίδιος αναστατώνει πιλότους μαχητικών ή καβαλάει μία εντυπωσιακή μοτοσικλέτα σε έναν πολυσύχναστο δρόμο. Ο Φραγκίσκος επίσης γυρίζει από τραπέζι σε τραπέζι σε ένα σκοτεινό νυχτερινό κέντρο διασκέδασης ή μοιράζεται μια μπύρα στο φεστιβάλ του Burning Man.Των Tiffany Hsu και Steven Lee Myers για τους New York Times
Τις τελευταίες εβδομάδες, έχουν εμφανιστεί δεκάδες εικόνες που δείχνουν τον ηγέτη των Ρωμαιοκαθολικών του κόσμου σε περίεργα φωτογραφικά σενάρια, δημιουργώντας πραγματικό χαμό στα μέσα κοινωνικής δικτύωσης. Εκτός από τον ίδιο τον ποντίφικα, όλες οι εικόνες έχουν κάτι κοινό: Είναι ψεύτικες, φτιαγμένες από εργαλεία τεχνητής νοημοσύνης που δημιουργούν εικόνες από σύντομες προτροπές κειμένου.
Πολλά δημόσια πρόσωπα -συμπεριλαμβανομένου του αστέρα του μπάσκετ Lebron James και του Donald Trump- εμφανίστηκαν επίσης πρόσφατα σε φωτογραφίες που δημιουργήθηκαν από Τεχνητή Νοημοσύνη (A.I.), αλλά οι εικόνες με τον Πάπα έκαναν τη μεγαλύτερη θραύση. Έχουν κερδίσει πολύ περισσότερες προβολές, likes και σχόλια σε σχέση με άλλες φωτογραφίες Τεχνητής Νοημοσύνης, σύμφωνα με κριτική των The New York Times, προκαλώντας ένα είδος αναμέτρησης για την απεικόνιση του 86χρονου σε όλο και πιο περίεργες καταστάσεις.
«Έπρεπε να εμπλακώ στο θέμα του Πάπα», έγραψε πρόσφατα ένας χρήστης του Reddit δίπλα σε μία από τις εικόνες Τεχνητής Νοημοσύνης (A.I.) του Πάπα να εξασκεί πολεμικές τέχνες, να παίζει μπάσκετ και να κάνει σκέιτμπορντ. «Πηδώντας στο “άρμα” του Πάπα», έγραψε ένας άλλος, μοιράζοντας μια εικόνα του ποντίφικα να μιλά σε ένα πλήθος μοτοσυκλετιστών.
Η παρουσία του Πάπα Φραγκίσκου σε εικόνες που δημιουργούνται από Τεχνητή Νοημοσύνη είναι το αποτέλεσμα μιας τέλειας «καταιγίδας» παραγόντων, λένε θρησκευτικοί ειδικοί. Μετά από 10 χρόνια ως επικεφαλής της Καθολικής Εκκλησίας, γίνεται αμέσως αναγνωρίσιμος σε όλο τον κόσμο. Θεωρείται ως ένας από τους πιο προσιτούς ηγέτες, κυρίως έναντι του προκατόχου του, Πάπα Βενέδικτου XVI. Και όταν συνδυάζεται με μια ξαφνική έκρηξη ενδιαφέροντος για τα νέα εργαλεία Τεχνητής Νοημοσύνης, ο Πάπας Φραγκίσκος —ο οποίος στην πραγματική ζωή απεικονίζεται συχνά σε επίσημους χώρους— έγινε η επαναλαμβανόμενη επιλογή των δημιουργών που έπρεπε να τοποθετηθεί στα πιο αταίριαστα σενάρια.
Ο στόχος, λένε ορισμένοι δημιουργοί, είναι να δείξουν ότι ακόμη και ο Πάπας μπορεί να παίξει ποδόσφαιρο, να είναι τολμηρός και να διασκεδάζει.
Οι παγκόσμιες θρησκευτικές προσωπικότητες όπως ο Πάπας είναι φυσικό να αποτελούν θέματα πολιτικής σάτιρας και καλλιτεχνικής έκφρασης, δηλώνει η Jennifer Herdt, καθηγήτρια Χριστιανικής ηθικής στη Σχολή Θεολογίας του Γέιλ. Ο Φραγκίσκος είναι ιδανικός, πρόσθεσε, επειδή «είναι γνωστός για την απλότητά, την αλληλεγγύη του με τους φτωχότερους των φτωχών», οπότε όταν αποτελεί αντικείμενο μακρινών σεναρίων, όπως η πτήση με μαχητικό αεροσκάφος, «είναι σίγουρα μία δυσαρμονία που είναι αδύνατον να περάσει απαρατήρητη».
Ωστόσο, οι εικόνες μπορεί να είναι επικίνδυνες εάν οι άνθρωποι πιστεύουν ότι είναι πραγματικές και τις χρησιμοποιούν καταχρηστικά προκειμένου να διαδίδουν παραπληροφόρηση. «Παρασύρουν τους ανθρώπους ώστε να μην κάνουν διπλό έλεγχο σε ότι βλέπουν ή διαβάζουν», λέει ο Subbarao Kambhampati, καθηγητής επιστήμης υπολογιστών στο Πολιτειακό Πανεπιστήμιο της Αριζόνα. «Τότε απομακρύνεσαι σιγά σιγά από την πραγματικότητα χωρίς να το καταλάβεις».
Η εικόνα που μετέτρεψε εν μια νυκτί τον Πάπα Φραγκίσκο σε σταρ της Τεχνητής Νοημοσύνης τον δείχνει με ένα λευκό μπουφάν σε στυλ Balenciaga, ενός -σπουδαίας φήμης- γαλλικού οίκου μόδας, να περπατά στο δρόμο. Η φωτογραφία δημοσιεύτηκε για πρώτη φορά στις 24 Μαρτίου σε ένα φόρουμ του Reddit για το εργαλείο γενετικής Τεχνητής Νοημοσύνης Midjourney και στη συνέχεια κοινοποιήθηκε στα μέσα κοινωνικής δικτύωσης.
Ένα tweet που μοιράστηκε την εικόνα άρεσε περισσότερες από 229.000 φορές και προβλήθηκε 20,6 εκατομμύρια φορές. Αντίθετα, ένα tweet που μοιράζεται εικόνες σύλληψης του πρώην προέδρου Donald Trump που δημιουργήθηκαν επίσης με Τεχνητή Νοημοσύνη συγκέντρωσε 40.000 likes και 6,4 εκατομμύρια προβολές.
Η Midjourney, η οποία κυκλοφόρησε την έκδοση 5 του εργαλείου δημιουργίας εικόνων τον περασμένο μήνα, δεν απάντησε σε αίτημα των New York Times για σχολιασμό.
Το εργαλείο της δημιουργεί προσαρμοσμένες, υπερρεαλιστικές εικόνες από λίγες μόνο λέξεις και τώρα μπορεί να δημιουργήσει χέρια με τον σωστό αριθμό δακτύλων, ένα προηγούμενο εμπόδιο όσον αφορά την πιστότητα των φωτογραφιών.
Ήδη, ο Πάπας Φραγκίσκος έχει γίνει ο σταρ της Τεχνητής Νοημοσύνης. Έχει παρουσιαστεί να τρώει φαστ φουντ, να συναντά εξωγήινους, να παίζει κιθάρα στο Φεστιβάλ Glastonbury, να κάνει καταδύσεις, να χορεύει στην παραλία και να καθαρίζει τα βιολογικά επικίνδυνα απόβλητα με στολή hazmat. Η «πλημμύρα» των παπικών εικόνων είναι τόσο ογκώδης που μερικοί άνθρωποι σε φόρουμ Τεχνητής Νοημοσύνης παρακαλούν τους δημιουργούς να μη σταματήσουν όσον αφορά τις εμπνεύσεις τους.
Ωστόσο, το «ότι βλέπεις μην το πιστεύεις» ισχύει εδώ και πολύ καιρό.
Οι φωτογραφίες υπόκεινται σε επεξεργασίες από την πρώτη μέρα της δημιουργίας τους. Σήμερα όμως, δεν απαιτείται καν να υπάρχει σε μια εικόνα έστω και λίγη πραγματικότητα για να φαίνονται αυθεντικές, καθώς η Τεχνητή Νοημοσύνη ανταποκρίνεται τέλεια σε μια απλή προτροπή. Ακόμη και οι ειδικοί μερικές φορές δυσκολεύονται να πουν αν κάποια είναι πράγματική εικόνα ή όχι. Εσείς μπορείτε;
Η ραγδαία εξάπλωση της Τεχνητής Νοημοσύνης έχει προκαλέσει συναγερμό ότι η τεχνολογία που χρησιμοποιείται για να ξεγελάει τους ανθρώπους προχωρά πολύ πιο γρήγορα από την τεχνολογία που μπορεί να αναγνωρίζει την πραγματικότητα. Οι εταιρείες τεχνολογίας, οι ερευνητές, τα φωτογραφικά πρακτορεία και οι ειδησεογραφικοί οργανισμοί προσπαθούν να καλύψουν τη διαφορά, προσπαθώντας να καθιερώσουν κριτήρια και κανόνες για την προέλευση και την ιδιοκτησία του περιεχομένου.
Οι εξελίξεις τροφοδοτούν ήδη την παραπληροφόρηση και χρησιμοποιούνται για να πυροδοτήσουν πολιτικούς διχασμούς. Οι αυταρχικές κυβερνήσεις έχουν δημιουργήσει φαινομενικά ρεαλιστικούς φορείς ειδήσεων προκειμένου να προωθούν τους πολιτικούς τους στόχους. Τον περασμένο μήνα, κάποιοι έπεσαν πάνω στις εικόνες Πάπα Φραγκίσκου με ένα φουσκωτό μποφάν και σε μια είδηση για έναν σεισμό που κατέστρεψε τον Βορειοδυτικό Ειρηνικό, παρόλο που κανένα από αυτά τα γεγονότα δεν είχε συμβεί. Οι εικόνες είχαν δημιουργηθεί χρησιμοποιώντας το Midjourney, ένα δημοφιλές πρόγραμμα δημιουργίας εικόνων.
Την περασμένη Τρίτη, καθώς ο πρώην πρόεδρος Donald Trump παραδόθηκε στο γραφείο του εισαγγελέα του Μανχάταν για να αντιμετωπίσει ποινικές διώξεις, στο Reddit εμφανίστηκαν εικόνες που δημιουργήθηκαν από την τεχνητή νοημοσύνη και δείχνουν τον ηθοποιό Bill Murray ως πρόεδρο στον Λευκό Οίκο. Μια άλλη εικόνα που δείχνει τον Trump να παρελαύνει μπροστά σε ένα μεγάλο πλήθος με αμερικανικές σημαίες αναδημοσιεύτηκε γρήγορα στο Twitter, χωρίς όμως την επισήμανση που συνόδευε την αρχική ανάρτηση, ότι δηλαδή στην πραγματικότητα δεν ήταν αλήθινή φωτογραφία.
Οι ειδικοί φοβούνται ότι η συγκεκριμένη τεχνολογία θα μπορούσε να επιταχύνει τη διάβρωση της εμπιστοσύνης στα μέσα ενημέρωσης, στην κυβέρνηση και στην κοινωνία. Και είναι αλήθεια: Αν οποιαδήποτε εικόνα μπορεί να κατασκευαστεί -και να χειραγωγηθεί με τέτοια αληθοφάνεια- πώς μπορούμε να πιστέψουμε σε οτιδήποτε βλέπουμε;
«Τα εργαλεία θα γίνουν καλύτερα, θα γίνουν φθηνότερα και θα έρθει μια μέρα που τίποτα από όσα βλέπουμε στο Διαδίκτυο δεν θα γίνονται πιστευτά», δηλώνει ο Wasim Khaled, διευθύνων σύμβουλος της Blackbird.AI, μιας εταιρείας που βοηθά τους πελάτες της να καταπολεμούν την παραπληροφόρηση.
Η Τεχνητή Νοημοσύνη επιτρέπει σχεδόν σε οποιονδήποτε να δημιουργήσει σύνθετα έργα τέχνης, όπως αυτά που εκτίθενται τώρα στη γκαλερί Gagosian στη Νέα Υόρκη, ή ρεαλιστικές εικόνες που θολώνουν τη γραμμή μεταξύ του αληθινού και του φανταστικού. Συνδέστε μια περιγραφή κειμένου και η τεχνολογία μπορεί να παράγει μια σχετική εικόνα —δεν απαιτούνται ειδικές δεξιότητες.
Συχνά, βέβαια, υπάρχουν κάποια σημάδια ότι οι ιογενείς εικόνες δημιουργήθηκαν από υπολογιστή και ότι δεν καταγράφηκαν στην πραγματική ζωή: Ο Πάπας Φραγκίσκος φορούσε γυαλιά που έμοιαζαν να λιώνουν στο μάγουλό του, ενώ και τα δάχτυλα του ήταν θαμπά, για παράδειγμα. Επίσης, τα εργαλεία Τεχνητής Νοημοσύνης συχνά παράγουν ακαταλαβίστικα και δυσνόητα κείμενα.
Ωστόσο, οι ραγδαίες εξελίξεις στην τεχνολογία εξαλείφουν με τον καιρό πολλά από αυτά τα ελαττώματα. Η τελευταία έκδοση του Midjourney, που κυκλοφόρησε τον περασμένο μήνα, είναι σε θέση να απεικονίσει ρεαλιστικά τα χέρια, ένα κατόρθωμα που είχε ξεφύγει εμφανώς από τα πρώτα εργαλεία απεικόνισης.
Λίγες μέρες πριν Trump παραδοθεί προκειμένου να αντιμετωπίσει τις ποινικές διώξεις στη Νέα Υόρκη, εικόνες από τη «σύλληψή» του έκαναν το γύρο των μέσων κοινωνικής δικτύωσης. Δημιουργήθηκαν από τον Eliot Higgins, Βρετανό δημοσιογράφο και ιδρυτή της Bellingcat, μιας ερευνητικής οργάνωσης ανοιχτού κώδικα. Χρησιμοποίησε το Midjourney για να φανταστεί τη σύλληψη, τη δίκη, τη φυλάκιση του πρώην προέδρου με μια πορτοκαλί φόρμα και την απόδραση μέσω ενός υπονόμου. Τις εικόνες τις δημοσίευσε στο Twitter, σημειώνοντάς τις ξεκάθαρα ως «δημιουργίες». Έκτοτε έχουν κοινοποιηθεί ευρέως.
Οι εικόνες δεν είχαν σκοπό να ξεγελάσουν κανέναν. Αντίθετα, ο Higgins ήθελε να επιστήσει την προσοχή στη δύναμη του εργαλείου που βρίσκεται ακόμα στην αρχή του.
Οι εικόνες του Midjourney, λέει ο Higgins, δημιουργήθηκαν από προγράμματα αναγνώρισης προσώπου που χρησιμοποιεί η Bellingcat για να επαληθεύει τις ταυτότητες, συνήθως Ρώσων που έχουν διαπράξει εγκλήματα ή άλλες καταχρήσεις. Έτσι, δεν είναι δύσκολο να φανταστεί κανείς κυβερνήσεις ή άλλους κακόβουλους παράγοντες να κατασκευάζουν εικόνες για να παρενοχλούν ή να δυσφημούν τους εχθρούς τους.
Ταυτόχρονα, λέει ο ίδιος, το εργαλείο Τεχνητής Νοημοσύνης δυσκολεύτηκε να δημιουργήσει πειστικές εικόνες με ανθρώπους που δεν φωτογραφίζονται τόσο ευρέως όσο ο Trump, όπως ο νέος Βρετανός πρωθυπουργός, Rishi Sunak, ή ο κωμικός Harry Hill, «ο οποίος μάλλον δεν είναι τόσο γνωστός εκτός Ηνωμένου Βασιλείου».
Ωστόσο, το ερευνητικό εργαστήριο Midjourney, Inc., με έδρα το Σαν Φρανσίσκο, δεν φάνηκε να χαίρεται με τις εικόνες του Huggins. Ανέστειλε τον λογαριασμό του χωρίς εξήγηση μετά τη διάδοση των φωτογραφιών. Η εταιρεία δεν απάντησε σε αιτήματα των New York Times για σχολιασμό.
Παρ’ όλα αυτά, προς το παρόν, οι εικόνες που δημιουργούνται μέσω Τεχνητής Νοημοσύνης είναι σχετικά εύκολο να εντοπιστούν από ειδησεογραφικούς οργανισμούς ή άλλους ενδιαφερόμενους. Ωστόσο, πρακτορεία φωτογραφιών, κυβερνητικές ρυθμιστικές αρχές και μέλη της μουσικής βιομηχανίας έχουν ήδη κινηθεί προκειμένου να προστατεύσουν το περιεχόμενό τους από μη εξουσιοδοτημένη χρήση, αλλά η ισχυρή ικανότητα της τεχνολογίας να μιμείται και να προσαρμόζεται περιπλέκει αυτές τις προσπάθειες.
Τον Φεβρουάριο, η Getty Images κατηγόρησε το Stability AI ότι αντέγραψε παράνομα περισσότερες από 12 εκατομμύρια φωτογραφίες του πρακτορείου, μαζί με λεζάντες και πληροφορίες, προκειμένου να εκπαιδεύσει το λογισμικό πίσω από το εργαλείο Τεχνητής Νοημοσύνης Stable Diffusion. Στην αγωγή του, η Getty υποστήριξε ότι το Stable Diffusion μείωσε την αξία των εικόνων της Getty, ενσωματώνοντάς τες σε φωτογραφίες που κυμαίνονταν «από το παράξενο έως το γκροτέσκο».
Η Getty είπε ότι η «ξεδιάντροπη κλοπή και η χωρίς άδεια χρήση εικόνων» διεξήχθη «σε εκπληκτική κλίμακα».
Η αγωγή της Getty αντικατοπτρίζει τις ανησυχίες που εγείρονται από πολλούς καλλιτέχνες ότι οι εταιρείες Τεχνητής Νοημοσύνης γίνονται ανταγωνιστική απειλή αντιγράφοντας περιεχόμενο που δεν έχουν άδεια να χρησιμοποιούν. Οι παραβιάσεις εμπορικών σημάτων έχουν επίσης αυξηθεί ανησυχητικά: Οι τεχνητά δημιουργημένες εικόνες έχουν αντιγράψει ακόμα και το λογότυπο του παγωνιού του NBC, αν και με ακατάληπτα γράμματα, και δείχνουν το γνωστό καμπυλωτό λογότυπο της Coca-Cola με επιπλέον O’s ενσωματωμένα στο όνομα.
Τον Φεβρουάριο, το Γραφείο Πνευματικών Δικαιωμάτων των ΗΠΑ στάθμισε τις τεχνητά δημιουργημένες εικόνες όταν αξιολόγησε την περίπτωση του «Zarya of the Dawn», ενός κόμικ 18 σελίδων που έγραψε η Kristina Kashtanova και το οποίο δημιουργήθηκε με τη χρήση Midjourney. Ο κυβερνητικός διαχειριστής αποφάσισε να προσφέρει προστασία πνευματικών δικαιωμάτων στο κείμενο του κόμικ, αλλά όχι στο εικαστικό του κομμάτι.
Η απειλή για τους φωτογράφους είναι ακόμα μεγαλύτερη καθώς δεν υπάρχει αντίστοιχη ανάπτυξη κατάλληλης νομικής προστασίας, δηλώνει ο Mickey H. Osterreicher, γενικός σύμβουλος της National Press Photographers Association. Τα γραφεία σύνταξης ειδήσεων θα δυσκολεύονται επίσης όλο και περισσότερο να πιστοποιήσουν την ταυτότητα περιεχομένου. Οι χρήστες των μέσων κοινωνικής δικτύωσης συνήθως αγνοούν τις ετικέτες που προσδιορίζουν ξεκάθαρα τις εικόνες ως τεχνητά δημιουργημένες, επιλέγοντας να πιστεύουν ότι είναι πραγματικές φωτογραφίες, λέει.
Η Τεχνητή Νοημοσύνη θα μπορούσε επίσης να κάνει πιο εύκολη την παραγωγή πλαστών βίντεο. Αυτή την εβδομάδα, εμφανίστηκε ένα βίντεο στο διαδίκτυο που φαινόταν να δείχνει τη Nina Schick, μια συγγραφέα και ειδική στη γενετική Τεχνητή Νοημοσύνη, η οποία εξηγούσε το πώς η τεχνολογία θα δημιουργούσε «έναν κόσμο όπου οι σκιές θα συγχέονται με την πραγματικότητα». Στη συνέχεια, το πρόσωπο της Schick έσκασε καθώς η ο φακός της κάμερας απομακρύνονταν προς τα πίσω, δείχνοντας ένα διπλό σώμα στη θέση της.
Το βίντεο εξηγούσε ότι το deepfake (ένα άτομο σε μια υπάρχουσα εικόνα ή βίντεο αντικαθίσταται με την ομοιότητα κάποιου άλλου) είχε δημιουργηθεί, με τη συγκατάθεση της Schick, από την ολλανδική εταιρεία Revel.ai και την Truepic, μια εταιρεία από την Καλιφόρνια που διερευνά ευρύτερα την επαλήθευση ψηφιακού περιεχομένου.
Οι εταιρείες περιέγραψαν το βίντεό τους, το οποίο διαθέτει μια σφραγίδα που το προσδιορίζει ως δημιουργημένο από υπολογιστή, ως το «πρώτο ψηφιακά “διαφανές” deepfake».
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου