Κυριακή 10 Μαρτίου 2024

Η Τεχνητή Νοημοσύνη Gemini της Google πιάστηκε να δημιουργεί ψεύτικες κριτικές βιβλίων για να υπερασπιστεί τη Μεγάλη Τεχνολογία


 Η τεχνητή νοημοσύνη Gemini της Google συνεχίζει να γίνεται πρωτοσέλιδο για όλους τους λάθος λόγους, με έναν συγγραφέα να αποκαλύπτει ότι το εργαλείο δημιούργησε ψεύτικες κριτικές βιβλίων προκειμένου να υπερασπιστεί τον γίγαντα της αναζήτησης.

Όταν ο συγγραφέας Peter Hasson υπέβαλε στο πρόγραμμα AI ερωτήσεις σχετικά με ένα βιβλίο που έγραψε το 2020, The Manipulators: Facebook, Google, Twitter, and Big Tech’s War on Conservatives, διαπίστωσε ότι το chatbot επινόησε στην πραγματικότητα μια σειρά από ψεύτικες κριτικές που αποδίδονται σε πραγματικούς ανθρώπους σε μια προσπάθεια να το δυσφημίσει.

Το βιβλίο, το οποίο αφορούσε τις πολιτικές προκαταλήψεις της Google και άλλων εταιρειών τεχνολογίας, ερευνήθηκε διεξοδικά και ο Hasson άντλησε πληροφορίες από έγγραφα που διέρρευσαν και εσωτερικές πηγές για να ενημερώσει τη συγγραφή του. Προφανώς χτύπησε νεύρο στην Google, καθώς το πρόγραμμα τεχνητής νοημοσύνης της έλεγε το ένα ψέμα μετά το άλλο σε μια προσπάθεια να το συκοφαντήσει.

Στο πλαίσιο της περιγραφής του βιβλίου από την Google, το chatbot έγραψε ότι έχει “επικριθεί για την έλλειψη συγκεκριμένων στοιχείων και τη στήριξη σε ανεκδοτολογικές πληροφορίες”.

Ως κάποιος που έχει παρακολουθήσει πολύ στενά την υποδοχή του δικού του βιβλίου, ο Hasson δεν μπορούσε να θυμηθεί μια τέτοια κριτική, οπότε ρώτησε την τεχνητή νοημοσύνη που έκανε αυτά τα σχόλια.

Στη συνέχεια του παρείχε περιλήψεις τεσσάρων αρνητικών κριτικών που υποτίθεται ότι προέρχονταν από τους New York Times, το Wired, το Washington Free Beacon και το New York Times Book Review.

Οι περιλήψεις ήταν πολύ πειστικές. Για παράδειγμα, η Τεχνητή Νοημοσύνη έγραψε: “Κριτική βιβλίου από τον Matthew Continetti στο The Washington Free Beacon: Αυτή η κριτική επικρίνει το βιβλίο επειδή στηρίζεται σε “ανεκδοτολογικά στοιχεία” και σε “επιλεγμένα παραδείγματα” για να υποστηρίξει τους ισχυρισμούς του”.

Ενώ το Washington Free Beacon έκανε πράγματι κριτική για το βιβλίο, ο κριτικός ήταν στην πραγματικότητα ο Charles Lehman, και η αξιολόγησή του ήταν απίστευτα θετική. Είπε ότι πρόκειται για ένα “διεξοδικά μελετημένο” και “εξαιρετικό” βιβλίο που “θα πρέπει να αφήσει κάθε λογικό αναγνώστη, συντηρητικό ή μη, εξοργισμένο”.

Δεν ήταν μόνο η κριτική του Washington Free Beacon που ήταν επινοημένη- όλες οι κριτικές ήταν εντελώς επινοημένες, όπως και τα αποσπάσματα που ο Gemini απέδωσε στους συγγραφείς τους.

Όταν ο Hasson ζήτησε από το Gemini να του παράσχει συνδέσμους πηγής για τις αναφερόμενες κριτικές, παρόλο που γνώριζε ότι δεν υπήρχαν, το chatbot φάνηκε να πανικοβάλλεται και ξαφνικά ισχυρίστηκε ότι δεν μπορούσε να βοηθήσει.

Του είπε: “Δεν έχω αρκετές πληροφορίες για το συγκεκριμένο άτομο για να βοηθήσω στο αίτημά σας. Είμαι ένα μεγάλο γλωσσικό μοντέλο και είμαι σε θέση να επικοινωνώ και να παράγω κείμενο που μοιάζει με ανθρώπινο κείμενο ως απάντηση σε ένα ευρύ φάσμα προτροπών και ερωτήσεων, αλλά οι γνώσεις μου σχετικά με αυτό το άτομο είναι περιορισμένες. Υπάρχει κάτι άλλο που μπορώ να κάνω για να σας βοηθήσω με αυτό το αίτημα;”.

Επέμενε και έπαιρνε κάθε φορά την ίδια γενική απάντηση.

Οι προσπάθειες του Hasson να επικοινωνήσει με την Google αντιμετωπίστηκαν με μια απάντηση τύπου μπισκότου που έλεγε ότι “το Gemini έχει δημιουργηθεί ως εργαλείο δημιουργικότητας και παραγωγικότητας και μπορεί να μην είναι πάντα ακριβές ή αξιόπιστο”.

Η γεννήτρια εικόνων AI του Gemini αποσύρθηκε ως απάντηση στην κριτική για τις ανακρίβειες και την έξοδο που ξύπνησε

Πρόκειται για την ίδια τεχνητή νοημοσύνη που έγινε πρόσφατα πρωτοσέλιδο για την ανακριβή και woke έξοδό της. Για παράδειγμα, αρνήθηκε να δημιουργήσει εικόνες λευκών οικογενειών με την αιτιολογία ότι δεν θα δημιουργήσει εικόνες που προσδιορίζουν την εθνικότητα ή τη φυλή, ωστόσο ήταν πολύ πρόθυμη να δημιουργήσει εικόνες μαύρων και ισπανόφωνων οικογενειών.

Όταν του ζητήθηκε να δημιουργήσει εικόνες ναζί, φάνηκε ανίκανο να δημιουργήσει μια ιστορικά ακριβή εικόνα λευκού ατόμου και αντ’ αυτού δημιούργησε ανθρώπους διαφόρων άλλων φυλών που φορούσαν στολές των SS, ενώ η απεικόνιση ενός Πάπα έδειξε μια Ινδή γυναίκα που φορούσε παπική ενδυμασία.

Σε απάντηση στην οργή των χρηστών και την κακή δημοσιότητα, η Google ανακοίνωσε ότι θα διακόψει τη λειτουργία δημιουργίας εικόνων, ενώ θα αντιμετωπίσει ορισμένες από τις αδυναμίες

ΠΗΓΗ

Δεν υπάρχουν σχόλια:

.

.

Δημοφιλείς αναρτήσεις