Η τεχνητή νοημοσύνη μπορεί να αποδειχθεί χρήσιμη στην επιστημονική μελέτη και σε κάποιες απλές λειτουργείες.
Μια από τις λειτουργίες που προωθούν πολύ οι εταιρίες όμως, είναι η δυνατότητα περίληψης κειμένων. Όμως, όταν η περίληψη γίνεται σε θέματα ενημέρωσης, τα AI chatbots αυτή τη στιγμή αποτυγχάνουν να δημιουργήσουν περιεχόμενο που βασίζεται σε μεγάλα και σύνθετα άρθρα, παράγοντας έτσι μη ακριβές περιεχόμενο, όπως έδειξαν δοκιμές.
Το BBC δοκίμασε όλα τα μεγάλα AI chatbots, επικεντρώνοντας στην δυνατότητά τους να κάνουν περιλήψεις σε νέα. Συγκεκριμένα, δοκίμασαν το ChatGPT, το Copilot, το Gemini και το Perplexity της Anthropic. Κατά τη διάρκεια των δοκιμών, το BBC επέτρεψε στα AI Chatbots να αποκτήσουν πρόσβαση στο περιεχόμενο της σελίδας του BBC, καθώς γενικότερα τα μπλοκάρει από το να διαβάζουν την σελίδα και να κλέβουν το περιεχόμενό. Για λίγο όμως, έδωσαν πρόσβαση στα AI Chatbots, για τις ανάγκες των δοκιμών.
Στο πείραμα ήταν να κάνει τα AI chatbots να δημιουργήσουν περιλήψεις για 100 άρθρα ειδήσεων του BBC. Παράλληλα, το BBC προσέλαβε ειδικούς σε θέματα ειδησιογραφίας για να βαθμολογήσουν τα αποτελέσματα που έδιναν τα chatbots. Τα αποτελέσματα έδειξαν πως το 51% των περιλήψεων που παρήγαγαν τα AI chatbots είχαν κάποιου είδους σοβαρά προβλήματα. Το πιο ανησυχητικό είναι πως υπήρχε ένα μεγάλο ποσοστό “παραισθήσεων”, δηλαδή το 19% των άρθρων περιλάμβαναν λανθασμένες ή ανύπαρκτες πληροφορίες, δηλώσεις, αριθμούς και ημερομηνίες, που η τεχνητή νοημοσύνη δημιούργησε χωρίς να υπάρχουν στο αρχικό κείμενο.
Η έκθεση αναφέρει επίσης ότι τα chatbots « δυσκολεύτηκαν να αντιληφθούν τη διαφορά μεταξύ γνώμης και γεγονότος και πολλές φορές απέτυχαν να συμπεριλάβουν το ουσιαστικό πλαίσιο».
Η Deborah Turness, CEO του BBC News, είπε λίγα λόγια σχετικά με τα αποτελέσματα των δοκιμών. Θεωρεί ότι η τεχνητή νοημοσύνη είναι πηγή « ατελείωτων ευκαιριών ». Ωστόσο, η Turness θεωρεί ότι οι εταιρείες τεχνητής νοημοσύνης «παίζουν με τη φωτιά». « Ζούμε σε ταραγμένους καιρούς και πόσο καιρό θα περάσει μέχρι ένας τίτλος παραμορφωμένος από AI να προκαλέσει σημαντική βλάβη στον πραγματικό κόσμο;»
Η Turness αναφέρει πως το BBC είναι ανοιχτό να συνεργαστεί για την εύρεση λύσεων. Η OpenAI ήταν η μόνη που έκανε δηλώσεις σχετικά με τα αποτελέσματα.
«Δουλέψαμε με συνεργάτες για να βελτιώσουμε την ακρίβεια των παραπομπών στα κείμενα και να σεβαστούμε τις προτιμήσεις των εκδοτών, συμπεριλαμβανομένης της ενεργοποίησης του τρόπου εμφάνισης τους στην αναζήτηση μέσω της διαχείρισης του OAI-SearchBot στο robots.txt τους . Θα συνεχίσουμε να βελτιώνουμε τα αποτελέσματα αναζήτησης », είπε ένας εκπρόσωπος.
Οι δοκιμές του BBC δείχνουν με τον καλύτερο τρόπο, στην παρούσα φάση, πως δεν πρέπει να εμπιστευόμαστε την τεχνητή νοημοσύνη, ούτε για κάτι απλό όπως η περίληψη ενός κειμένου, ιδιαίτερα όταν αυτό περιέχει σύνθετες πληροφορίες και έννοιες. Το τραγικό τις υπόθεσης είναι πως οι εταιρίες παραγωγής τεχνητής νοημοσύνης το γνωρίζουν πολύ καλά, όμως επιμένουν να χρησιμοποιούν τα fake news που παράγουν τα μοντέλα τους, ως απαντήσεις σε ερωτήματα που κάνει το κοινό στην αναζήτηση.
Πηγή: techmaniacs
