Η εταιρεία τεχνητής νοημοσύνης xAI του Elon Musk έχει περιορίσει τη χρήση του αμφιλεγόμενου προγράμματος δημιουργίας εικόνων τεχνητής νοημοσύνης Grok σε συνδρομητές που πληρώνουν, μετά από έντονες αντιδράσεις για τη χρήση του για τη διάδοση σεξουαλικών deepfakes γυναικών και παιδιών.
Η start-up ανακοίνωσε την κίνηση την Παρασκευή το πρωί, λίγες μέρες μετά την αποκάλυψη ότι το chatbot είχε χρησιμοποιηθεί για τη δημιουργία προκλητικών εικόνων ατόμων χωρίς τη συγκατάθεσή τους. Αυτές οι αποκαλύψεις οδήγησαν τους νομοθέτες στην ΕΕ, τη Γαλλία και το Ηνωμένο Βασίλειο να απειλήσουν την πλατφόρμα με πρόστιμα και απαγορεύσεις, εκτός αν λάβει μέτρα.
«Η δημιουργία και η επεξεργασία εικόνων περιορίζονται επί του παρόντος στους συνδρομητές που πληρώνουν», ανέφερε η Grok στο X. Η xAI δεν απάντησε αμέσως σε αίτημα για περαιτέρω σχόλια.
Το Grok έχει σχεδιαστεί σκόπιμα ώστε να έχει λιγότερα περιοριστικά μέτρα για το περιεχόμενο σε σχέση με τους ανταγωνιστές του, με τον Musk να αποκαλεί το μοντέλο «μέγιστης αναζήτησης της αλήθειας».
Το chatbot της εταιρείας περιλαμβάνει επίσης μια λειτουργία που επιτρέπει στους χρήστες να δημιουργούν σεξουαλικά προκλητικές εικόνες. Ο πρωθυπουργός του Ηνωμένου Βασιλείου, Sir Keir Starmer, υποσχέθηκε να λάβει μέτρα κατά της X την Πέμπτη, προτρέποντας την πλατφόρμα κοινωνικών μέσων να «συντονιστεί» και να σταματήσει το εργαλείο AI chatbot Grok από την παραγωγή σεξουαλικών εικόνων παιδιών.
Αφού η xAI περιόρισε την πρόσβαση στο Grok την Παρασκευή, ένας εκπρόσωπος της Downing Street δήλωσε ότι η κίνηση αυτή «μετατρέπει απλώς μια λειτουργία τεχνητής νοημοσύνης που επιτρέπει τη δημιουργία παράνομων εικόνων σε μια premium υπηρεσία. Δεν είναι λύση. Στην πραγματικότητα, είναι προσβλητικό για τα θύματα της μισογυνίας και της σεξουαλικής βίας».
Η Ευρωπαϊκή Επιτροπή διέταξε την X να διατηρήσει τα εσωτερικά έγγραφα που σχετίζονται με το Grok μέχρι το τέλος του έτους. Γάλλοι υπουργοί έχουν επίσης αναφέρει τις σεξουαλικές εικόνες που έχει δημιουργήσει το Grok στις εισαγγελικές αρχές και τις ρυθμιστικές αρχές των μέσων ενημέρωσης.
Στις 3 Ιανουαρίου, ο Musk δημοσίευσε στο X ότι «όποιος χρησιμοποιεί το Grok για να δημιουργήσει παράνομο περιεχόμενο θα υποστεί τις ίδιες συνέπειες με όσους ανεβάζουν παράνομο περιεχόμενο». Η άνοδος της γενετικής τεχνητής νοημοσύνης έχει οδηγήσει σε μια έκρηξη μη συναινετικών deepfake εικόνων, χάρη στο πόσο εύκολο είναι να χρησιμοποιηθεί η τεχνολογία για τη δημιουργία τέτοιων εικόνων.
Η Internet Watch Foundation, μια μη κερδοσκοπική οργάνωση με έδρα το Ηνωμένο Βασίλειο, δήλωσε ότι οι εικόνες σεξουαλικής κακοποίησης παιδιών που δημιουργήθηκαν με τεχνητή νοημοσύνη διπλασιάστηκαν το τελευταίο έτος, με το υλικό να γίνεται όλο και πιο ακραίο.
Ενώ η xAI δήλωσε ότι έχει καταργήσει παράνομες εικόνες παιδιών που δημιουργήθηκαν με τεχνητή νοημοσύνη, το τελευταίο περιστατικό θα εγείρει περαιτέρω ανησυχίες σχετικά με το πόσο εύκολο είναι να παρακάμψει κανείς τα μέτρα ασφαλείας στα μοντέλα τεχνητής νοημοσύνης. Η τεχνολογική βιομηχανία και οι ρυθμιστικές αρχές έχουν να αντιμετωπίσουν τις εκτεταμένες κοινωνικές επιπτώσεις της γενετικής τεχνητής νοημοσύνης.
Το 2023, ερευνητές του Πανεπιστημίου του Στάνφορντ διαπίστωσαν ότι μια δημοφιλής βάση δεδομένων που χρησιμοποιείται για τη δημιουργία γεννητριών εικόνων τεχνητής νοημοσύνης ήταν γεμάτη με υλικό σεξουαλικής κακοποίησης παιδιών.
Οι νόμοι που διέπουν το επιβλαβές περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη είναι ελλιπείς. Τον Μάιο του 2025, οι ΗΠΑ υπέγραψαν τον νόμο Take It Down Act, ο οποίος αντιμετωπίζει το «πορνό εκδίκησης» και τα deepfakes που δημιουργούνται από τεχνητή νοημοσύνη.
Το Ηνωμένο Βασίλειο εργάζεται επίσης πάνω σε ένα νομοσχέδιο που θα καθιστά παράνομη την κατοχή, τη δημιουργία ή τη διανομή εργαλείων τεχνητής νοημοσύνης που μπορούν να δημιουργήσουν υλικό σεξουαλικής κακοποίησης παιδιών και θα απαιτεί τα συστήματα τεχνητής νοημοσύνης να υποβάλλονται σε διεξοδικούς ελέγχους για να διασφαλίζεται ότι δεν μπορούν να δημιουργήσουν παράνομο περιεχόμενο.
Πρόσθετη αναφορά από τον David Sheppard
Απόδοση – Επιμέλεια: ΤΑΤΙΑΝΗ ΣΑΓΙΕΧ
στο Google News και μάθετε πρώτοι όλες τις ειδήσεις
