Η ταχεία υιοθέτηση από τις εταιρείες εργαλείων τεχνητής νοημοσύνης για τη συγγραφή λογισμικού οδηγεί σε αύξηση της ζήτησης για συστήματα που διασφαλίζουν ότι ο κώδικας που παράγουν αυτά τα εργαλεία δεν είναι γεμάτος σφάλματα και κενά ασφαλείας.
Η νεοσύστατη εταιρεία Antithesis ανακοίνωσε την Τετάρτη μια χρηματοδοτική γύρο ύψους 105 εκατομμυρίων δολαρίων με επικεφαλής την εμπορική εταιρεία Jane Street, την τελευταία σε μια σειρά ομάδων δοκιμών λογισμικού και ασφάλειας που συγκέντρωσαν κεφάλαια φέτος.
Ο Will Wilson, συνιδρυτής και διευθύνων σύμβουλος της Antithesis, δήλωσε ότι «όλοι όσοι υιοθετούν εργαλεία προγραμματισμού τεχνητής νοημοσύνης… θα παράγουν έναν τεράστιο όγκο λογισμικού… και θα ασκήσουν τεράστια πίεση στις τρέχουσες προσεγγίσεις για τη δοκιμή και την επικύρωση λογισμικού».
Η επένδυση της Jane Street υπογραμμίζει το γεγονός ότι οι χρήστες εργαλείων «vibe coding» — τα οποία γράφουν λογισμικό με ελάχιστη ή καθόλου ανθρώπινη εποπτεία — ανησυχούν όλο και περισσότερο για τα δαπανηρά σφάλματα που μπορεί να κρύβονται στον κώδικα που δημιουργείται από την τεχνητή νοημοσύνη. «Δεν είναι τυχαίο ότι η Jane Street είναι ένας μεγάλος χρήστης κωδικοποίησης τεχνητής νοημοσύνης», πρόσθεσε ο Wilson.
Η εταιρεία ποσοτικής διαπραγμάτευσης χρησιμοποιεί προσαρμοσμένο λογισμικό για να πραγματοποιεί κερδοφόρες επενδύσεις στις χρηματοπιστωτικές αγορές. Είναι ένας από τους μεγαλύτερους πελάτες της Antithesis και ζήτησε να ηγηθεί του γύρου, σύμφωνα με τις εταιρείες. Η Jane Street κατέχει επίσης μερίδια στις ομάδες τεχνητής νοημοσύνης Anthropic και Thinking Machines Lab.
Ο Doug Patti, μηχανικός λογισμικού στην εταιρεία, δήλωσε ότι η τεχνολογία της Antithesis «βοήθησε [την Jane Street] να ανακαλύψει προβλήματα που καμία άλλη μέθοδος δοκιμών δεν μπορούσε να εντοπίσει». Ομάδες τεχνολογίας από τη Microsoft, τη Google και τη Nvidia έως τη Coinbase και την Klarna έχουν ηγηθεί της υιοθέτησης εργαλείων τεχνητής νοημοσύνης όπως το Claude Code της Anthropic, το Cursor της Anysphere και το Lovable κατά το παρελθόν έτος, ισχυριζόμενες ότι έχουν ενισχύσει την παραγωγικότητα των προγραμματιστών τους.
Μια πρόσφατη έρευνα της Gartner μεταξύ μηχανικών λογισμικού διαπίστωσε ότι σχεδόν τα δύο τρίτα των οργανισμών χρησιμοποιούσαν βοηθούς κωδικοποίησης AI σε κάποια μορφή. Οι νεοσύστατες εταιρείες κωδικοποίησης AI έχουν συγκεντρώσει δισεκατομμύρια δολάρια, καθώς οι επενδυτές τις υποστηρίζουν ως μια κορυφαία πρακτική εφαρμογή της AI για τις επιχειρήσεις.
Η αξία της Anysphere έχει εκτοξευθεί από 2,5 δισεκατομμύρια δολάρια στις αρχές του 2025 σε 29 δισεκατομμύρια δολάρια τον περασμένο μήνα, καθιστώντας την μία από τις ταχύτερα αναπτυσσόμενες νεοσύστατες εταιρείες όλων των εποχών. Start-ups όπως η Antithesis, που υπόσχονται να ελέγξουν αυτό το λογισμικό που δημιουργείται από τεχνητή νοημοσύνη, προσελκύουν επίσης επενδύσεις.
Τον Μάιο, η OX Security με έδρα τη Νέα Υόρκη συγκέντρωσε 60 εκατομμύρια δολάρια από επενδυτές, συμπεριλαμβανομένων των Microsoft και IBM Ventures, για να επεκτείνει το σύστημα δοκιμών ασφαλείας «VibeSec». Η Endor Labs με έδρα το Palo Alto συγκέντρωσε 93 εκατομμύρια δολάρια τον Απρίλιο μετά την κυκλοφορία ενός εργαλείου που χρησιμοποιείται από εταιρείες — συμπεριλαμβανομένης της OpenAI — για τον έλεγχο σφαλμάτων και την πρόταση ή την επιδιόρθωσή τους.
Η Antithesis ελέγχει το λογισμικό δημιουργώντας μια προσομοίωση του συστήματος πληροφορικής μιας εταιρείας και εκθέτοντας τον νέο κώδικα σε αυτοματοποιημένη συμπεριφορά χρηστών, η οποία θα χρειαζόταν μήνες για να ελεγχθεί στον πραγματικό κόσμο.
Η Gartner προβλέπει ότι η αγορά ελέγχου ασφάλειας εφαρμογών στις ΗΠΑ θα αυξηθεί σε 5,1 δισεκατομμύρια δολάρια φέτος, από 3,4 δισεκατομμύρια δολάρια το 2023, καθώς ορισμένες μελέτες δείχνουν ότι ο κώδικας που γράφεται από συστήματα τεχνητής νοημοσύνης είναι επιρρεπής σε σφάλματα.
«Τα προβλήματα με τον κώδικα vibe προέρχονται από τον τεράστιο όγκο κώδικα που παράγουν», δήλωσε ο Michael Fertik, ένας από τους πρώτους επενδυτές στην Anysphere, ο οποίος διευθύνει επίσης την Modelcode.ai, μια νεοσύστατη εταιρεία που χρησιμοποιεί γενετική τεχνητή νοημοσύνη για να ξαναγράψει παλιές εφαρμογές. «Η τεχνητή νοημοσύνη παράγει 10.000 φορές περισσότερο κώδικα από οποιονδήποτε άνθρωπο ανά έτος, οπότε οι κίνδυνοι ενισχύονται και πολλαπλασιάζονται».
Η πρόκληση αυτή είναι ακόμη μεγαλύτερη όταν η κωδικοποίηση AI χρησιμοποιείται στα δαιδαλώδη συστήματα πληροφορικής στα οποία βασίζονται πολλές μεγάλες εταιρείες, όπου μικρές αλλαγές μπορούν να προκαλέσουν μια απρόβλεπτη σειρά προβλημάτων. Η δοκιμή δεκάδων προηγμένων μοντέλων AI σε 80 εργασίες κωδικοποίησης από την Veracode, η οποία κατασκευάζει εργαλεία ασφάλειας εφαρμογών, διαπίστωσε ότι σχεδόν το ήμισυ του λογισμικού που δημιουργήθηκε από AI περιείχε ελαττώματα ασφάλειας.
Μια άλλη μελέτη που δημοσιεύθηκε στο περιοδικό Empirical Software Engineering τον Δεκέμβριο του 2024 διαπίστωσε ευπάθειες σε τουλάχιστον το ήμισυ των προγραμμάτων που δημιουργήθηκαν από τα μοντέλα τεχνητής νοημοσύνης της OpenAI, της Google και της Meta που ήταν διαθέσιμα εκείνη την εποχή.
«Ενώ [τα μεγάλα γλωσσικά μοντέλα] μπορούν να είναι χρήσιμα για την αυτοματοποίηση απλών εργασιών… η άμεση συμπερίληψη τέτοιων κωδικών σε λογισμικό παραγωγής χωρίς την επίβλεψη έμπειρων μηχανικών λογισμικού είναι ανεύθυνη και πρέπει να αποφεύγεται», έγραψαν οι ερευνητές στην εργασία τους. Τα συστήματα προγραμματισμού τεχνητής νοημοσύνης συνεχίζουν να βελτιώνονται, αλλά ακόμη και οι πρώτοι υποστηρικτές τους έχουν αρχίσει να εκφράζουν ανησυχίες σχετικά με την αξιοπιστία τους.
Ο Andrej Karpathy, ο επιφανής πρώην ερευνητής τεχνητής νοημοσύνης της OpenAI και της Tesla, ο οποίος επινόησε τον όρο «vibe coding» τον Φεβρουάριο, δήλωσε ότι πιστεύει ότι αυτά τα συστήματα τεχνητής νοημοσύνης δεν ανταποκρίνονται στις υποσχέσεις των δημιουργών τους. «Έχω την αίσθηση ότι η βιομηχανία κάνει ένα πολύ μεγάλο άλμα και προσπαθεί να προσποιηθεί ότι αυτό είναι καταπληκτικό, ενώ δεν είναι. Είναι χάλια», δήλωσε ο Karpathy, χρησιμοποιώντας έναν υποτιμητικό όρο για άχρηστο ή χαμηλής αξίας υλικό που παράγεται από τεχνητή νοημοσύνη.
«Βρισκόμαστε σε αυτό το ενδιάμεσο στάδιο», δήλωσε στο Dwarkesh Podcast τον Οκτώβριο. «Τα μοντέλα είναι εκπληκτικά [αλλά] χρειάζονται ακόμα πολλή δουλειά». Ο Wilson της Antithesis συνέκρινε την έκρηξη της κωδικοποίησης τεχνητής νοημοσύνης με την τάση της εξωτερικής ανάθεσης της δεκαετίας του 1990 και των αρχών της δεκαετίας του 2000, όταν ο αρχικός ενθουσιασμός για τη μεταφορά της ανάπτυξης λογισμικού σε περιοχές με χαμηλότερους μισθούς υπονομεύθηκε από «το κόστος του να διαπιστώσεις αν το λογισμικό που έλαβες κάνει ακριβώς αυτό που ήθελες».
Ο Josh Albrecht, συνιδρυτής της Imbue, η οποία προσφέρει ένα εργαλείο που συντονίζει τους βοηθούς κωδικοποίησης, δήλωσε ότι, αν χρησιμοποιηθούν σωστά, τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να «γράψουν πολύ πιο ισχυρό κώδικα από ό,τι στο παρελθόν». «Το πρόβλημα προκύπτει όταν κάποιος που το κάνει αυτό δεν κατανοεί πραγματικά τη μηχανική λογισμικού. Εκεί είναι που προκύπτουν τα κενά ασφαλείας», είπε.
Οι πάροχοι κωδικοποίησης τεχνητής νοημοσύνης αρχίζουν να αντιμετωπίζουν το πρόβλημα οι ίδιοι. Η Anthropic τον Αύγουστο πρόσθεσε αυτοματοποιημένες αναθεωρήσεις ασφαλείας στο Claude Code.
Ορισμένοι στον κλάδο θεωρούν ότι μεγάλο μέρος των εσόδων από την ασφάλεια του λογισμικού που παράγεται από τεχνητή νοημοσύνη τελικά επιστρέφει σε εταιρείες όπως η Anthropic, η OpenAI και η Google, οι οποίες αναπτύσσουν τα βασικά μοντέλα πάνω στα οποία βασίζονται τα εργαλεία κωδικοποίησης vibe.
«Τα κενά ασφαλείας εμφανίζονται πιο γρήγορα χάρη στην τεχνητή νοημοσύνη και εμείς πουλάμε λογισμικό για να τα εξαλείψουμε πιο γρήγορα χάρη στην τεχνητή νοημοσύνη», δήλωσε ο Dipto Chakravarty, διευθυντής προϊόντων και τεχνολογίας στην Black Duck, μια εταιρεία ασφάλειας εφαρμογών.
Απόδοση – Επιμέλεια: Τατιανή Σάγιεχ
στο Google News και μάθετε πρώτοι όλες τις ειδήσεις
