Η Anthropic, μία από τις κορυφαίες εταιρείες στον χώρο της τεχνητής νοημοσύνης και δημιουργός του Claude, προχώρησε σε μια ασυνήθιστη έκκληση: ζητά από όλα τα μεγάλα εργαστήρια τεχνολογίας να συμφωνήσουν σε μια κοινή και ελεγχόμενη παύση της ανάπτυξης των συστημάτων τους.
Η εταιρεία προειδοποιεί ότι η τεχνολογία εξελίσσεται πλέον με ρυθμούς που η κοινωνία και οι θεσμοί αδυνατούν να παρακολουθήσουν, καθιστώντας αδύνατη τη σωστή διαχείριση των ψηφιακών κινδύνων.
Τι είναι η «αναδρομική αυτοβελτίωση» που τρομάζει τους ειδικούς
Η βασική ανησυχία της Anthropic εντοπίζεται στο γεγονός ότι η ικανότητα των συστημάτων AI να εκτελούν εργασίες αυτόνομα διπλασιάζεται σχεδόν κάθε τέσσερις μήνες. Η τάση αυτή οδηγεί με μαθηματική ακρίβεια σε αυτό που οι επιστήμονες ονομάζουν «αναδρομική αυτοβελτίωση».
Με απλά λόγια, πρόκειται για το σημείο όπου η τεχνητή νοημοσύνη θα γίνει αρκετά έξυπνη ώστε να επαναπρογραμματίζει τον εαυτό της. Αντί να χρειάζεται ανθρώπους μηχανικούς για να τη βελτιώσουν, θα μπορεί να κατασκευάζει μόνη της τον επόμενο, ακόμα πιο ισχυρό διάδοχό της, χωρίς καμία ανθρώπινη παρέμβαση.
Οι επιπτώσεις στην ασφάλεια
Σύμφωνα με τα ανώτατα στελέχη της Anthropic, αν οι μηχανές αποκτήσουν την ικανότητα να εξελίσσονται αυτόνομα, τα τρέχοντα μέτρα ασφαλείας και οι τρόποι παρακολούθησης θα καταστούν άχρηστα.
Αν και το σημείο αυτό δεν έχει επιτευχθεί ακόμα, η εταιρεία τονίζει ότι η στιγμή αυτή μπορεί να έρθει πολύ νωρίτερα από όσο εκτιμά η αγορά. Οι φόβοι αυτοί εντάθηκαν μετά την πρόσφατη κυκλοφορία του μοντέλου “Mythos” της ίδιας της εταιρείας, το οποίο προκάλεσε αναστάτωση στον τραπεζικό τομέα και την πληροφορική, αποδεικνύοντας ότι μπορεί να εντοπίζει με εξαιρετική ευκολία κενά ασφαλείας σε πολύπλοκα συστήματα λογισμικού.
Γιατί χρειάζεται χρόνος
Η πρόταση για προσωρινή διακοπή της ανάπτυξης δεν στοχεύει στο να σταματήσει η πρόοδος, αλλά στο να δοθεί ο απαραίτητος χρόνος στην παγκόσμια κοινότητα να θεσπίσει αυστηρούς κανόνες θωράκισης. Σε αντίθετη περίπτωση, η ανθρωπότητα κινδυνεύει να βρεθεί μπροστά σε μια τεχνολογία την οποία δεν θα μπορεί πλέον να ελέγξει.