Ο έλεγχος στον αλγόριθμο οφείλει να είναι πραγματικός και δεν μπορεί να αφεθεί αποκλειστικά στις ίδιες τις εταιρείες.
Η Τεχνητή Νοημοσύνη και η εξέλιξη της αλλάζει άμεσα την οικονομία, την κοινωνία τις διεθνείς σχέσεις και την ίδια την ανθρώπινη ύπαρξη, αλλά πλέον βρίσκεται σε κρίσιμο σημείο καμπής καθώς η ανθρωπότητα καλείται να προλάβει τους κινδύνους και να δημιουργήσει τους κατάλληλους κανόνες που θα επιτρέψουν να αξιοποιήσει τη δύναμη της τεχνητής νοημοσύνης χωρίς να χάσει τον έλεγχο της
Οι κίνδυνοι
Οικονομία & Κοινωνία
Ο πρώτος κίνδυνος είναι οικονομικός και κοινωνικός μιας και η ΑΙ μπορεί να αυξήσει την παραγωγικότητα, να επιταχύνει την επιστημονική έρευνα και να δημιουργήσει νέο πλούτο, αλλά και ταυτόχρονα να προκαλέσει μεγάλη αναστάτωση στην αγορά εργασίας και να συγκεντρώσει πρωτοφανή οικονομική ισχύ σε έναν περιορισμένο αριθμό εταιρειών που διαθέτουν τα δεδομένα, τα chips, την υπολογιστική ισχύ και τα ισχυρότερα μοντέλα, ενώ προσφάτως ο ίδιος ο Amodei (Αnthropic) αναφέρεται στον κίνδυνο σοβαρής οικονομικής διαταραχής.
Παράλληλα, η δυνατότητα παραγωγής μαζικού και πειστικού ψευδούς περιεχομένου, εξατομικευμένης πειθούς, απάτης και παραπληροφόρησης μπορεί να πλήξει την εμπιστοσύνη στους θεσμούς και στη δημοκρατία ως παράλληλο κίνδυνο με τις οικονομικές απάτες με τις ίδιες τις εταιρείες να αναγνωρίζουν πλέον ότι οι κίνδυνοι δεν περιορίζονται στα συνηθισμένα προβλήματα μιας νέας τεχνολογίας.
Γεωπολιτική – διεθνείς σχέσεις
Ο δεύτερος κίνδυνος είναι γεωπολιτικός καθότι το ζήτημα της δύναμης των μοντέλων AI δεν είναι μόνο τεχνολογικό αλλά και βαθιά πολιτικό όπως τίθεται στην ισορροπία ισχύος των διεθνών σχέσεων. Η ανάπτυξη της ΑΙ συνδέεται πλέον με τα δεδομένα, τα chips, τις σπάνιες γαίες, την ενέργεια, τα data centers, το επιστημονικό δυναμικό και, φυσικά την άμυνα των χωρών όπου οι κίνδυνοι υπερβαίνουν τα όρια μιας εταιρείας και ενός κράτους.
Οι ΗΠΑ και η Κίνα βρίσκονται σε έναν σαφή ανταγωνισμό για την τεχνολογική πρωτοκαθεδρία και με διεθνείς έρευνες προκύπτει ότι: οι ΗΠΑ υπερέχουν σε κρίσιμες τεχνολογίες, ιδιωτικές επενδύσεις και βασικές καινοτομίες, ενώ η Κίνα διαθέτει σημαντικά πλεονεκτήματα στην κλίμακα εφαρμογής, στον κρατικό συντονισμό και στην ταχεία υιοθέτηση.
Ακριβώς γι’ αυτό η συνεννόηση ΗΠΑ και Κίνας είναι αναγκαία, όσο δύσκολη και αν είναι γιατί η διεθνής ασφάλεια χρειάζεται έναν συλλογικό έλεγχο και αυτό δεν σημαίνει εγκατάλειψη του ανταγωνισμού ούτε παραίτηση από τα συμφέροντα ασφαλείας κάθε χώρας.
Η ύπαρξη της ανθρωπότητας
Ο τρίτος και βαθύτερος κίνδυνος είναι ευθέως πλέον υπαρξιακός, αντίστοιχος ή και υπερβαίνοντας τον κίνδυνο της χρήσης πυρηνικών όπλων, όπου πλέον σημαίνει ότι δεν μπορεί να αποκλειστεί ένα σενάριο στο οποίο εξαιρετικά ισχυρά και αυτόνομα συστήματα θα ξεπεράσουν την ανθρώπινη δυνατότητα κατανόησης και ελέγχου τους.
Η «αυτόνομη αναπαραγωγή και προσαρμογή» των συστημάτων συνιστά έναν ανησυχητικό κίνδυνο μιας και εάν η ΑΙ αρχίσει να συμβάλλει αποφασιστικά στην ανάπτυξη της επόμενης γενιάς ΑΙ, η τεχνολογική εξέλιξη μπορεί να επιταχυνθεί πολύ περισσότερο από την ικανότητά μας να την αξιολογούμε και να έχουμε επαρκή έλεγχο στα συστήματα – γεγονός που επισημαίνει και ο Amodei.
Επομένως, ακόμη και αν η πιθανότητα ενός ακραίου σεναρίου όπου η ΑΙ δρα ανεξέλεγκτα δεν μπορεί σήμερα να υπολογιστεί με ακρίβεια, όμως το ενδεχόμενο να απειληθεί η ίδια η ανθρώπινη ύπαρξη επιβάλλει την αρχή της προφύλαξης, ιδίως όταν πλέον υπάρχει κοινή παρέμβαση από τους διεθνείς πρωτοπόρους της AI για τον έλεγχο αυτής.
Κοινή Παρέμβαση των πρωτοπόρων της AI, Σεπτέμβριος 2026
Η πρόσφατη παρέμβαση του Dario Amodei, διευθύνοντος συμβούλου της πρωτοπόρου εταιρίας Anthropic, είναι χαρακτηριστική μιας και ο επικεφαλής της εταιρείας που αναπτύσσει το Claude δε ζητά να σταματήσει η τεχνολογική πρόοδος αλλά να επιβραδυνθεί ο ρυθμός με τον οποίο αυξάνονται οι δυνατότητες των μοντέλων της τεχνητής νοημοσύνης, ώστε οι μηχανισμοί ασφάλειας να μπορούν να την προλαβαίνουν.
Προτείνει μάλιστα ανεξάρτητους αξιολογητές με συνεχή πρόσβαση στις εταιρείες, τον συντονισμό μεταξύ των μεγάλων εργαστηρίων και εταιριών και εν τέλει ζητεί τη διεθνή συνεργασία των χωρών που βρίσκονται στην πρωτοπορία.
Η σημασία της παρέμβασης γίνεται ακόμη μεγαλύτερη επειδή βρήκε άμεση ανταπόκριση από τους δύο μεγάλους ανταγωνιστές του. Ο Sam Altman της OpenAI δήλωσε ότι συμφωνεί με την ανάγκη «pacing the frontier» μίας επιβράδυνσης με σκοπό τον αποτελεσματικό έλεγχο – ενώ παράλληλα έχει διαμορφωθεί διεθνής πρωτοβουλία 1.300 απασχολούμενων στην AI επιστημόνων με ίδιο τίτλο – και ότι η OpenAI θα υιοθετήσει ανεξάρτητους αξιολογητές με πρόσβαση αντίστοιχη με αυτή των εργαζομένων.
Ο Elon Musk, διεθνής δισεκατομμυριούχος και επικεφαλής του X (πρώην twitter) και στην κορυφή των εταιριών διεθνώς, συμφώνησε επίσης με την πρόταση της Anthropic δηλώνοντας ευθέως “Dario is right”.
Πραγματικός Έλεγχος στον αλγόριθμο – ευκαιρία consensus
Η παρέμβαση αυτή είναι μια σπάνια σύγκλιση ανθρώπων που βρίσκονται στην καρδιά του παγκόσμιου ανταγωνισμού της ΑΙ και δείχνει ότι η συζήτηση αρχίζει να μετακινείται από το «ποιος θα φτιάξει πρώτος το ισχυρότερο μοντέλο» στο «ποιος θα μπορέσει να το κάνει χωρίς να δημιουργήσει ανεξέλεγκτους κινδύνους» και ταυτόχρονα όλοι συμφωνούν ότι ένας ουσιαστικός έλεγχος είναι απαραίτητος για το καλό όλων με τη συμμετοχή και των κρατικών αρχών σε διεθνές επίπεδο.
Ο έλεγχος στον αλγόριθμο οφείλει να είναι πραγματικός και δεν μπορεί να αφεθεί αποκλειστικά στις ίδιες τις εταιρείες όπως η OpenAI, Anthropic, Google αλλά για την ασφαλή εξέλιξη της Τεχνητής Νοημοσύνης πλέον χρειάζονται κοινά πρότυπα ασφαλείας, ανεξάρτητοι αξιολογητές, διαφάνεια, κρατική εποπτεία και συνεργασία μεταξύ των εταιρειών σε διεθνές επίπεδο, δηλαδή ένα συλλογικό consensus ελέγχου της Τεχνητής Νοημοσύνης με επιστημονική προσέγγιση στη βάση της προστασίας της ανθρώπινης ύπαρξης – φύση και νόηση.
Ίσως τελικά αυτό είναι και το νόημα και η κρισιμότητα των παρεμβάσεων των ισχυρών της AI καθώς και οι διαρκείς επισημάνσεις έγκυρων επιστημόνων και στελεχών των συναφών εταιριών – η ύπαρξη πραγματικού κινδύνου όπου η ανθρώπινη νόηση καλείται να διατηρήσει τον έλεγχο και να παραμείνει κυρίαρχη επί του εργαλείου που συνιστά η Τεχνητή Νοημοσύνη ώστε η εξέλιξη της να παραμείνει υπό πλήρη ανθρώπινο έλεγχο.
Ο Σταύρος Τασιόπουλος είναι δικηγόρος Παρ Αρείω LLM/MSc, ΜΔΕ Δημοσίου Δικαίου & Πολιτικής Επιστήμης
