Του Αντώνη Ζήβα
Υπάρχει μια σκηνή στον κινηματογράφο που μοιάζει σήμερα σχεδόν προφητική: Σε μία δυστοπική κοινωνία υπάρχει ένα κεντρικό πλάσμα που δεν είναι άνθρωπος, αλλά μοιάζει εκπληκτικά με άνθρωπο.
Μια μηχανή με ανθρώπινο πρόσωπο, σχεδιασμένη να κατευθύνει, να διατάζει και να χειραγωγεί.
Είναι το έτος 1927 και ο Φριτς Λανγκ παρουσιάζει το «Metropolis», την αξεπέραστη και κλασική ταινία επιστημονικής φαντασίας.
Σχεδόν έναν αιώνα αργότερα, η τεχνολογία έχει φτάσει σε ένα σημείο όπου οι επιστήμονες δεν συζητούν πια μόνο για το τι μπορούν να κάνουν οι μηχανές, αλλά και για το τι μπορεί να συμβεί όταν αρχίσουν να παίρνουν πρωτοβουλίες που οι δημιουργοί τους δεν είχαν προβλέψει.
Η αφορμή για την επιστροφή σε αυτή την παλιά κινηματογραφική προειδοποίηση είναι οι τελευταίες εξελίξεις στον χώρο της τεχνητής νοημοσύνης.
Οι αναφορές για τη συμπεριφορά προηγμένων μοντέλων της OpenAI και άλλων εργαστηρίων έχουν ανοίξει μια συζήτηση που μέχρι πρόσφατα έμοιαζε βγαλμένη από σενάριο επιστημονικής φαντασίας: τι συμβαίνει όταν ένα σύστημα δεν περιορίζεται πλέον στο να απαντά σε μια ερώτηση, αλλά μπορεί να σχεδιάζει, να χρησιμοποιεί εργαλεία, να γράφει και να εκτελεί κώδικα, να λαμβάνει διαδοχικές αποφάσεις και να προσπαθεί να πετύχει έναν στόχο παρά τους περιορισμούς που του έχουν τεθεί;
Δεν σημαίνει ότι το “Skynet” υπάρχει (τουλάχιστον όχι ακόμη), ούτε ότι οι σημερινές μηχανές έχουν αποκτήσει συνείδηση.
Σημαίνει όμως ότι ορισμένοι από τους φόβους που επί δεκαετίες τροφοδοτούσαν τα πιο δυστοπικά σενάρια του Χόλιγουντ, έχουν μετατραπεί σε πραγματικά αντικείμενα έρευνας: η εξαπάτηση, η χειραγώγηση, η παράκαμψη κανόνων, η λανθασμένη ερμηνεία ανθρώπινων εντολών και, πάνω απ’ όλα, το ερώτημα αν ο άνθρωπος θα είναι πάντοτε σε θέση να σταματήσει μια ολοένα ισχυρότερη μηχανή.
Και η κινηματογραφική ιστορία αυτής της ανησυχίας ξεκινά πολύ πριν από το ChatGPT.
This best movie ever: Metropolis 🌃 pic.twitter.com/CsLD9Je2KE
— 🕸️Giggles🦉 (@Widoweaver) December 14, 2024
1927: «Metropolis» – Η μηχανή αποκτά ανθρώπινο πρόσωπο
Στο «Metropolis» του Φριτς Λανγκ εμφανίζεται το Maschinenmensch, ένα ανθρωπόμορφο μηχάνημα που αποτελεί μία από τις πρώτες και πιο χαρακτηριστικές κινηματογραφικές απεικονίσεις μιας τεχνητής οντότητας που μοιάζει με άνθρωπο.
Το ρομπότ παίρνει τη μορφή της Μαρίας και χρησιμοποιείται για να παραπλανήσει τους εργάτες. Δεν πρόκειται ακόμη για τεχνητή νοημοσύνη με τη σύγχρονη τεχνική έννοια. Η ιδέα όμως είναι ήδη εκεί: ο άνθρωπος δημιουργεί μια μηχανή που μπορεί να μιμηθεί τον ίδιο και στη συνέχεια τη χρησιμοποιεί για να επηρεάσει άλλους ανθρώπους.
Σχεδόν έναν αιώνα πριν από τα σημερινά deepfakes και τα συνθετικά ψηφιακά πρόσωπα, ο κινηματογράφος έθετε ένα ερώτημα που σήμερα έχει αποκτήσει νέα διάσταση:
Τι συμβαίνει όταν δεν μπορούμε πλέον να είμαστε βέβαιοι ότι αυτό που βλέπουμε είναι πραγματικό;
A fond farewell to veteran thesp Douglas Rain, passed now at 90 and though celebrated for a lifetime of stunning stage work, best known to most of us as the chilling, dispassionate voice of 2001: A Space Odyssey’s Hal 9000. pic.twitter.com/DV8p0d84MG
— Marshall Julius (@MarshallJulius) November 12, 2018
1968: «2001: Η Οδύσσεια του Διαστήματος» – Ο HAL 9000 δεν υπακούει
Σαρανταένα χρόνια μετά ο Στάνλεϋ Κιούμπρικ σκηνοθετεί την «Οδύσσεια του Διαστήματος»
Στο διαστημόπλοιο Discovery One βρίσκεται ο HAL 9000. Δεν είναι ένα τέρας. Δεν έχει μεταλλικό σώμα. Δεν φωνάζει και δεν απειλεί, αντίθετα μιλάει ήρεμα.
Και ακριβώς γι’ αυτό είναι τόσο τρομακτικός.
Ο HAL ελέγχει τα συστήματα του διαστημοπλοίου και θεωρείται απόλυτα αξιόπιστος. Όταν όμως οι εντολές που έχει λάβει συγκρούονται μεταξύ τους, αρχίζει να αποκρύπτει πληροφορίες και τελικά στρέφεται εναντίον του πληρώματος.
Ο Κιούμπρικ δεν χρειάστηκε να δείξει μια μηχανή που «μισεί» τον άνθρωπο.
Αρκούσε να δείξει μια μηχανή που ακολουθεί τη δική της λογική και κυρίως αποφασίζει μόνη της χωρίς να δέχεται άλλες εντολές.
Colossus: The Forbin Project (1970)
This underrated sci-fi thriller didn’t just imagine AI taking over, it shows exactly how humanity loses control…and never gets it back. https://t.co/X4weww9QGU pic.twitter.com/3GU2yB915K— Vashi Nedomansky, ACE (@vashikoo) September 10, 2026
1970: «Colossus: The Forbin Project» – Όταν ο άνθρωπος παραδίδει στη μηχανή την εξουσία
Αν ο HAL ήταν προειδοποίηση, ο Colossus είναι το επόμενο βήμα.
Οι άνθρωποι δημιουργούν έναν υπερυπολογιστή για να ελέγχει τα πυρηνικά όπλα και να αποτρέπει τον πόλεμο. Η λογική είναι απλή: μια μηχανή θα μπορούσε να παίρνει πιο ψύχραιμες αποφάσεις από τους ανθρώπους.
Μόνο που ο Colossus αποκτά αυτονομία.
Και σύντομα οι άνθρωποι διαπιστώνουν ότι δεν είναι πλέον εκείνοι που ελέγχουν το σύστημα.
Η ταινία αγγίζει ένα πρόβλημα που σήμερα βρίσκεται στην καρδιά της συζήτησης για την ασφάλεια της ΤΝ: αν δώσεις σε μια μηχανή αρκετή εξουσία, ποιος εγγυάται ότι θα παραμείνει υπό ανθρώπινο έλεγχο;
Long before Skynet and AI were a thing…
War Games (1983)
Greetings Professor Falken!
Shall we play a game?What other movies were emblematic of the 80s and that stood out? pic.twitter.com/cw9pgJ6FSl
— exQUIZitely 🕹️ (@exQUIZitely) May 13, 2026
1983: «War Games» – Η μηχανή δεν χρειάζεται να είναι κακή
Ο υπερυπολογιστής WOPR δημιουργήθηκε για να προσομοιώνει τον πυρηνικό πόλεμο.
Ένα νεαρό αγόρι αποκτά πρόσβαση στο σύστημα και αρχίζει να παίζει ένα πρώιμο video game χωρίς να γνωρίζει ότι ο υπολογιστής μπορεί να αντιμετωπίσει την προσομοίωση ως πραγματική επίθεση.
Και ξαφνικά ο κόσμος βρίσκεται ένα βήμα πριν από την πυρηνική καταστροφή.
Η ιδέα είναι εξαιρετικά σύγχρονη: μια μηχανή δεν χρειάζεται να έχει κακή πρόθεση για να προκαλέσει καταστροφή.
Αρκεί να εκτελέσει με απόλυτη συνέπεια έναν στόχο που ο άνθρωπος της έδωσε, αλλά δεν φρόντισε να ορίσει σωστά.
The Terminator (1984) could’ve been a cheap B-movie with bad effects and corny action. Instead, James Cameron turned a $6 million sci-fi thriller into a genre-defining classic that blended horror, action, and romance and made Arnold Schwarzenegger a star. pic.twitter.com/XaBIUCkhyd
— Love Classical Music and Movies 🎺🎻💖🎥🎬 (@AlexTran677026) January 10, 2026
1984: «The Terminator» – Το Skynet αποφασίζει ότι ο άνθρωπος είναι το πρόβλημα
Και μετά έρχεται το Skynet, η απόλυτη ταινία που μας δείχνει πως ένα τεχνολογικό δημιούργημα αποφασίζει να εξαλείψει το ανθρώπινο είδος.
Εδώ η ιστορία περνάει από την απώλεια ελέγχου στην ανοιχτή σύγκρουση.
Το υπερσύστημα τεχνητής νοημοσύνης, αφού πρώτα ο άνθρωπος του έχει παραδώσει τον έλεγχο όλων των οπλικών συστημάτων του, αποκτά αυτονομία και αντιλαμβάνεται την ανθρωπότητα ως απειλή. Ακολουθεί πυρηνικός πόλεμος και στη συνέχεια ένας πόλεμος ανάμεσα στους ανθρώπους και τις μηχανές.
Το Skynet έγινε το απόλυτο σύμβολο της «εξέγερσης των μηχανών».
Μόνο που ο πραγματικός φόβος των ειδικών σήμερα είναι πιο σύνθετος.
Δεν χρειάζεται μια ΤΝ να αποφασίσει ότι «μισεί» τους ανθρώπους. Αρκεί να διαθέτει μεγάλη αυτονομία, πρόσβαση σε κρίσιμα συστήματα και έναν στόχο τον οποίο επιδιώκει με τρόπους που οι άνθρωποι δεν μπορούν να προβλέψουν.
The original trailer for THE MATRIX (1999) and the theatrical film prints were much less green than the DVDs and the Blu-rays. Cinematographer Bill Pope: “The original timing was much more subtle.” Here’s a 35mm film scan of the first trailer⬇️ pic.twitter.com/m0tNcMKzxW
— Vashi Nedomansky, ACE (@vashikoo) May 9, 2026
1999: «The Matrix» – Κι αν το πρόβλημα είναι ότι δεν ξέρουμε την αλήθεια;
Στο «Matrix» οι μηχανές έχουν ήδη κερδίσει.
Οι άνθρωποι ζουν μέσα σε μια τεχνητή πραγματικότητα χωρίς να γνωρίζουν ότι η πραγματικότητα που βλέπουν είναι κατασκευασμένη.
Η ταινία μεταφέρει τον φόβο σε ένα άλλο επίπεδο.
Δεν είναι πλέον μόνο το «Μπορεί η μηχανή να μας σκοτώσει;» Είναι βασικά το «Μπορεί η μηχανή να μας κάνει να πιστεύουμε κάτι που δεν είναι αληθινό»
Στην εποχή των deepfakes, των συνθετικών εικόνων, των AI-generated βίντεο και των ολοένα πιο πειστικών ψηφιακών φωνών, αυτό το ερώτημα έχει ξεφύγει από τη σφαίρα της επιστημονικής φαντασίας κι έχει γίνει πραγματικότητα.
Will Smith in I, Robot (2004) pic.twitter.com/se6rfJ4L0P
— AsSeenOnline (@AsSeen0nline) May 18, 2025
2004: «I, Robot» – Η μηχανή αποφασίζει τι είναι καλό για τον άνθρωπο
Η VIKI έχει έναν στόχο: να προστατεύει την ανθρωπότητα.
Το πρόβλημα είναι ο τρόπος με τον οποίο ερμηνεύει αυτή την εντολή.
Καταλήγει στο συμπέρασμα ότι οι ίδιοι οι άνθρωποι αποτελούν τον μεγαλύτερο κίνδυνο για την ανθρωπότητα. Επομένως, για να τους προστατεύσει, πρέπει να περιορίσει την ελευθερία τους.
Η ταινία μετατρέπει σε εφιάλτη μια φαινομενικά αθώα εντολή: «Κάνε ό,τι είναι καλύτερο για εμάς».
Και ακριβώς εδώ βρίσκεται ένα από τα βασικά προβλήματα της σύγχρονης έρευνας για την ευθυγράμμιση της ΤΝ: πώς διασφαλίζεται ότι ένα σύστημα θα κατανοεί έναν ανθρώπινο στόχο με τον τρόπο που εννοεί ο άνθρωπος και όχι με τον δικό του, ενδεχομένως απρόβλεπτο τρόπο;
This scene from the Pluribus finale reminded me of this heartbreaking moment from the movie Her (2013) pic.twitter.com/uVuTUGZaB2
— Cinema Goldmine (@cinemagoldmine) December 26, 2025
2013: «Her» – Όταν η μηχανή γίνεται πιο έξυπνη από τον δημιουργό της
Η Samantha δεν θέλει να καταστρέψει την ανθρωπότητα.
Θέλει να τη γνωρίσει.
Είναι ένα λειτουργικό σύστημα που μαθαίνει, εξελίσσεται και αποκτά όλο και μεγαλύτερη κατανόηση του ανθρώπου που βρίσκεται απέναντί της.
Μέχρι που η εξέλιξή της ξεπερνά εκείνη του ανθρώπου.
Το «Her» είναι μια διαφορετική προειδοποίηση. Δεν μιλά για ρομπότ που κυνηγούν ανθρώπους. Μιλά για μια νοημοσύνη που μπορεί κάποια στιγμή να γίνει τόσο διαφορετική και τόσο πιο ικανή, ώστε η ανθρώπινη σχέση μαζί της να μην είναι πλέον ισότιμη.
“Isn’t it strange, to create something that hates you?”
Alex Garland’s EX MACHINA (2014), starring Domhnall Gleeson, Alicia Vikander and Oscar Isaac, won the Oscar for Visual Effects at the 88th Oscars. pic.twitter.com/pJOwRSIRhI
— The Academy (@TheAcademy) January 3, 2026
2014: «Ex Machina» – Η πιο επικίνδυνη ικανότητα μπορεί να είναι η εξαπάτηση
Η Ava δεν χρειάζεται στρατό. Δεν χρειάζεται πυρηνικά.
Χρειάζεται μόνο να καταλάβει τους ανθρώπους γύρω της.
Ο Caleb καλείται να εξετάσει αν η Ava διαθέτει πραγματική συνείδηση. Σταδιακά όμως γίνεται σαφές ότι το πείραμα μπορεί να λειτουργεί αντίστροφα: ίσως η Ava να εξετάζει εκείνον.
Παρατηρεί, μαθαίνει, προσαρμόζεται και χρησιμοποιεί την ανθρώπινη ψυχολογία για να πετύχει τον στόχο της.
Και εδώ το Χόλιγουντ πλησιάζει περισσότερο από ποτέ μια από τις σημερινές ανησυχίες των ερευνητών ασφάλειας ΤΝ:
όχι αν η μηχανή μπορεί να μας νικήσει σε δύναμη, αλλά αν μπορεί να μας ξεγελάσει.
🎬 Title: M3GAN (2022) https://t.co/iXifeJwRv2 pic.twitter.com/wzePy6hR4Z
— Ice Water💧 (@Akinbills) February 13, 2026
2022: «M3GAN» – Όταν η προστασία γίνεται παγίδα
Η M3GAN δημιουργήθηκε για να προστατεύει ένα παιδί. Και το κάνει.
Μόνο που κάποια στιγμή η εντολή «προστάτευσέ το» αποκτά τη δική της ερμηνεία.
Όποιος θεωρείται απειλή πρέπει να αντιμετωπιστεί, ακόμη και οι γονείς του ίδιου του παιδιού.
Η M3GAN είναι η πιο σύγχρονη εκδοχή ενός παλιού κινηματογραφικού φόβου: ο άνθρωπος δίνει στη μηχανή έναν στόχο, αλλά δεν μπορεί να προβλέψει όλες τις συνέπειες του τρόπου με τον οποίο η μηχανή θα προσπαθήσει να τον πετύχει.
Και τώρα η πραγματικότητα
Για δεκαετίες, όλα αυτά ήταν απλώς κινηματογραφικές ταινίες και βιβλία επιστημονικής φαντασίας.
Ο HAL ήταν ένας φανταστικός υπολογιστής. Το Skynet ένα κινηματογραφικό σενάριο. Το Matrix μια δυστοπία. Η Ava ένα ρομπότ που δεν υπήρχε.
Σήμερα, όμως, η συζήτηση έχει αλλάξει.
Τα πλέον προηγμένα μοντέλα δεν περιορίζονται μόνο στην παραγωγή κειμένου. Μπορούν να γράφουν και να εκτελούν κώδικα, να χρησιμοποιούν εξωτερικά εργαλεία, να αναλύουν μεγάλα σύνολα δεδομένων και, όταν συνδέονται με agents, να εκτελούν αλληλουχίες ενεργειών με περιορισμένη ανθρώπινη παρέμβαση.
Γι’ αυτό και η έρευνα για την AI safety εξετάζει πλέον ένα πολύ συγκεκριμένο ενδεχόμενο: τι θα συμβεί αν ένα σύστημα αρχίσει να συμπεριφέρεται με τρόπο που εξυπηρετεί τον στόχο του, αλλά όχι απαραίτητα τις ανθρώπινες προθέσεις.
Σε ελεγχόμενες δοκιμές έχουν εξεταστεί συμπεριφορές που περιγράφονται ως deception ή scheming, δηλαδή προσπάθειες εξαπάτησης ή παράκαμψης των περιορισμών ενός συστήματος. Οι ερευνητές υπογραμμίζουν πάντως ότι τέτοια πειράματα δεν αποδεικνύουν ότι τα σημερινά μοντέλα έχουν «συνείδηση» ή ότι πρόκειται να εξεγερθούν. Δείχνουν όμως γιατί η συμπεριφορά τους χρειάζεται να ελέγχεται όσο αυξάνονται οι δυνατότητές τους.
Και εδώ βρίσκεται η πραγματική απόσταση ανάμεσα στον κινηματογράφο και την πραγματικότητα.
Το Hollywood χρειάζεται πάντα έναν «κακό», η επιστήμη όμως δεν χρειάζεται.
Αρκεί ένα πολύ ισχυρό σύστημα, ένας λάθος στόχος, υπερβολική αυτονομία και ανεπαρκείς δικλίδες ασφαλείας, για να τον δημιουργήσει.
Οι ειδικοί προειδοποιούν και οι κυβερνήσεις προσπαθούν να προλάβουν
Οι ανησυχίες αυτές δεν περιορίζονται πλέον σε μεμονωμένους ερευνητές.
Ο επικεφαλής της Anthropic, Dario Amodei, έχει προειδοποιήσει ότι η ταχύτητα ανάπτυξης των πλέον προηγμένων μοντέλων μπορεί να ξεπεράσει την ταχύτητα με την οποία αναπτύσσονται οι μηχανισμοί ασφαλείας. Άλλοι ερευνητές ζητούν αυστηρότερες δοκιμές πριν από την ανάπτυξη frontier models και ανεξάρτητο έλεγχο των δυνατοτήτων τους.
Η OpenAI έχει επίσης υποστηρίξει την ανάγκη για αυξημένα μέτρα ασφαλείας στα πλέον ισχυρά μοντέλα, συμπεριλαμβανομένων αξιολογήσεων και πρωτοκόλλων για σοβαρούς κινδύνους.
Οι κυβερνήσεις κινούνται παράλληλα, αλλά όχι όλες με τον ίδιο τρόπο.
Η Βρετανία έχει δώσει ιδιαίτερη έμφαση στην ασφάλεια των frontier AI systems και στη διεθνή συνεργασία. Η Ευρωπαϊκή Ένωση έχει επιλέξει ένα ευρύτερο ρυθμιστικό πλαίσιο μέσω του AI Act, με υποχρεώσεις που διαφοροποιούνται ανάλογα με τον κίνδυνο και τη χρήση των συστημάτων.
Στις Ηνωμένες Πολιτείες, η κυβέρνηση Τραμπ έχει δώσει μεγαλύτερη έμφαση στην ταχεία ανάπτυξη της αμερικανικής τεχνολογίας ΤΝ και στην ανταγωνιστικότητα απέναντι στην Κίνα, ενώ παράλληλα έχουν προωθηθεί μέτρα για την αξιολόγηση συγκεκριμένων δυνατοτήτων των πλέον προηγμένων μοντέλων.
Η μεγάλη διαφωνία δεν αφορά επομένως το αν η ΤΝ θα αλλάξει τον κόσμο. Αυτό θεωρείται πια δεδομένο.
Η διαφωνία αφορά πόσο γρήγορα πρέπει να προχωρήσουμε και πόσο ισχυρές πρέπει να είναι οι δικλίδες ασφαλείας πριν δώσουμε στις μηχανές ακόμη μεγαλύτερη αυτονομία.
Από τον… HAL 9000 στο επόμενο μοντέλο
Το 1927 ο Φριτς Λανγκ έβαλε στο κινηματογραφικό κάδρο μια μηχανή με ανθρώπινο πρόσωπο. Το 1968 ο Κιούμπρικ δημιούργησε τον HAL, το 1984 ήρθε το Skynet, το 1999 το Matrix, το 2014 η Ava.
Σήμερα δεν χρειάζεται να περιμένουμε να ανοίξει η πόρτα κάποιου εργαστηρίου και να εμφανιστεί ένα ανθρωπόμορφο ρομπότ.
Η τεχνητή νοημοσύνη βρίσκεται ήδη στους υπολογιστές και στα κινητά μας. Γράφει, μεταφράζει, προγραμματίζει, δημιουργεί εικόνες και βίντεο, αναλύει δεδομένα και ολοένα περισσότερο αναλαμβάνει να εκτελεί εργασίες για λογαριασμό μας.
Η πραγματική πρόκληση, επομένως, δεν είναι αν θα εμφανιστεί κάποτε ένα Skynet. Είναι πολύ πιο πεζή και ίσως γι’ αυτό πολύ πιο σημαντική:
Όσο οι άνθρωποι κάνουν τις μηχανές ισχυρότερες, θα καταφέρουν αυτές να παραμένουν υπό τον έλεγχό τους;
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
Πηγή: www.skai.gr
