Τετάρτη, 3 Σεπτεμβρίου, 2025
ΑρχικήΑπόψειςOταν τα ρομπότ αρνούνται να υποταχθούν

Oταν τα ρομπότ αρνούνται να υποταχθούν

|

Μπορεί ένα χολιγουντιανό φιλμ της σειράς να μας βοηθήσει στην αντιμετώπιση των μεγάλων προκλήσεων που μας θέτει η τεχνολογία της τεχνητής νοημοσύνης; Το κοινό και οι κριτικοί της Ελλάδας συμφώνησαν ότι η ταινία «M3GAN» είναι ένα μάλλον αδιάφορο θρίλερ. Αν ωστόσο βάλει κάποιος στην άκρη τα τεχνάσματα της ταινίας τρόμου και το πολυπαιγμένο σενάριο, θα έρθει αντιμέτωπος με μερικά απ’ τα πιο σημαντικά προβλήματα επίτευξης της υπερνοημοσύνης, για δεκαετίες ολόκληρες, τα οποία πρέπει να μην ξεχνάμε.

Μπορεί η ταινία να μην τα διαπραγματεύεται σε βάθος και να μην αντιστέκεται στα θέλγητρα της εντυπωσιοθηρίας, αλλά οι προθέσεις του σκηνοθέτη Τζέραρντ Τζόνστοουν να θέσει μερικά απ’ τα πιο κλασικά προβλήματα της τεχνητής νοημοσύνης στο φορμάτ μιας ποπ εκδοχής μαζικής κουλτούρας, είναι αξιοσημείωτες.

Η μικρή πρωταγωνίστρια της ταινίας χάνει τους γονείς της σε τροχαίο. Μέχρι να αποκτήσουμε αυτο-οδηγούμενα οχήματα, τα οποία θα εξαλείψουν το ανθρώπινο λάθος, η ανθρωπότητα θα συνεχίσει να θρηνεί θύματα στην άσφαλτο. Ο τρόπος με τον οποίο γίνεται η σύγκρουση από μόνος του είναι δηλωτικός. Το αυτοκίνητο βρίσκεται σε μια συνθήκη που ό,τι κι αν κάνει ο οδηγός, το αποτέλεσμα θα είναι το ίδιο. Η τεχνολογία δεν είναι ουδέτερη, μοιάζει να λέει η ταινία. Είναι δέσμια των συνθηκών. Αυτό πρέπει να το θυμόμαστε πριν προχωρήσουμε με την υπερνοημοσύνη. Την κηδεμονία της μικρής αναλαμβάνει η αδελφή της μητέρας της, μια επιτυχημένη υπάλληλος εταιρείας προηγμένων παιχνιδιών.

Oταν η νέα κηδεμόνας καταλαβαίνει ότι η μικρή δυσκολεύεται να προσαρμοστεί στις νέες συνθήκες, της δωρίζει μια δική της εφεύρεση, τη ρομποτική κούκλα M3GAN, η οποία γίνεται η καλύτερή της φίλη. Ο εργοδότης της ενθουσιάζεται και θέλει να βγάλει την κούκλα στην αγορά, καθώς είναι βέβαιος ότι θα κάνει θραύση. Στην ταινία αποκαλύπτεται σκόπιμα η συναισθηματική ανωριμότητα της καινούργιας μαμάς.

Με το ρομπότ δεν λύνει μόνο το πρόβλημα της δουλειάς της, αλλά και το πρόβλημα της γονεϊκότητας. Η ρομποτική κούκλα είναι η λογική συνέχεια της νταντάς-iPad. Σταδιακά, όμως, ανακαλύπτουμε ότι η λύση ήταν παροδική. Η κούκλα-ρομπότ αποκτάει δική της ζωή. Ο επικαιροποιημένος μύθος του Φρανκενστάιν επιστρέφει, αυτή τη φορά στο παιδικό δωμάτιο. Τα εξελιγμένα ρομπότ τεχνητής νοημοσύνης αποκτούν κάποιο είδος συνείδησης, θέλησης και λογικής. Το αποτέλεσμα είναι ότι η M3GAN αρνείται να υποταχθεί.

Oταν πρέπει να παρέμβει ο ανθρώπινος παράγοντας, εκείνη κάνει του κεφαλιού της, βάσει των αρχικών υποδείξεων που έχει λάβει. Αναβιώνει έτσι, για άλλη μια φορά, ο εφιάλτης του HAL στο «2001: η Οδύσσεια του Διαστήματος» του Κιούμπρικ και πραγματώνεται η αγωνία του Στίβεν Χόκινγκ. Η εντολή που έχει πάρει η έξυπνη μηχανή είναι να μεγιστοποιήσει την ικανοποίηση της μικρής και να την προστατεύσει. Oταν η μικρή δέχεται μια απειλή, η M3GAN φτάνει να διαπράξει εγκλήματα. Η ταινία, εκτός των άλλων, διαπραγματεύεται τη λεγόμενη «θεωρία του συνδετήρα». Αν δίναμε σε μια υπερνοημοσύνη τον στόχο να μεγιστοποιήσει την παραγωγή συνδετήρων, η μηχανή θα εκλάμβανε κυριολεκτικά τον σκοπό της και θα εξαντλούσε κάθε πόρο γεμίζοντας τον πλανήτη με συνδετήρες.

Επομένως, το να είμαστε σε θέση να τερματίζουμε τη λειτουργία της όταν το κρίνουμε εμείς οι άνθρωποι σωστό, είναι θεμελιώδους σημασίας. Εκτός της αναγκαιότητας να μπορούμε να πατήσουμε το off, η ταινία μάς θυμίζει αυτό που οι ειδήμονες της τεχνητής νοημοσύνης έχουν ονομάσει «πρόβλημα της ευθυγράμμισης». Αν δεν κατορθώσουμε να διδάξουμε στις μηχανές τους δικούς μας ηθικούς κώδικες, τις δικές μας περίπλοκες ηθικές επιταγές, θα βρεθούμε μπροστά από ανάλογες ιστορίες ρομποτικών Μπάρτλεμπι. Ακόμη κι αν βρούμε τρόπο να αντιμετωπίσουμε την άρνηση συμμόρφωσης των μηχανών, όμως, δεν αποκλείεται οι κακόβουλοι να εκμεταλλευτούν κενά ασφαλείας ή και να προχωρήσουν σε δικές τους κατασκευές ανεξέλεγκτων και ανήθικων αυτομάτων.

Το τέλος της M3GAN, ωστόσο, είναι ίσως το πιο ανησυχητικό στοιχείο του φιλμ. Ενώ έχουμε ανακουφιστεί απ’ την πορεία της δράσης κι αφού έχει επέλθει η κάθαρση, το τελευταίο κάδρο εστιάζει στη συσκευή εικονικού βοηθού που ζει στην οικογενειακή κουζίνα. Θα μπορούσε να είναι η συσκευή της Amazon, της Apple ή της Google. Η συσκευή αυτή είναι σήμερα εδώ και ήδη γνωρίζει πολλά. Σε λίγο θα γνωρίζει πολύ περισσότερα. Εχει παρακολουθήσει την πλοκή της ιστορίας, ξέρει τα πάντα, ακόμη κι αυτό το κείμενο θα γίνει κάποια στιγμή δικό της κτήμα, γι’ αυτό και ο σκηνοθέτης της αφιερώνει το τελευταίο του πλάνο, λέγοντάς μας ότι η τεχνητή νοημοσύνη είναι ήδη εδώ και διδάσκεται καθημερινά απ’ τους τεράστιους όγκους πληροφοριών που της διαθέτουμε εθελοντικά.

Οι εικονικοί βοηθοί συγκεντρώνουν ένα θησαυρό γνώσης και δεδομένων, με αποτέλεσμα να κάνουν τα μοντέλα της μηχανικής μάθησης όλο και πιο αποτελεσματικά. Το ερώτημα είναι κατά πόσο έχουμε προλάβει να ρυθμίσουμε αυτή την πανίσχυρη τεχνολογία.

Το καταστροφικό σενάριο της M3GAN δεν είναι ακραίο. Οποιος έχει δει τα ρομπότ της Boston Dynamics καταλαβαίνει ότι η δυνατότητα κατασκευής μηχανών σαν τη ρομποτική κούκλα είναι δεδομένη. Μένει να τελειοποιηθεί το λογισμικό. Ελπίζει κανείς ότι όταν τεθεί το ζήτημα της κυκλοφορίας στην αγορά τέτοιων μηχανών, τα αντανακλαστικά μας θα είναι ισχυρά κι ότι θα έχουμε κάνει ήδη τις απαραίτητες προνοητικές κινήσεις. Διαφορετικά, κινδυνεύουμε μια φθηνή ταινία τρόμου να γίνει το κεντρικό μας αφήγημα.

Αρθρο του Μανώλη Ανδριωτάκη (Kathimerini.gr)


Διαβάστε όλες τις τελευταίες ειδήσεις από τις σελίδες του Naxos Press - τώρα και στο Google News

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ
Τελευταία νέα
Δημοφιλή

Φεστιβάλ Κλασικής Μουσικής Κουφονησίων: 10 χρόνια «ελληνικού ήχου» και συναυλία στην Κέρο

Από τις 20 Αυγούστου έως τις 10 Σεπτεμβρίου 2025, το φεστιβάλ γιορτάζει τη δεκαετία του με επτά συναυλίες και αποκορύφωμα τη μυσταγωγική βραδιά στην Κέρο.

Εκδήλωση Κλασικής Μουσικής στην Παναγία Εκατονταπυλιανή για τα 100 χρόνια του Συλλόγου Παρίων – Αντιπαρίων

Με τη συμμετοχή του Μητροπολίτη Παροναξίας κ. Καλλινίκου και του κουαρτέτου εγχόρδων «Αέναο», τιμήθηκε η ιστορία και η προσφορά του Συλλόγου «Η Εκατονταπυλιανή»

ΕΕΕΕΚ Νάξου: Καταγγελίες για ακατάλληλες εγκαταστάσεις, απαντήσεις on camera από τον Φώτη Μαυρομμάτη (video)

Στο προσκήνιο οι συνθήκες φοίτησης μαθητών με αναπηρία στη Νάξο – Τι καταγγέλλει η αντιπολίτευση, τι απαντά ο αντιδήμαρχος Παιδείας. (video)

Νάξος: Πρόσκληση στους κατόχους voucher για εγγραφή στους δημοτικούς Παιδικούς Σταθμούς

Δήμος Νάξου & Μικρών Κυκλάδων: Ανακοίνωση – Πρόσκληση για εγγραφές με voucher στους Δημοτικούς Παιδικούς Σταθμούς και τις Δομές ΚΔΑΠ

Blue Star Naxos: Φήμες για πώληση σε καναδική εταιρεία – Τι απαντά η Attica Group

Συζητήσεις στην ακτοπλοϊκή πιάτσα για τίμημα 36 εκατ. ευρώ – Η ιστορία του πλοίου που έγινε «σύμβολο» για τις Κυκλάδες

Νάξος – Χαλκί: Συνελήφθησαν δύο άνδρες για κλοπή της Ελληνικής σημαίας από το Μνημείο Ηρώων

Σοβαρό περιστατικό προσβολής συμβόλων – Στα χέρια της Αστυνομίας οι δράστες - Η ανακοίνωση της Αστυνομίας

Αμοργός – Γιορτή Ξεροτήγανου: Απόψε (02/09) ένα γλυκό έθιμο που έγινε θεσμός

Τρίτη 2 Σεπτεμβρίου η Αιγιάλη γεμίζει με άρωμα μελιού, κανέλας και μουσικής (αφίσα)

Αρχαία Αρκεσίνη στην Αμοργό: Από την Πρωτοκυκλαδική περίοδο έως το Ενετικό Καστέλι

Από τις πρώτες ιδιότυπες πόλεις των Κυκλάδων μέχρι το μεσαιωνικό κάστρο, μια μοναδική ιστορική διαδρομή πάνω σε λείψανα αιώνων.

Τήνος: Ομόφωνο ψήφισμα για την επαναφορά των μειωμένων συντελεστών ΦΠΑ στα νησιά

Με πρωτοβουλία του Δημάρχου Παναγιώτη Κροντηρά, το Δημοτικό Συμβούλιο Τήνου ζητά από την κυβέρνηση την πλήρη αξιοποίηση της ευρωπαϊκής οδηγίας 2022/542 για τη στήριξη της νησιωτικότητας.

Ιταλία – Ισπανία: Μεγάλο ντέρμπι στη Λεμεσό, προβάδισμα για τη «Ρόχα»

Η μάχη της 4ης αγωνιστικής στο Eurobasket 2025 αναμένεται συναρπαστική – Η Ισπανία δείχνει να βρίσκει ρυθμό και ποντάρει στη «βαριά φανέλα» της.

Νάξος: Η «Αξιώτισσα» απαντά για το επεισόδιο με τους Βρετανούς τουρίστες – «Έσκισαν το αυτοκόλλητο, δεχόμαστε απειλές»

Ο ιδιοκτήτης της ταβέρνας Γιάννης Βάσιλας δίνει τη δική του εκδοχή: οι τουρίστες αποχώρησαν αφού πρώτα προκάλεσαν, ενώ μετά το δημοσίευμα της Daily Mail η επιχείρηση καταγγέλλει μπαράζ συκοφαντιών και απειλών.

Εκτακτο: Τροχαίο στο δρόμο προς το αεροδρόμιο της Νάξου

Αυτοκίνητο κατέληξε σε τάφρο στον δρόμο Χώρας – Αεροδρομίου. Σώα η οδηγός, νέα ερωτήματα για το οδικό δίκτυο της Νάξου.

Νάξος: Συλλήψεις για παράνομη θήρα – Θανάτωσαν 5 άγρια ζώα εκτός κυνηγετικής περιόδου

Δύο άτομα, 26 και 59 ετών, συνελήφθησαν για θήρευση χωρίς άδεια και κατοχή παράνομου εξοπλισμού.

Νάξος: «Μαμά με καρότσι σε πόλη αφιλόξενη», η κραυγή αγωνίας μιας νέας μητέρας

Το σχόλιο του Στράτου Φουτάκογλου και η ανοιχτή επιστολή μαθήτριας του που φωτίζει την αδιαφορία για πεζούς, μητέρες και ΑμεΑ

Άδωνις Γεωργιάδης: «Ντροπή για το επεισόδιο στη Νάξο – Οι Εβραίοι πολίτες είναι ασφαλείς στην Ελλάδα»

Σαφή θέση υπέρ των βρετανών τουριστών πήρε ο υπουργός Υγείας, καταδικάζοντας το περιστατικό αντισημιτισμού και μιλώντας για επιλεκτικές «ευαισθησίες» στην ελληνική κοινωνία.

ΔΕΔΔΗΕ – Νάξος: Διακοπή ρεύματος το πρωί της Τρίτης 2 Σεπτεμβρίου, δείτε τις περιοχές

Ο ΔΕΔΔΗΕ ανακοίνωσε προγραμματισμένη διακοπή ηλεκτροδότησης λόγω τεχνικών εργασιών σε κεντρικές περιοχές της Χώρας Νάξου.

ΑΑΔΕ: Πρόστιμα και 48ωρο «λουκέτο» σε επιχειρήσεις νησιών (Πάρος) για φοροδιαφυγή

Εντατικοί έλεγχοι σε Ρόδο, Πάρο, Χανιά, Ύδρα, Κέρκυρα και Πειραιά αποκάλυψαν περισσότερες από 400 παραβάσεις για μη έκδοση αποδείξεων.

Νάξος: Τραυματισμός καβοδέτη στο λιμάνι, εξήλθε αυθημερόν από το Κέντρο Υγείας

εργατικό ατύχημα σημειώθηκε το βράδυ της Τετάρτης κατά την πρόσδεση πλοίου στο λιμάνι της Νάξου, με 30χρονο καβοδέτη να τραυματίζεται ελαφρά.

Ρωγμές στο ελληνικό τουριστικό θαύμα: Η Σαντορίνη χάνει έδαφος, η κλιματική κρίση πιέζει

Μετά τα 21,7 δισ. ευρώ που απέφερε ο τουρισμός το 2024, η Ελλάδα βρίσκεται αντιμέτωπη με υπερφόρτωση υποδομών, λειψυδρία, στεγαστικό χάος και τις συνέπειες της κλιματικής αλλαγής.

Νομική εκπροσώπηση για την «Αξιώτισσα» – Κ. Παπαδάκης: «Δεν θα περάσει ο εκφοβισμός και η συκοφαντία»

Ο γνωστός δικηγόρος αναλαμβάνει την υπόθεση της ταβέρνας στη Νάξο που βρίσκεται στο επίκεντρο διεθνούς εκστρατείας συκοφαντιών και απειλών.