Κυριακή, 22 Ιουνίου, 2025
ΑρχικήΑπόψειςOταν τα ρομπότ αρνούνται να υποταχθούν

Oταν τα ρομπότ αρνούνται να υποταχθούν

|

Μπορεί ένα χολιγουντιανό φιλμ της σειράς να μας βοηθήσει στην αντιμετώπιση των μεγάλων προκλήσεων που μας θέτει η τεχνολογία της τεχνητής νοημοσύνης; Το κοινό και οι κριτικοί της Ελλάδας συμφώνησαν ότι η ταινία «M3GAN» είναι ένα μάλλον αδιάφορο θρίλερ. Αν ωστόσο βάλει κάποιος στην άκρη τα τεχνάσματα της ταινίας τρόμου και το πολυπαιγμένο σενάριο, θα έρθει αντιμέτωπος με μερικά απ’ τα πιο σημαντικά προβλήματα επίτευξης της υπερνοημοσύνης, για δεκαετίες ολόκληρες, τα οποία πρέπει να μην ξεχνάμε.

Μπορεί η ταινία να μην τα διαπραγματεύεται σε βάθος και να μην αντιστέκεται στα θέλγητρα της εντυπωσιοθηρίας, αλλά οι προθέσεις του σκηνοθέτη Τζέραρντ Τζόνστοουν να θέσει μερικά απ’ τα πιο κλασικά προβλήματα της τεχνητής νοημοσύνης στο φορμάτ μιας ποπ εκδοχής μαζικής κουλτούρας, είναι αξιοσημείωτες.

Η μικρή πρωταγωνίστρια της ταινίας χάνει τους γονείς της σε τροχαίο. Μέχρι να αποκτήσουμε αυτο-οδηγούμενα οχήματα, τα οποία θα εξαλείψουν το ανθρώπινο λάθος, η ανθρωπότητα θα συνεχίσει να θρηνεί θύματα στην άσφαλτο. Ο τρόπος με τον οποίο γίνεται η σύγκρουση από μόνος του είναι δηλωτικός. Το αυτοκίνητο βρίσκεται σε μια συνθήκη που ό,τι κι αν κάνει ο οδηγός, το αποτέλεσμα θα είναι το ίδιο. Η τεχνολογία δεν είναι ουδέτερη, μοιάζει να λέει η ταινία. Είναι δέσμια των συνθηκών. Αυτό πρέπει να το θυμόμαστε πριν προχωρήσουμε με την υπερνοημοσύνη. Την κηδεμονία της μικρής αναλαμβάνει η αδελφή της μητέρας της, μια επιτυχημένη υπάλληλος εταιρείας προηγμένων παιχνιδιών.

Oταν η νέα κηδεμόνας καταλαβαίνει ότι η μικρή δυσκολεύεται να προσαρμοστεί στις νέες συνθήκες, της δωρίζει μια δική της εφεύρεση, τη ρομποτική κούκλα M3GAN, η οποία γίνεται η καλύτερή της φίλη. Ο εργοδότης της ενθουσιάζεται και θέλει να βγάλει την κούκλα στην αγορά, καθώς είναι βέβαιος ότι θα κάνει θραύση. Στην ταινία αποκαλύπτεται σκόπιμα η συναισθηματική ανωριμότητα της καινούργιας μαμάς.

Με το ρομπότ δεν λύνει μόνο το πρόβλημα της δουλειάς της, αλλά και το πρόβλημα της γονεϊκότητας. Η ρομποτική κούκλα είναι η λογική συνέχεια της νταντάς-iPad. Σταδιακά, όμως, ανακαλύπτουμε ότι η λύση ήταν παροδική. Η κούκλα-ρομπότ αποκτάει δική της ζωή. Ο επικαιροποιημένος μύθος του Φρανκενστάιν επιστρέφει, αυτή τη φορά στο παιδικό δωμάτιο. Τα εξελιγμένα ρομπότ τεχνητής νοημοσύνης αποκτούν κάποιο είδος συνείδησης, θέλησης και λογικής. Το αποτέλεσμα είναι ότι η M3GAN αρνείται να υποταχθεί.

Oταν πρέπει να παρέμβει ο ανθρώπινος παράγοντας, εκείνη κάνει του κεφαλιού της, βάσει των αρχικών υποδείξεων που έχει λάβει. Αναβιώνει έτσι, για άλλη μια φορά, ο εφιάλτης του HAL στο «2001: η Οδύσσεια του Διαστήματος» του Κιούμπρικ και πραγματώνεται η αγωνία του Στίβεν Χόκινγκ. Η εντολή που έχει πάρει η έξυπνη μηχανή είναι να μεγιστοποιήσει την ικανοποίηση της μικρής και να την προστατεύσει. Oταν η μικρή δέχεται μια απειλή, η M3GAN φτάνει να διαπράξει εγκλήματα. Η ταινία, εκτός των άλλων, διαπραγματεύεται τη λεγόμενη «θεωρία του συνδετήρα». Αν δίναμε σε μια υπερνοημοσύνη τον στόχο να μεγιστοποιήσει την παραγωγή συνδετήρων, η μηχανή θα εκλάμβανε κυριολεκτικά τον σκοπό της και θα εξαντλούσε κάθε πόρο γεμίζοντας τον πλανήτη με συνδετήρες.

Επομένως, το να είμαστε σε θέση να τερματίζουμε τη λειτουργία της όταν το κρίνουμε εμείς οι άνθρωποι σωστό, είναι θεμελιώδους σημασίας. Εκτός της αναγκαιότητας να μπορούμε να πατήσουμε το off, η ταινία μάς θυμίζει αυτό που οι ειδήμονες της τεχνητής νοημοσύνης έχουν ονομάσει «πρόβλημα της ευθυγράμμισης». Αν δεν κατορθώσουμε να διδάξουμε στις μηχανές τους δικούς μας ηθικούς κώδικες, τις δικές μας περίπλοκες ηθικές επιταγές, θα βρεθούμε μπροστά από ανάλογες ιστορίες ρομποτικών Μπάρτλεμπι. Ακόμη κι αν βρούμε τρόπο να αντιμετωπίσουμε την άρνηση συμμόρφωσης των μηχανών, όμως, δεν αποκλείεται οι κακόβουλοι να εκμεταλλευτούν κενά ασφαλείας ή και να προχωρήσουν σε δικές τους κατασκευές ανεξέλεγκτων και ανήθικων αυτομάτων.

Το τέλος της M3GAN, ωστόσο, είναι ίσως το πιο ανησυχητικό στοιχείο του φιλμ. Ενώ έχουμε ανακουφιστεί απ’ την πορεία της δράσης κι αφού έχει επέλθει η κάθαρση, το τελευταίο κάδρο εστιάζει στη συσκευή εικονικού βοηθού που ζει στην οικογενειακή κουζίνα. Θα μπορούσε να είναι η συσκευή της Amazon, της Apple ή της Google. Η συσκευή αυτή είναι σήμερα εδώ και ήδη γνωρίζει πολλά. Σε λίγο θα γνωρίζει πολύ περισσότερα. Εχει παρακολουθήσει την πλοκή της ιστορίας, ξέρει τα πάντα, ακόμη κι αυτό το κείμενο θα γίνει κάποια στιγμή δικό της κτήμα, γι’ αυτό και ο σκηνοθέτης της αφιερώνει το τελευταίο του πλάνο, λέγοντάς μας ότι η τεχνητή νοημοσύνη είναι ήδη εδώ και διδάσκεται καθημερινά απ’ τους τεράστιους όγκους πληροφοριών που της διαθέτουμε εθελοντικά.

Οι εικονικοί βοηθοί συγκεντρώνουν ένα θησαυρό γνώσης και δεδομένων, με αποτέλεσμα να κάνουν τα μοντέλα της μηχανικής μάθησης όλο και πιο αποτελεσματικά. Το ερώτημα είναι κατά πόσο έχουμε προλάβει να ρυθμίσουμε αυτή την πανίσχυρη τεχνολογία.

Το καταστροφικό σενάριο της M3GAN δεν είναι ακραίο. Οποιος έχει δει τα ρομπότ της Boston Dynamics καταλαβαίνει ότι η δυνατότητα κατασκευής μηχανών σαν τη ρομποτική κούκλα είναι δεδομένη. Μένει να τελειοποιηθεί το λογισμικό. Ελπίζει κανείς ότι όταν τεθεί το ζήτημα της κυκλοφορίας στην αγορά τέτοιων μηχανών, τα αντανακλαστικά μας θα είναι ισχυρά κι ότι θα έχουμε κάνει ήδη τις απαραίτητες προνοητικές κινήσεις. Διαφορετικά, κινδυνεύουμε μια φθηνή ταινία τρόμου να γίνει το κεντρικό μας αφήγημα.

Αρθρο του Μανώλη Ανδριωτάκη (Kathimerini.gr)


Διαβάστε όλες τις τελευταίες ειδήσεις από τις σελίδες του Naxos Press - τώρα και στο Google News

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ
Τελευταία νέα
Δημοφιλή

Η Τέχνη που ενώνει τα νησιά: Έρχεται η 3η Χορευτική Σύμπραξη Κυκλάδων στη Νάξο;

Μαθητές από 7 νησιά της Περιφέρειας ανεβαίνουν στη σκηνή με ψυχή, ταλέντο και φαντασία — Μια γιορτή πολιτισμού με επίκεντρο τον χορό και τη συνεργασία

Από την ταράτσα του Πύργου Μπαζαίου: Μια κραυγή για τη γη της Νάξου

Ένα βλέμμα στον πλούτο και την παρακμή της ναξιώτικης γης μέσα από τα μάτια ενός επισκέπτη – Μήνυμα αφύπνισης και ευθύνης

Κυκλάδες: Ισχυροί άνεμοι στο επίκεντρο και πάλι η Τήνος, τι καιρό θα κάνει τη Δευτέρα (πίνακας)

Ριπές που άγγιξαν τα 95 km/h την Κυριακή – Πού θα παραμείνουν τα 8 μποφόρ και τι προβλέπει η ΕΜΥ για τις Κυκλάδες τη Δευτέρα 23 Ιουνίου

Χίος σε πύρινο κλοιό: Τρία ανεξέλεγκτα μέτωπα – Εκκενώσεις, διακοπές ρεύματος και ενισχύσεις από όλη τη χώρα

Μεγάλη φωτιά στη Χίο: Εκκενώνονται διαδοχικά περιοχές – Εκατοντάδες πυροσβέστες στη μάχη – Έρευνες για εμπρησμό από τη ΔΑΕΕ

ΚΚΕ Νάξος: Συλλαλητήριο (22/06) ενάντια στην εμπλοκή της Ελλάδας στον πόλεμο στη Μέση Ανατολή

Διαμαρτυρία στην Πλατεία Μανδηλαρά απόψε στις 7:00 μ.μ., με αίτημα την άμεση απεμπλοκή της χώρας από τις πολεμικές εξελίξεις στο Ιράν

Μια βραδιά ιστορικής μνήμης και διαλόγου στην Απείρανθο με τον συγγραφέα Δημήτρη Βεριώνη

Παρουσιάστηκε το βιβλίο "Θάνατοι στη Χούντα" παρουσία του συγγραφέα και πλήθους κόσμου στο Πολιτιστικό Κέντρο του χωριού

Νάξος – Χαλκί: Ο “Αντίλαλος” δίνει φωνή στις γυναίκες του Χατζιδάκι και του Θεοδωράκη

Το φωνητικό σύνολο «Αντίλαλος» παρουσιάζει απόψε μια μουσική παράσταση-φόρο τιμής στους δύο μεγάλους Έλληνες δημιουργούς και στις γυναίκες-ηρωίδες των τραγουδιών τους

Αμοργός: Το “μαργαριτάρι του Αιγαίου” που κλέβει την καρδιά των Γάλλων

Αυθεντική, ήρεμη και μακριά από την πολυκοσμία, η Αμοργός αναδεικνύεται σε διαμάντι του ελληνικού καλοκαιριού μέσα από τα μάτια των γαλλικών ΜΜΕ

Στον αυτόματο πιλότο το ΕΚΑΒ στις Κυκλάδες, έκκληση για μόνιμες λύσεις πριν να είναι αργά

Καλοκαίρι με εκατομμύρια επισκέπτες και 2-3 διασώστες ανά νησί – Οι Κυκλάδες σε κρίσιμο σταυροδρόμι για την υγεία και την ασφάλεια κατοίκων και τουριστών.

Τα Κουφονήσια υποδέχονται το 31ο Cyclades Regatta, γιορτή ιστιοπλοΐας στην καρδιά του Αιγαίου

Με φόντο τα τιρκουάζ νερά και τη φιλοξενία των κατοίκων, τα Κουφονήσια γίνονται σταθμός για τη μεγαλύτερη ιστιοπλοϊκή διοργάνωση της χώρας, φιλοξενώντας πληρώματα, σκάφη και πολιτισμό από 23 έως 26 Ιουνίου 2025.

Συνεχής Ενημέρωση: Μεγάλη Πυρκαγιά στην Ορεινή Νάξο, επίκεντρο τη Ράχη του Προφήτη Ηλία στη Μονή (video)

Εναέρια και επίγεια μέσα μάχονται με τις φλόγες στη ράχη της Μονής – Από όχημα που πήρε φωτιά η πιθανή αιτία της πυρκαγιάς (video)

Εκτακτο: Φωτιά σε εξέλιξη στον Κυνίδαρο

Επιχειρούν επίγειες και εναέριες δυνάμεις – Συνδρομή από υδροφόρες των ΟΤΑ για την κατάσβεση της δασικής πυρκαγιάς

“O Χαρχαλιάς”: Η νέα ταβέρνα στη Μέση Ποταμιά που μαγειρεύει με καρδιά και μνήμες

Στην πράσινη καρδιά της Νάξου, μια αυθεντική ταβέρνα σερβίρει γεύσεις που μυρίζουν πατρίδα, με σεβασμό στην τοπική παράδοση και ζεστή φιλοξενία που σε κάνει να νιώθεις σαν στο σπίτι σου.

«Μπαμπά, τι φαΐ θα φάμε σήμερα;». Το νέο σπιτικό στέκι στη Χώρα Νάξου με καρδιά και ουσία

Όταν η καθημερινή ερώτηση του παιδιού γίνεται γευστική απάντηση για όλη την οικογένεια.

Naxos Meat: Μια νέα επιχειρηματική σελίδα για τη Νάξο, στήριγμα στην τοπική παραγωγή

Η οικογένεια Βασαλάκη επενδύει στον πρωτογενή τομέα, ενισχύοντας το ντόπιο προϊόν με ποιότητα και όραμα

Νάξος: Όταν τα σκουπίδια… μιλούν, μήνυμα με σακούλες σε ασυνείδητο οδηγό

Παρκάρισμα "καρφί" δίπλα στους κάδους και η πιο ευφάνταστη απάντηση των κατοίκων: δύο σακούλες σκουπιδιών στο καπό αυτοκινήτου. Νάξος, έχεις ταλέντο!

Όταν τα Raptor συνάντησαν τη Νάξο – Μια τριήμερη εξόρμηση γεμάτη περιπέτεια και Κυκλαδίτικη ψυχή

Με 18 οχήματα και 70 μέλη, το Raptor Club Greece εξερεύνησε τις ομορφιές της Νάξου σε ένα μοναδικό Summer Tour γεμάτο εικόνες, προκλήσεις και φιλοξενία

Ηρώ Μουκίου: «Στη Νάξο βρήκα ξανά τη γαλήνη, όπως στη ζωγραφική και τη θάλασσα»

Η αγαπημένη ηθοποιός μιλά στον Νίκο Σκορδιαλό για τον ρόλο της στη σειρά «Άγιος Έρωτας», την επιστροφή της στην τηλεόραση, την αγάπη της για τη ζωγραφική και τη βαθιά σχέση της με την πίστη και τη νέα γενιά.

Αμοργός – Σεισμός: “Ήρεμη η εικόνα”, λέει ο Γεράσιμος Παπαδόπουλος

Η δόνηση σημειώθηκε νότια-νοτιοδυτικά της Αρκεσίνης, με εστιακό βάθος 15,6 χλμ – Δεν αλλάζει η εικόνα ύφεσης στην περιοχή, επισημαίνουν οι σεισμολόγοι

Τραγωδία στο Κουφονήσι: 88χρονη ανασύρθηκε νεκρή από τη θάλασσα

Χωρίς τις αισθήσεις της ανασύρθηκε ηλικιωμένη γυναίκα από τη θαλάσσια περιοχή «Άμμος» στο Κουφονήσι. Ο θάνατός της διαπιστώθηκε στο Ιατρείο Κουφονησίου. Προανάκριση από το Λιμεναρχείο Νάξου.