Καθοδόν προς την τεχνολογική μοναδικότητα

[anon]

Ακόμη και τα λίγα στοιχεία που έμειναν που επιτρέπουν να καταλαβαίνουν ότι είναι κάτι deep fake θα εξαληφθούν πιστεύω σύντομα. Οταν οι δημοσιογράφοι και άλλοι λένε τι κοιτάνε, είναι ευλογο οι προγραμματιστές να δώσουν εμφαση εκεί και να διορθώσουν τις τυχόν "ανωμαλίες". Οπότε έτσι σε λίγο καιρό θα εξαφανισθούν οι όποιες ανωμαλίες και δεν θα πιστεύεις τίποτα πλέον, παρα μόνο αν το δείς ζωντανά ο ίδιος με τα μάτια σου.

Ομως το πρόβλημα του deep fake έχει να κάνει με άλλα πράγματα. Εδώ μιλάμε ότι θα χαθούν εκατομύρια θέσεις εργασίας ΑΜΕΣΑ, και άλλες τόσες τουλάχιστον έμμεσα. Οπότε το ταρακούνημα θα είναι τεράστιο, και επειδή θα γίνει και γρήγορα, σε 10-20 χρόνια, και για πολύ πληθυσμό, δεν θα μπορέσει να εξισορροπηθεί. Τουναντίον, δεν θα είναι μόνο ο κλάδος των εργαζομένων στην επαγγελματική οδήγηση που θα θιγεί. Ηδη βλέπουμε ότι όλες οι εταιρίες κάνουν τα χίλια μύρια όσα προκειμένου να ελαχιστοποιήσουν το ανθρώπινο κόστος, δηλαδή ανθρώπινη εργασία. Αλλο παράδειγμα, όλο και περισσότερο τα σούπερ μάρκετ δεν χρησιμοποιούν ταμίες αλλά να τα περνάς μόνος σου. Βάζουν έναν υπάλληλο ελεγκτή, αλλά η αναλογία είναι ένας ανα τρία ταμεία, και όσο ο κόσμος θα μαθαίνει και θα χρησιμοποιεί το σύστημα, σίγουρα η αναλογία θα χειροτερέψει, πχ ένας υπάλληλος για 6 ταμεία και παραπάνω.

Σε άλλο σημείο είδαμε ρομπότ κουζίνα (για ταχυφαγείο). Οπερ σημαίνει ότι αυτοματοποιείται σημαντικά ο κλάδος εστίασης, έστω των ταχυφαγείων. Και ούτω καθεξής. Δεν λέω ότι θα μας αντικαταστήσουν πλήρως ρομπότ σε 10-20 χρόνια, είμαστε νομίζω αρκετά μακριά απο αυτό, αλλά αυτό που ήδη γίνεται και θα γίνεται με αυξανόμενους ρυθμούς είναι ότι θα χρειάζονται λιγότεροι εργαζομενοι, όλο και λιγότεροι. Τελευταίο παράδειγμα, σε συνομιλία με μεταφραστή της Ε.Ε. μου λέει ότι πλέον δεν κάνουν την μετάφραση, την κάνει αυτόματα το σύστημα, και απλά ο "μεταφραστής" κάνει ένα τελευταίο proof reading. Kαι ειναι τόσο καλό το σύστημα, που σπάνιες περιπτώσεις χρειάζεται κάτι διόρθωση, και όταν γίνεται αυτό, αυτή η γνώση μπαίνει στο σύστημα, ώστε την επομένη ναναι ακόμη πιο δύσκολο να κάνει λάθος.

Ηδη βλέπουμε ανάλογες εξελίξεις και στον χώρο της ιατρικής, και της διάγνωσης. Γιατροί για διάγνωση, επειδή κοστίζουν ΠΑΡΑ ΠΟΛΥ, θα αντικατασταθούν με αυτόματα συστήματα διάγνωσης. Θαναι φθηνότερο να σου κάνει μια εξέταση γενική και ειδική αίματος, καθώς και ακτίνες ή τίποτε άλλο ένα αυτόματο σύστημα και με βάση αυτά να σου κάνει διάγνωση (με ποσοστό επιτυχίας μεγαλύτερο απο ενός ανθρώπου), απο το να χρησιμοποιείς κανονικούς γιατρούς. Ειδικά στα χαμηλότερα οικονομικά στρώματα που δεν έχουν δυνατότητα επιλογής, θαναι η μόνη λύση που θα δίνουν τα ασφαλιστικά ταμεία.

Και αναλογες εξελίξεις έχουμε σε πολλούς ακόμα τομείς.

[ttsesm]

Ακόμη και τα λίγα στοιχεία που έμειναν που επιτρέπουν να καταλαβαίνουν ότι είναι κάτι deep fake θα εξαληφθούν πιστεύω σύντομα. Οταν οι δημοσιογράφοι και άλλοι λένε τι κοιτάνε, είναι ευλογο οι προγραμματιστές να δώσουν εμφαση εκεί και να διορθώσουν τις τυχόν "ανωμαλίες". Οπότε έτσι σε λίγο καιρό θα εξαφανισθούν οι όποιες ανωμαλίες και δεν θα πιστεύεις τίποτα πλέον, παρα μόνο αν το δείς ζωντανά ο ίδιος με τα μάτια σου.

Ομως το πρόβλημα του deep fake έχει να κάνει με άλλα πράγματα. Εδώ μιλάμε ότι θα χαθούν εκατομύρια θέσεις εργασίας ΑΜΕΣΑ, και άλλες τόσες τουλάχιστον έμμεσα. Οπότε το ταρακούνημα θα είναι τεράστιο, και επειδή θα γίνει και γρήγορα, σε 10-20 χρόνια, και για πολύ πληθυσμό, δεν θα μπορέσει να εξισορροπηθεί. Τουναντίον, δεν θα είναι μόνο ο κλάδος των εργαζομένων στην επαγγελματική οδήγηση που θα θιγεί. Ηδη βλέπουμε ότι όλες οι εταιρίες κάνουν τα χίλια μύρια όσα προκειμένου να ελαχιστοποιήσουν το ανθρώπινο κόστος, δηλαδή ανθρώπινη εργασία. Αλλο παράδειγμα, όλο και περισσότερο τα σούπερ μάρκετ δεν χρησιμοποιούν ταμίες αλλά να τα περνάς μόνος σου. Βάζουν έναν υπάλληλο ελεγκτή, αλλά η αναλογία είναι ένας ανα τρία ταμεία, και όσο ο κόσμος θα μαθαίνει και θα χρησιμοποιεί το σύστημα, σίγουρα η αναλογία θα χειροτερέψει, πχ ένας υπάλληλος για 6 ταμεία και παραπάνω.

Σε άλλο σημείο είδαμε ρομπότ κουζίνα (για ταχυφαγείο). Οπερ σημαίνει ότι αυτοματοποιείται σημαντικά ο κλάδος εστίασης, έστω των ταχυφαγείων. Και ούτω καθεξής. Δεν λέω ότι θα μας αντικαταστήσουν πλήρως ρομπότ σε 10-20 χρόνια, είμαστε νομίζω αρκετά μακριά απο αυτό, αλλά αυτό που ήδη γίνεται και θα γίνεται με αυξανόμενους ρυθμούς είναι ότι θα χρειάζονται λιγότεροι εργαζομενοι, όλο και λιγότεροι. Τελευταίο παράδειγμα, σε συνομιλία με μεταφραστή της Ε.Ε. μου λέει ότι πλέον δεν κάνουν την μετάφραση, την κάνει αυτόματα το σύστημα, και απλά ο "μεταφραστής" κάνει ένα τελευταίο proof reading. Kαι ειναι τόσο καλό το σύστημα, που σπάνιες περιπτώσεις χρειάζεται κάτι διόρθωση, και όταν γίνεται αυτό, αυτή η γνώση μπαίνει στο σύστημα, ώστε την επομένη ναναι ακόμη πιο δύσκολο να κάνει λάθος.

Ηδη βλέπουμε ανάλογες εξελίξεις και στον χώρο της ιατρικής, και της διάγνωσης. Γιατροί για διάγνωση, επειδή κοστίζουν ΠΑΡΑ ΠΟΛΥ, θα αντικατασταθούν με αυτόματα συστήματα διάγνωσης. Θαναι φθηνότερο να σου κάνει μια εξέταση γενική και ειδική αίματος, καθώς και ακτίνες ή τίποτε άλλο ένα αυτόματο σύστημα και με βάση αυτά να σου κάνει διάγνωση (με ποσοστό επιτυχίας μεγαλύτερο απο ενός ανθρώπου), απο το να χρησιμοποιείς κανονικούς γιατρούς. Ειδικά στα χαμηλότερα οικονομικά στρώματα που δεν έχουν δυνατότητα επιλογής, θαναι η μόνη λύση που θα δίνουν τα ασφαλιστικά ταμεία.

Και αναλογες εξελίξεις έχουμε σε πολλούς ακόμα τομείς.

Με βρίσκεις σύμφωνο σε όλα.

[NeK]

Αφιερωμένο σε όλους όσους κάνουν spread FUD για singularity και intellegence explosion και καταστροφή του κόσμου και μπλα μπλα μπλα:

https://www.wired.com/2017/04/the-my...superhuman-ai/

Μερικά αποφθέγματα:

At the core of the notion of a superhuman intelligence — particularly the view that this intelligence will keep improving itself — is the essential belief that intelligence has an infinite scale. I find no evidence for this. Again, mistaking intelligence as a single dimension helps this belief, but we should understand it as a belief. There is no other physical dimension in the universe that is infinite, as far as science knows so far.

Yes, all thinking is equivalent if you ignore time. Yes, you can emulate human-type thinking in any matrix you want, as long as you ignore time or the real-life constraints of storage and memory. However, if you incorporate time, then you have to restate the principal in a significant way: Two computing systems operating on vastly different platforms won’t be equivalent in real time. That can be restated again as: The only way to have equivalent modes of thinking is to run them on equivalent substrates. The physical matter you run your computation on — particularly as it gets more complex — greatly influences the type of cognition that can be done well in real time.

Intelligence is not a single dimension. It is a complex of many types and modes of cognition, each one a continuum.

...

The entire nervous system [of humans] in our gut is also a type of brain with its own mode of cognition. We don’t really think with just our brain; rather, we think with our whole bodies.

....

Because we are solving problems we could not solve before, we want to call this cognition “smarter” than us, but really it is different than us.

....

We don’t have good operational metrics of complexity that could determine whether a cucumber is more complex than a Boeing 747, or the ways their complexity might differ. That is one of the reasons why we don’t have good metrics for smartness as well. It will become very difficult to ascertain whether mind A is more complex than mind B, and for the same reason to declare whether mind A is smarter than mind B. We will soon arrive at the obvious realization that “smartness” is not a single dimension, and that what we really care about are the many other ways in which intelligence operates — all the other nodes of cognition we have not yet discovered.

....

The second misconception about human intelligence is our belief that we have a general purpose intelligence.

....

Rather, human intelligence is a very, very specific type of intelligence that has evolved over many millions of years to enable our species to survive on this planet.

....

Humans exist on this outer ring alongside cockroaches, clams, ferns, foxes, and bacteria. Every one of these species has undergone an unbroken chain of three billion years of successful reproduction, which means that bacteria and cockroaches today are as highly evolved as humans. There is no ladder.

Μην τρώτε την παραμύθα του κάθε τυχάρπαστου φοβιτσιάρη, απλώς σκεφτείτε.

[anon]

Αφιερωμένο σε όλους όσους κάνουν spread FUD για singularity και intellegence explosion και καταστροφή του κόσμου και μπλα μπλα μπλα:

https://www.wired.com/2017/04/the-my...superhuman-ai/

Μερικά αποφθέγματα:

Μην τρώτε την παραμύθα του κάθε τυχάρπαστου φοβιτσιάρη, απλώς σκεφτείτε.

1. Δεν μιλάμε για ΑΙ που έχει νοημοσύνη ανώτερη του ανθρώπου. Μπορεί να γίνει μπορεί και όχι, αδιάφορο. Ομως νοημοσύνη αρκετά ικανοποιητική ωστε να οδηγει ένα όχημα; Να κάνει ιατρικές διαγνώσεις; Αυτά δεν ειναι απλά εικασίες, ειναι πλέον εδώ, και μπορεί ίσως όχι ακόμη τελείως τελειοποιημένα, αλλά προς τα κεί βαδίζει. Σκέψου ότι η αυτόνομη οδήγηση πριν 10 χρόνια δεν υπήρχε καν!
2. Το πρόβλημα δεν είναι ότι θα μας υπερκεράσει κάποια τεχνολογική ευφυία, όπως είπα πιο πάνω, αλλά οι κοινωνικές καταστάσεις που θα προκύψουν απο την κατάργηση μεγάλου ποσοστού θέσεων εργασίας. Ειναι γνωστό ότι οι επιχειρήσεις λειτουργούν με σκοπό το κέρδος, και αυτό και μόνο ειναι αρκετά για να χρησιμοποιηθεί η τεχνολογία αυτή, εκτός και εαν βγεί νόμος που να την κάνει παράνομη! Αρα θα χρησιμοποιηθεί. Αρα θα χαθούν χιλιάδες, εκατομύρια, θέσεις εργασίας. Kαι φαίνεται αυτό απο τα δις που επενδύουν σε έναν αγώνα δρόμου, ολες οι εταιρίες που σχετίζονται με το αυτοκίνητο και πολλές άλλες ακόμη. Αρθροιστικά αν το πάρετε μιλάμε για επένδυση δεκάδων δις, μέχρις στιγμής.
3. Υπάρχει κάποιος που μπορεί να φοβάται, ή μπορεί απλά να κρούει τον κώδωνα του κινδύνου. Ο έχων άγνοια του κινδύνου, μπορεί να θεωρεί τον κωδωνοκρούστη, φοβιτσιάρη.
4. Συντομα θα δούμε την συνέχεια, δεν θέλει πολύ.

Η Waymo, ξεκινά ήδη στο Phoenix. Βέβαια βάζει και οδηγούς, και πάλι, στα υποτίθεται, αυτόνομα οδηγούμενα οχήματα, και προσφέρει μια υπηρεσία σαν Uber, μόνο πιο οικονομική. Σιγά σιγά οι οδηγοί θα βγούν απο την μέση, και η εταιρία λέει ότι τους βάζει για ψυχολογικούς λόγους (άλλοι λένε ότι ακόμα δεν είναι έτοιμοι, αλλά έχουν λεκτικά δεσμευτεί ότι θα προσφέρουν υπηρεσία πριν μπει το 2019, και γιαυτό πάνε έτσι). Ολο και περισσότερο βλέπω λεωφορεία σε αστικές συγκοινωνίες, δειλά δειλά, να μπαίνουν σε κυκλοφορία, χωρίς οδηγό. Δεν θέλει πολύ να γίνει ευρεία χρήση.

Το θέμα, και δεν το λέω μόνο εγώ, μέχρι και ο αποθανών Χωκινγκς (μάλλον φοβιτσιάρης και μπαγλαμάς και αυτός) το έλεγε συνέχεια. Και πολλοί άλλοι. Βέβαια υπάρχουν και άλλοι, πχ ο Ζουκ του ΦΒ που λένε ότι όλα αυτά ειναι σαχλαμάρες (αλήθεια, θέλετε το μέλλον που έχει στο μυαλό του ο Ζουκ; )

https://emerj.com/ai-adoption-timeli...11-automakers/

Και ένα άρθρο καλό και με ρεαλιστικά στοιχεία.
https://www.vtpi.org/avip.pdf
Το κόστος του να έχεις αυτοοδηγούμενο όχημα θαναι μεγαλύτερο απο ότι ένα σημερινό. Αλλά θα μειώσει το κόστος ταξί. Γιαυτό οι εταιρίες προσπαθούν να προβάλλουν την χρήση όπως πχ του Uber με τα οχήματα αυτά. Ομως εκεί που θα έχει δραματικές επιπτώσεις είναι σε φορτηγά και λεωφορεία, όπου σημαντικό μέρος του κόστους λειτουργίας τους είναι το ανθρώπινο δυναμικό.

[NeK]

1. Δεν μιλάμε για ΑΙ που έχει νοημοσύνη ανώτερη του ανθρώπου. Μπορεί να γίνει μπορεί και όχι, αδιάφορο. Ομως νοημοσύνη αρκετά ικανοποιητική ωστε να οδηγει ένα όχημα; Να κάνει ιατρικές διαγνώσεις; Αυτά δεν ειναι απλά εικασίες, ειναι πλέον εδώ, και μπορεί ίσως όχι ακόμη τελείως τελειοποιημένα, αλλά προς τα κεί βαδίζει. Σκέψου ότι η αυτόνομη οδήγηση πριν 10 χρόνια δεν υπήρχε καν!
2. Το πρόβλημα δεν είναι ότι θα μας υπερκεράσει κάποια τεχνολογική ευφυία, όπως είπα πιο πάνω, αλλά οι κοινωνικές καταστάσεις που θα προκύψουν απο την κατάργηση μεγάλου ποσοστού θέσεων εργασίας. Ειναι γνωστό ότι οι επιχειρήσεις λειτουργούν με σκοπό το κέρδος, και αυτό και μόνο ειναι αρκετά για να χρησιμοποιηθεί η τεχνολογία αυτή, εκτός και εαν βγεί νόμος που να την κάνει παράνομη! Αρα θα χρησιμοποιηθεί. Αρα θα χαθούν χιλιάδες, εκατομύρια, θέσεις εργασίας. Kαι φαίνεται αυτό απο τα δις που επενδύουν σε έναν αγώνα δρόμου, ολες οι εταιρίες που σχετίζονται με το αυτοκίνητο και πολλές άλλες ακόμη. Αρθροιστικά αν το πάρετε μιλάμε για επένδυση δεκάδων δις, μέχρις στιγμής.
3. Υπάρχει κάποιος που μπορεί να φοβάται, ή μπορεί απλά να κρούει τον κώδωνα του κινδύνου. Ο έχων άγνοια του κινδύνου, μπορεί να θεωρεί τον κωδωνοκρούστη, φοβιτσιάρη.
4. Συντομα θα δούμε την συνέχεια, δεν θέλει πολύ.

Η Waymo, ξεκινά ήδη στο Phoenix. Βέβαια βάζει και οδηγούς, και πάλι, στα υποτίθεται, αυτόνομα οδηγούμενα οχήματα, και προσφέρει μια υπηρεσία σαν Uber, μόνο πιο οικονομική. Σιγά σιγά οι οδηγοί θα βγούν απο την μέση, και η εταιρία λέει ότι τους βάζει για ψυχολογικούς λόγους (άλλοι λένε ότι ακόμα δεν είναι έτοιμοι, αλλά έχουν λεκτικά δεσμευτεί ότι θα προσφέρουν υπηρεσία πριν μπει το 2019, και γιαυτό πάνε έτσι). Ολο και περισσότερο βλέπω λεωφορεία σε αστικές συγκοινωνίες, δειλά δειλά, να μπαίνουν σε κυκλοφορία, χωρίς οδηγό. Δεν θέλει πολύ να γίνει ευρεία χρήση.

Το θέμα, και δεν το λέω μόνο εγώ, μέχρι και ο αποθανών Χωκινγκς (μάλλον φοβιτσιάρης και μπαγλαμάς και αυτός) το έλεγε συνέχεια. Και πολλοί άλλοι. Βέβαια υπάρχουν και άλλοι, πχ ο Ζουκ του ΦΒ που λένε ότι όλα αυτά ειναι σαχλαμάρες (αλήθεια, θέλετε το μέλλον που έχει στο μυαλό του ο Ζουκ; )

https://emerj.com/ai-adoption-timeli...11-automakers/

Και ένα άρθρο καλό και με ρεαλιστικά στοιχεία.
https://www.vtpi.org/avip.pdf
Το κόστος του να έχεις αυτοοδηγούμενο όχημα θαναι μεγαλύτερο απο ότι ένα σημερινό. Αλλά θα μειώσει το κόστος ταξί. Γιαυτό οι εταιρίες προσπαθούν να προβάλλουν την χρήση όπως πχ του Uber με τα οχήματα αυτά. Ομως εκεί που θα έχει δραματικές επιπτώσεις είναι σε φορτηγά και λεωφορεία, όπου σημαντικό μέρος του κόστους λειτουργίας τους είναι το ανθρώπινο δυναμικό.

Το θεμα αναγραφει αυτολεξεί το 'τεχνολογική μοναδικότητα' που σημαίνει ακριβώς την στιγμη που θα γινει ο υπερκερασμος του ανθρωπου απο τις μηχανες σε επιπεδο νοημοσυνης και μεσω της αυτοαναπαραγωγης και αυτοβελτιωσης τους θα προκυψει η εκρηξη της νοημοσυνης και θα φτασει στο 'technological singularity'.

Οποτε τι λες οτι δεν συζηταμε για αυτο το θεμα; Μα αντιθέτως γιαυτο συζηταμε επαακριβως.

Περα απο αυτο, η τεχνητη νοημοσυνη ειναι ενα εργαλειο που θα μας βοηθησει να κανουμε τον κοσμο μας καλυτερο και δεν χρειαζεται να ανυσηχουμε για μπουρδες. Το οτι υπαρχουν η υπηρξαν μερικοι φοβιτσιαριδες οπως ο hawkings, elon musk κλπ δεν καταρρίπτει την λογικη που αναλυει εξαιρετικά το αρθρο παραπανω. Φυσικα και φοβασαι κατι που δεν το καταλαβαινεις, και ναι ο hawkings ηταν μεγάλος αστροφυσικος και φυσικος και πανέξυπνος, ομως δεν ηταν εξειδικευμενος στη πληροφορικη η σε κάποιο πεδιο της εφηρμοσμενης τεχνητης νοημοσυνης ουτε καν στη θεωρητικη αναζητησή της και τις επιπλοκες της.

Ολα τα fud πηγαζουν απο την θεωρητηκη προβλεψη του 'technological singularity' κατι που πολυ απλα δεν ειναι δυνατον να γινει ούτε να υπάρξει, για ολους τους πραγματικους λογους που αναφερει το αρθρο.

Μπηκες στο κοπο να το διαβασεις αραγε;

--- update ----

Και όσον αφορά τον εκτοπισμό πολλών θέσεων εργασίας και συγκεκριμένα των οδηγών, θα συμφωνήσω σε αυτό γιατί είναι σωστό και ναι επρόκειτω να γίνει στο μέλλον. Και καλό είναι να προετοιμαστούμε για αυτό γιατί είναι ικανό να δημιουργήσει μεγάλη κοινωνική αναστάστωση επειδή οι οδηγοί είναι εκατομμύρια. Αυτό όμως το πρόβλημα θα πρέπει να το αντιμετωπίσουμε σιγά σιγά ως κοινωνία με λογική και προετοιμασία αντί με πανικό και φόβο. Όπως και στο παρελθόν που πολλές θέσεις εργασίας εκτοπίστηκαν από άλλες τεχνολογικές επαναστάσεις, οι άνθρωποι απλώς θα κάνουν άλλη εργασία που η ανάγκη για αυτές θα ανακύψει με την νέα τεχνολογία. Για να γίνω πιο συγκεκριμένος, μπορεί ο οδηγός σήμερα να κρατάει το τιμόνι με φυσική παρουσία στο ίδιο το όχημα, όμως αύριο θα χρειάζεται ένας πεπειραμένος οδηγός για να επιβλέπει τα οχήματα εξ' αποστάσεως, να συντηρεί το σύστημα και να το βελτιώνει ανάλογα με τις ανάγκες της επιχείρησης, επίσης θα χρειαστούν τεχνικούς, support κλπ. άρα τσουπ να τες οι θέσεις που θα γεννηθουν.

Θα αντικαταστήσουν όλες τις προϋπάρχουσες που θα χαθούν; δεν ξέρω και ειλικρινά δε νομίζω, αλλά σίγουρα θα καλύψουν ένα μεγάλο ποσοστό και σίγουρα θα κάνουν τον κόσμο μας καλύτερο με ασφαλέστερη κυκλοφορία και λιγότερα δυστυχήματα και νεκρούς και υψηλότερη επίδοση στην παράδοση που με τη σειρά της θα φέρει ανάπτυξη σε ανυπολόγιστους άλλους τομείς της κοινωνίας μας.

Οι άνθρωποι που θα χάσουν την δουλειά τους και δεν θα μπορέσουν να ξανα δουλέψουν στον ίδιο τομέα απλά με άλλη ειδικότητα, πιστεύω θα είναι λίγοι και απλά θα απορροφηθούν σε νέες θέσεις που θα δημιουργηθούν στο μελοντικό τοπίο εργασίας.

Το θέμα είναι ότι θα πρέπει να προετοιμαστούμε για την επικείμενη αναστάτωση με τον βέβαιο και βίαιο εκτοπισμό των υπάρχοντων οδηγών και να το αντιμετωπίσουμε ως οφείλουμε με ψυχραιμία και σύναιση για να μην έχουμε βίαιες καταστάσεις (βλ. τι γίνεται στη Γαλλία αυτές τις μέρες) γιατί δεν είναι αναγκαίο να γίνει με αυτό το τρόπο. Στο τέλος πάλι δουλειά θα έχουμε.

Εγώ προσωπικά πιστεύω, προβλέπω και δηλώνω ευθρασώς ότι δουλειά για τους ανθρώπους θα υπάρχει στον αιώνα τον άπαντα και όχι μόνο δεν θα εκλείψει αλλά ολοένα και θα αυξάνεται η ζήτηση.

[anon]

Το θεμα αναγραφει αυτολεξεί το 'τεχνολογική μοναδικότητα' που σημαίνει ακριβώς την στιγμη που θα γινει ο υπερκερασμος του ανθρωπου απο τις μηχανες σε επιπεδο νοημοσυνης και μεσω της αυτοαναπαραγωγης και αυτοβελτιωσης τους θα προκυψει η εκρηξη της νοημοσυνης και θα φτασει στο 'technological singularity'.

Εχεις απόλυτο δίκιο όσον αφορά τον τίτλο του θέματος.

προσωπικά θεωρώ ότι ειναι πολύ μακριά αυτό, ακόμα. όμως πολύ κοντά θα είναι μια κοινωνική ρήξη απο πλήθος ανέργων. Για μένα αυτό ειναι άμεσο θέμα.

Και όσον αφορά τον εκτοπισμό πολλών θέσεων εργασίας και συγκεκριμένα των οδηγών, θα συμφωνήσω σε αυτό γιατί είναι σωστό και ναι επρόκειτω να γίνει στο μέλλον. Και καλό είναι να προετοιμαστούμε για αυτό γιατί είναι ικανό να δημιουργήσει μεγάλη κοινωνική αναστάστωση επειδή οι οδηγοί είναι εκατομμύρια. Αυτό όμως το πρόβλημα θα πρέπει να το αντιμετωπίσουμε σιγά σιγά ως κοινωνία με λογική και προετοιμασία αντί με πανικό και φόβο.

Εαν σου ρθει, χωρίς να το ξέρεις, τότε θα έρθει ο πανικός. Γιαυτό μιλάμε, για ναναι γνωστό, πριν ειναι αργά.

Όπως και στο παρελθόν που πολλές θέσεις εργασίας εκτοπίστηκαν από άλλες τεχνολογικές επαναστάσεις, οι άνθρωποι απλώς θα κάνουν άλλη εργασία που η ανάγκη για αυτές θα ανακύψει με την νέα τεχνολογία. Για να γίνω πιο συγκεκριμένος, μπορεί ο οδηγός σήμερα να κρατάει το τιμόνι με φυσική παρουσία στο ίδιο το όχημα, όμως αύριο θα χρειάζεται ένας πεπειραμένος οδηγός για να επιβλέπει τα οχήματα εξ' αποστάσεως, να συντηρεί το σύστημα και να το βελτιώνει ανάλογα με τις ανάγκες της επιχείρησης, επίσης θα χρειαστούν τεχνικούς, support κλπ. άρα τσουπ να τες οι θέσεις που θα γεννηθουν.

Η διαφορά εδώ ειναι ότι θα έχουμε πολύ γρήγορη παύση εκατομυρίων θέσεων εργασίας. Σε καμμιά περίπτωση οι όποιες νέες θέσεις εργασίας δεν θα μπορούν να καλύψουν έστω και ένα ποσοστό των απωλειών. Εξάλλου τι νόημα θα είχε να καταργήσεις τους οδηγούς και να πληρώνεις ισοδύναμα ποσά αλλού; Νομίζεις δεν έχουν κάνει λογαριασμό; Ξοδεύουν δισεκατομύρια έτσι για το γόητρο; Οχι φίλε μου, ο σκοπός ειναι το ανθρώπινο κόστος στον τομέα της επαγγελματικής οδήγησης να υποδεκαπλασιαστεί. Θα χαθούν 100 θέσεις εργασίας, θα δημιουργηθούν νέες 5 αμοιβόμενες στο διπλάσιο, κόστος λοιπόν δια 10. Και αυτό κλίμακα εκατομυρίων θέσεων εργασίας.
ΑΥτό που δεν γίνεται αντιληπτό άμεσα είναι οι "παράπλευρες" απώλειες θέσεων εργασίας καθώς και η επιρροή μιας τέτοιας αλλαγής και σε άλλες δραστηριότητες. Πχ πλέον τα τραίνα, θα γίνουν πλέον όχι ανταγωνιστικά. Θα επηρεαστεί η αγορά ακινήτων. και άλλα πολλά.

Θα αντικαταστήσουν όλες τις προϋπάρχουσες που θα χαθούν; δεν ξέρω και ειλικρινά δε νομίζω, αλλά σίγουρα θα καλύψουν ένα μεγάλο ποσοστό και σίγουρα θα κάνουν τον κόσμο μας καλύτερο με ασφαλέστερη κυκλοφορία και λιγότερα δυστυχήματα και νεκρούς και υψηλότερη επίδοση στην παράδοση που με τη σειρά της θα φέρει ανάπτυξη σε ανυπολόγιστους άλλους τομείς της κοινωνίας μας.

Συμφωνώ ότι απο πολλές απόψεις πρέπει να πάμε προς τα εκεί όσον αφορά την ασφάλεια πχ. Ακόμα και ο Ελον Μασκ, αυτός που προσπαθεί να φτάσει σε πλήρως αυτοοδηγούμενα οχήματα (ακόμα είναι πολύ πίσω απο την Waymo), παρόλο που ειναι κατά των συμφερόντων του, και ο ίδιος κρούει τον κώδωνα του κινδύνου. Λίγο σχιζοφρενική κατάσταση, αλλά απο την άλλη αυτός απο μέσα ξέρει καλύτερα ίσως πόσο πολύ μπορεί να προχωρήσει η τεχνολογία.

Οι άνθρωποι που θα χάσουν την δουλειά τους και δεν θα μπορέσουν να ξανα δουλέψουν στον ίδιο τομέα απλά με άλλη ειδικότητα, πιστεύω θα είναι λίγοι και απλά θα απορροφηθούν σε νέες θέσεις που θα δημιουργηθούν στο μελοντικό τοπίο εργασίας.

Ολόκληροι εργασιακοί τομείς θα καταργηθούν, σχεδόν. Σε μια μελέτη διάβαση ότι μόνο στις ΗΠΑ είναι δυομιση εκατομύρια επαγγελματίες οδηγοί σε φορτηγά και νταλίκες. Εχουν ένα πολύ καλό εισόδημα, αποτελούν μεσαία τάξη, και συνήθως είναι χαμηλού μορφωτικού επιπέδου. Για την ακρίβεια δεν θα μπορούσε κάποιος του αντίστοιχου μορφωτικού επιπέδου να βγάζει τόσα χρήματα πουθενά αλλού. Ολοι αυτοί, παπαλα. Στην καλύτερη, φτωχοποίηση. Ομοίως και αλλού, όπως πχ Ευρώπη, και ειδικότερα Ελλάδα αν το πάρεις κατ'αναλογία. Το τρέχων καθεστώς δεν ευνοεί τις εταιρίες logistics, μιας και οι οδηγοί ειναι το μεγαλύτερο κόστος. Ετσι δουλεύουν πολλοί ως contract με εταιρίες. Στο νέο σενάριο, οι εταιρίες δεν χρειάζονται οδηγούς. Μόνο μηχανές, κεφάλαιο δηλαδή, που το έχουν. Και που θα δουλεύουν 24/7/365, εκτός εαν χαλάσουν ή όταν θέλουν συντήρηση.

Το θέμα είναι ότι θα πρέπει να προετοιμαστούμε για την επικείμενη αναστάτωση με τον βέβαιο και βίαιο εκτοπισμό των υπάρχοντων οδηγών και να το αντιμετωπίσουμε ως οφείλουμε με ψυχραιμία και σύναιση για να μην έχουμε βίαιες καταστάσεις (βλ. τι γίνεται στη Γαλλία αυτές τις μέρες) γιατί δεν είναι αναγκαίο να γίνει με αυτό το τρόπο. Στο τέλος πάλι δουλειά θα έχουμε.

Εγώ προσωπικά πιστεύω, προβλέπω και δηλώνω ευθρασώς ότι δουλειά για τους ανθρώπους θα υπάρχει στον αιώνα τον άπαντα και όχι μόνο δεν θα εκλείψει αλλά ολοένα και θα αυξάνεται η ζήτηση.

Αν στην Γαλλία κάνανε έτσι, για μια μικρή αύξηση στα έξοδά τους λόγω των νέων φόρων στα καύσιμα, φαντάσου τι θα γίνει εαν χάνουν δουλειές και μένουν στην ανεργία. Θα πρέπει όλα τα κράτη ναναι έτοιμα για τέτοιες αλλαγές. Η απαγόρευση της τεχνολογίας προσωπικά θεωρώ δεν είναι λύση, αλλά τα όποια μέτρα θα πρέπει να αρχίσουν να σχεδιάζονται ήδη απο τώρα. Σε μια - δυο δεκαετίες που θα ναι όλα τα φορτηγά αυτοοδηγούμενα, δεν είναι και πολύς χρόνος. Εδω με τα μνημόνια είδες τι έγινε. Ούτε πρόκειτε η Ελλάδα να ορθοποδήσει και να δούμε βασικό των 700 ευρώ μέχρι το 2025 όπως πάει. Δηλαδή 15 χρόνια τουλάχιστον στην τρύπα.

- - - Updated - - -

Τωρα που το σκέπτομαι καλύτερα, δεν είναι και τόσο κακός ο τίτλος.
Καθ'οδόν λέει. Πρώτα θα δούμε άλλα φαινόμενα. όπως αυτά που περιγράφουμε.
Οι "φοβιτσιάριδες" λένε ότι αμα γίνει η αρχή, στην συνέχεια η ΑΙ θα μπορεί μόνη της να προχωρά απο ένα σημείο και πέρα, και ας μην είναι ακόμη σε επίπεδο σαν του ανθρώπου. Αλλά εαν μπορεί να προχωρά μόνη της, τότε σίγουρα θα ξεπεράσει τον άνθρωπο. Μπορεί σε 1 χρόνο, σε 10 μπορεί σε 100. Αλλά θα τον ξεπεράσει σίγουρα.

[kostarcng]

Δεδομένου ότι το κοινωνικό γίγνεσθαι δεν μπορεί να παρομοιαστεί απόλυτα με σύστημα κλειστού βρόγχου, πάντα υπάρχει και η παρεμβολή έστω και για μικρό χρονικό διάστημά συστήματος ανοιχτού βρόγχου ελέγχου, δεν μπορεί να γίνει μακροσκοπική πρόβλεψη των επιπτώσεων του AI στην μακραίωνη ιστορία-μέλλον της ανθρωπότητας. Έτσι, συλλογιζόμενος κανείς τις απροσδόκητες ανατροπές κατά το ρούν της ιστορίας δεν μπορεί παρά να ελπίζει στην καλώς εννοούμενη έκβαση τις υπόθεσης αυτής.

[NeK]

Τωρα που το σκέπτομαι καλύτερα, δεν είναι και τόσο κακός ο τίτλος.
Καθ'οδόν λέει. Πρώτα θα δούμε άλλα φαινόμενα. όπως αυτά που περιγράφουμε.
Οι "φοβιτσιάριδες" λένε ότι αμα γίνει η αρχή, στην συνέχεια η ΑΙ θα μπορεί μόνη της να προχωρά απο ένα σημείο και πέρα, και ας μην είναι ακόμη σε επίπεδο σαν του ανθρώπου. Αλλά εαν μπορεί να προχωρά μόνη της, τότε σίγουρα θα ξεπεράσει τον άνθρωπο. Μπορεί σε 1 χρόνο, σε 10 μπορεί σε 100. Αλλά θα τον ξεπεράσει σίγουρα.

Όχι, διαφωνώ κάθετα. Είναι σαν να μην απαντάς σε αυτά που γράφω. Δεν είναι απλώς θέμα χρόνου για να ξεπεράσει το AI την ανθρώπινη νοημοσύνη, είναι καθόλα άτοπο και άστοχο ως έστω και διατύπωση. Διάβασε το άρθρο και θα καταλάβεις.

[anon]

Ξεκινώ απο αυτό

I’ve heard that in the future computerized AIs will become so much smarter than us that they will take all our jobs and resources, and humans will go extinct. Is this true?

Δεν χρειάζεται ναναι ούτε καν το μισό έξυπνο ουτε καν το 1/4, για να πάρει την δουλειά απο άνθρωπο. Τα συστήματα νοημοσύνης αυτά είναι εξαιρετικά εξειδικευμένα για πολύ συγκεκριμένο σκοπό. Δεν μπορείς να περιμένεις απο την "ευφυία" ενός αυτοοδηγούμενου οχήματος να καταλάβει οτιδήποτε άλλο πέραν απο οδήγηση, αντικείμενα στο δρόμο, κλπ.
Ούτε απο ρομποτικούς σεφ, να καταλάβουν το οτιδήποτε, μιας και εκτελούν συγκεκριμένες διαδικασίες. Αυτόματα ειναι πιο πολύ, αλλά εξελιγμένα σε τέτοιο βαθμό, ώστε στο αντικείμενο που ασχολούνται, το πολύ στενό αντικειμενο, να είναι εφάμιλλα της ανθρώπινης νοημοσύνης. Αλλά εκεί... Κάποια στιγμή κάποιος μπορεί να τα συνδιάσει όλα αυτά και άλλα περισσότερα και να προσπαθήσει να κάνει κάτι που να πλησιάζειτην ανθρώπινη ευφυία γενικότερα, αλλά εκεί έχουμε δρόμο.
Μόνο στις ΗΠΑ απασχολούνται περιν τα 4 εκ κόσμος στα ταχυφαγεία.
Μετά απο αυτό,
http://www.bbc.com/future/story/2018...od-even-faster
δεν είναι δύσκολο να σκεφτεί κανείς ότι μάλλον πάμε για το πολύ τους μισούς εργαζόμενους.

Εν κατακλειδι, όλο το 1 είναι total BS, μιας και ο άνθρωπος δεν καταλαβαίνει πως δουλεύει η τωρινή ΑΙ. Νομίζει μάλλον ότι είναι ένα σύνολο κανόνων που χτίσαμε στον υπολογιστή; Αυτό που λέει για πιθανοθεωρητικό μοντέλο της νοημοσύνης, αυτό ακριβώς εφαρμόζει η σύγχρονη ΑΙ, όπου ο υπολογιστής "μαθαίνει" και "αυτοσχεδιάζει" με στατιστική και πιθανότητες, με χρήση του τυχαίου, και όπου το τελικό σύστημα "εξελίσεται" απο μόνο του, και δεν γνωρίζουν πως ειναι τελικά "εσωτερικά". Ακριβώς όπως αναπτύσεται βιολογικά και νοηματικά ένας άνθρωπος. Αρα μάλλον δεν έχει ιδέα τι γίνεται και πως δουλεύει η σύγχρονη ΑΙ. Στο μόνο που έχει δίκιο είναι ότι η τωρινή ΑΙ είναι εξαιρετικά στοχευμένη. Θα βρείς ΑΙ για σεφ, για οδηγό, για ιατρό-διαγνώστη, για παίκτη του Go, και πάει λέγοντας... Σε κάθε όμως τομέα συγκεκριμένα, ξεπερνάει ή θα ξεπεράσει πολύ σύντομα τον άνθρωπο, ειδικά εαν πάρουμε τον μέσο όρο ανθρώπου.

Πάμε στο 2. Λέει

AIs will follow the same engineering maxim that all things made or born must follow: You cannot optimize every dimension. You can only have tradeoffs.

Απο που βγαίνει αυτό; Αξίωμα; Το είπε ο Θεός; Γενικά έχει πολλά τέτοια "αξιώματα". Και ακόμα και εαν έχεις tradeoffs, εαν το τελικό αποτέλεσμα είναι ανώτερο; Και γιατί να μην είναι;

Το 3 δείχνει ότι έχει μάλλον αγνοια πολλών θεμάτων. Το θεωρητικό μοντέλο του Τουρινγκ για ισοδύναμες υπολογιστικές μηχανές, είναι ακριβώς αυτό. Θεωρητικό ισοδύναμο. Αυτό δεν σημαίνει ότι ο ανθρώπινος εγκέφαλος, εαν θεωρήσουμε ότι λειτουργεί όπως και ένας ηλεκτρονικός εγκεδαλος, ειναι το όριο. Και μετά πάει στο φοβερό ότι σκεπτόμαστε με όλο μας το σώμα.... ΟΚ, εδώ το τερμάτισε. Και το πρόβλημα του είναι ότι δεν μπορεί να γίνει υπολογιστής με ΑΙ που να πλησιάζει τον άνρθωπο παρα μόνο εαν το κάνουμε με βιολογικούς νευρώνες και συνάψεις.... ΟΚ, πάλι τερματισμός. (όχι ότι δεν δοκιμάζουν και τέτοια οι επιστήμονες).

πάμε στο 4. Λέει

At the core of the notion of a superhuman intelligence — particularly the view that this intelligence will keep improving itself — is the essential belief that intelligence has an infinite scale. I find no evidence for this.

Δηλαδή ουσιαστικά το άρθρο κινείται με τα προσωπικά πιστεύω του. ΟΚ. Και άλλοι πιστεύουν ότι η Γή ειναι κούφια ή ότι ειναι επίπεδη.
Το πιο απλό. ΔΕΝ ΧΡΕΙΑΖΕΤΑΙ ΝΑΝΑΙ ΑΠΕΙΡΗ η νοημοσύνη. Μπορεί απλά ναναι ΠΕΡΙΣΣΟΤΕΡΗ. Ηδη αξιολογούμε τους ανθρώπους σε έξυπνους ή μη, και έχουμε κάνει και ειδικά τεστς για τον σκοπό αυτό. (παρόλο που αυτό χωράει πολύ συζήτηση). Αρα ήδη έχουμε διάκριση νοημοσύνης, έχουμε έναν μέσο όρο πχ το 100, και έχουμε και κάποιους που πιάνουν το 200. ή και παραπάνω.... Αρα υπάρχει διαβάθμιση, άρα υπάρχει δυνατότητα εξέλιξης σε μια υπερνοημοσύνη, όχι άπειρη, αλλά σίγουρα μπορεί να καταλήξει ανώτερη απο αυτή του ανθρώπου, του μέσου ανθρώπου.... Δεν μπορώ να καταλάβω το κόλλημά του, ότι η υπερνοημοσύνη πρέπει σώνει και καλά ναναι άπειρη.... Και επιχειρηματολογεί ότι η θερμοκρασία δεν είναι άπειρη, και μπλα μπλα μπλα.... ΔΕΝ ΧΡΕΙΑΖΕΤΑΙ. Αρκεί ναναι πολύ μεγαλύτερη του ανθρώπου, του μέσου ανθρώπου ακόμα και του πολυ έξυπνου ανθρώπου (Mensa score >180)

This could change at some time in the future, but artificial intelligence is clearly not increasing exponentially now.

Η διαφορά είναι ότι η ανθρώπινη νοημοσύνη, δεν καλυτερεύει. Εχει συγκεκριμένο πλαφόν. Οριο. Παπαλα. Ακόμα και τους εξυπνότερους να πάρει, το καλύτερο που μπορούμε να ελπίζουμε είναι η αύξηση του μέσου όρου νοημοσύνης, και δυστυχώς δεν δείχνει να συμβαίνει αυτό. Πάρε παράδειγμα την Ελλάδα Αντιθέτως η ΑΙ καλυτερεύει. Μπορεί όχι εκθετικά (αυτό τον καίει; αν είναι εκθετική ή γραμμική ή σε επίπεδα; Το γεγονός ότι δείχνει να εξελίσεται συνεχώς το περνάμε αβαβά; ) αλλα εξελίσεται. Και αφού εξελίσεται, εκτός εαν βρεθεί κάποιος "τοίχος", κάποια στιγμή, θεμα χρόνου ειναι, θα φτάσει και τον άνθρωπο. Οπως δεν υπάρχει καμμιά ένδειξη ότι θα συνεχίσει να εξελίσεται, ομοίως δεν υπάρχει και καμμιά ένδειξη ότι θα σταματήσει. Στην εξέλιξη των επεξεργαστών, ξέρουμε ότι υπάρχει κάποιο όριο απο την άποψη της Φυσικής, στο πόσο μικρή τεχνολογία VLSI θα υλοποιήσεις. Δεν μπορείς να πάς κάτω απο το επίπεδο ενός αριθμού ατόμων, πάει τέλειωσε. Εδω όμως δεν μιλάμε για κάτι που περιορίζεται απο τις έννοιες της Φυσικής, τουλάχιστον άμεσα.

Συμφωνώ στο 5, ότι δεν μπορούμε να περιμένουμε μια "υπερευφυία" να μας λύσει όλα τα προβλήματα. Ισως να μπορεί, ίσως όχι, ίσως να δεί ότι εμείς είμαστε το πρόβλημα και να το λύσει εξοντώνοντάς μας. Αγαπημένο θέμα πολλών SciFi. Και όχι απαραίτητα λάθος, είμαστε αν το δεις απο μια άλλη σκοπιά, σαν ιός, σαν καρκίνος, στον πλανήτη... Οπως επίσης το θέμα με τον πειραματισμό που λέει, σε αυτό το σημείο συμφφωνω, αλλά κανείς δεν μας λέει ότι μια ΑΙ, δεν θα προχωρησει προκειμένου να κάνει πειραματισμούς και έρευνα όπως αυτή θέλει.

Συνοπτικά θα έλεγα ότι το άρθρο είναι απο κάποιον που μάλλον ξέρει εξ απαλων ονύχων τα σχετικά περι των οποίων ομιλεί. Δεν λέει τίποτα ότι ειναι αρχισυντάκτης του Wired. Eίναι τόσο σχετικός όσο να πάρω τον Παπαχελά και να μου μιλήσει σχετικά. Θεωρώ ότι ο Μασκ είναι απείρως σχετικότερος στο θέμα αυτό. Και δυστυχώς για αυτόν, δεν είναι μόνον έναν Ελον Μασκ, έχουμε και άλλους επιστήμονες, όχι δημοσιογράφους, ΕΠΙΣΤΗΜΟΝΕΣ αλλά και ερευνητές και εφευρέτες και επιχειρηματίες στην πληροφορική (Bill Gates? ) που τα λένε αυτά. Λυπάμαι, θα συμπαραταχθώ με τους άλλους και όχι με τον Kevin Kelly.

[NeK]

Καταρχάς επιτέλους χαίρομαι που απαντάς επί της ουσίας στο τελευταίο σου μήνυμα. Ας τα πάρουμε ένα ένα λοιπόν.

Δεν χρειάζεται ναναι ούτε καν το μισό έξυπνο ουτε καν το 1/4, για να πάρει την δουλειά απο άνθρωπο. Τα συστήματα νοημοσύνης αυτά είναι εξαιρετικά εξειδικευμένα για πολύ συγκεκριμένο σκοπό. Δεν μπορείς να περιμένεις απο την "ευφυία" ενός αυτοοδηγούμενου οχήματος να καταλάβει οτιδήποτε άλλο πέραν απο οδήγηση, αντικείμενα στο δρόμο, κλπ.
Ούτε απο ρομποτικούς σεφ, να καταλάβουν το οτιδήποτε, μιας και εκτελούν συγκεκριμένες διαδικασίες. Αυτόματα ειναι πιο πολύ, αλλά εξελιγμένα σε τέτοιο βαθμό, ώστε στο αντικείμενο που ασχολούνται, το πολύ στενό αντικειμενο, να είναι εφάμιλλα της ανθρώπινης νοημοσύνης. Αλλά εκεί...

Δεν βρίσκω που διαφωνείς με αυτά που λέει, αντιθέτως τα ενισχύεις λέγοντας ότι είναι πολύ εξειδικευμένα σε ένα πολύ στενό αντικείμενο (noarrow domain στην lingo των AI researchers). Ήδη εδώ και πολλές δεκαετίες οι υπολογιστές είναι πολύ, πολύ ανώτεροι και ταχύτεροι σε εξειδικευμένα στενά αντικείμενα, όπως π.χ. το κομπουτεράκι κάνει μαθηματικές πράξεις κατά πολύ ταχύτερα από τον άνθρωπο και κυκλοφορεί στην κοινωνία μας εδώ και πάνω από 40-50 χρόνια;

Κάποια στιγμή κάποιος μπορεί να τα συνδιάσει όλα αυτά και άλλα περισσότερα και να προσπαθήσει να κάνει κάτι που να πλησιάζειτην ανθρώπινη ευφυία γενικότερα, αλλά εκεί έχουμε δρόμο. Εν κατακλειδι, όλο το 1 είναι total BS, μιας και ο άνθρωπος δεν καταλαβαίνει πως δουλεύει η τωρινή ΑΙ. Νομίζει μάλλον ότι είναι ένα σύνολο κανόνων που χτίσαμε στον υπολογιστή; Αυτό που λέει για πιθανοθεωρητικό μοντέλο της νοημοσύνης, αυτό ακριβώς εφαρμόζει η σύγχρονη ΑΙ, όπου ο υπολογιστής "μαθαίνει" και "αυτοσχεδιάζει" με στατιστική και πιθανότητες, με χρήση του τυχαίου, και όπου το τελικό σύστημα "εξελίσεται" απο μόνο του, και δεν γνωρίζουν πως ειναι τελικά "εσωτερικά". Ακριβώς όπως αναπτύσεται βιολογικά και νοηματικά ένας άνθρωπος. Αρα μάλλον δεν έχει ιδέα τι γίνεται και πως δουλεύει η σύγχρονη ΑΙ.

Αυτό ακριβώς είναι που ΔΕΝ πρόκειται να συμβεί. Όλα τα επιχειρήματα που δίνει το άρθρο ισχυρίζονται πως ακριβώς αυτό είναι απλώς αδύνατον. Δεν γίνεται να πάρεις τα εξειδικευμένα συστήματα του google/tesla/waymo self-driving AI (κάμερες, αισθητήρες, εξειδικευμένοι αλγόριθμοι που αναλύουν τα δεδομένα τους, εξειδικευμένα τσιπς κλπ), το google photos (face and pattern recognition ML model) να τα ενώσεις (πως????) με τον IBM watson και ξαφνικά να έχεις ένα general AI που οδηγεί, μαγειρεύει, χτίζει σπίτια, εκπονεί θεωρητική φυσική και επεκτείνει τα μαθηματικά. Γιατί δεν γίνεται; Γιατί το γενικό intelligence που μπορεί να λειτουργήσει σε όλα τα domains (αντικείμενα, θέματα, πλαίσια, επίπεδα κλπ) ανεξαρτήτως εάν τα γνωρίζει ή όχι (δηλαδή έχει την δυνατότητα να μάθει να λειτουργεί και σε ολοκαίνουρια νέα domains που επινοήθηκαν από άλλους, π.χ. μαθηματικά μοντέλα, θεωρίες κ.α.) είναι κάτι το εντελώς διαφορετικό από την φύση του υπαρκτού εξειδικευμένου AI που το προγραμματίζεις (ναι το προγραμματίζεις εσύ ακόμα και αν είναι "Machine Learning", γιατί αυτό και αν είναι BS που νομίζει ο κόσμος ότι "μαθαίνουν μόνα τους") για να κάνει μία συγκεκριμένη δουλειά σε ένα συγκεκριμένο και πολύ στενό τομέα/αντικείμενο.

Στο μόνο που έχει δίκιο είναι ότι η τωρινή ΑΙ είναι εξαιρετικά στοχευμένη. Θα βρείς ΑΙ για σεφ, για οδηγό, για ιατρό-διαγνώστη, για παίκτη του Go, και πάει λέγοντας... Σε κάθε όμως τομέα συγκεκριμένα, ξεπερνάει ή θα ξεπεράσει πολύ σύντομα τον άνθρωπο, ειδικά εαν πάρουμε τον μέσο όρο ανθρώπου.

Ναι, όπως είπαμε ένα εξειδικευμένο ΑΙ και μπορεί αλλά και έχει ήδη ξεπεράσει τον άνθρωπο σε πάρα πολλούς τομείς, αλλά στενούς, πολύ στενούς.

Πάμε στο 2. Λέει

Απο που βγαίνει αυτό; Αξίωμα; Το είπε ο Θεός; Γενικά έχει πολλά τέτοια "αξιώματα". Και ακόμα και εαν έχεις tradeoffs, εαν το τελικό αποτέλεσμα είναι ανώτερο; Και γιατί να μην είναι;

Προφανώς και θα υπάρχουν tradeoffs, όπως σε οτιδήποτε άλλο είναι γνωστό στην επιστήμη, τίποτα δεν είναι τέλειο σε πολλούς τομείς πάντα κάτι χάνει για να κερδίσει αλλού. Γιατί το θεωρείς λάθος αυτό; Το εντοπίζουμε στα πάντα.

Το 3 δείχνει ότι έχει μάλλον αγνοια πολλών θεμάτων. Το θεωρητικό μοντέλο του Τουρινγκ για ισοδύναμες υπολογιστικές μηχανές, είναι ακριβώς αυτό. Θεωρητικό ισοδύναμο. Αυτό δεν σημαίνει ότι ο ανθρώπινος εγκέφαλος, εαν θεωρήσουμε ότι λειτουργεί όπως και ένας ηλεκτρονικός εγκεδαλος, ειναι το όριο. Και μετά πάει στο φοβερό ότι σκεπτόμαστε με όλο μας το σώμα.... ΟΚ, εδώ το τερμάτισε. Και το πρόβλημα του είναι ότι δεν μπορεί να γίνει υπολογιστής με ΑΙ που να πλησιάζει τον άνρθωπο παρα μόνο εαν το κάνουμε με βιολογικούς νευρώνες και συνάψεις.... ΟΚ, πάλι τερματισμός. (όχι ότι δεν δοκιμάζουν και τέτοια οι επιστήμονες).

Νομίζεις ότι έχει άγνοια γιατί πολύ απλά δεν κατανόησες το επιχείρημα και το τι είπε. Το θεωρητικό ισοδύναμο ισχύει μόνο για το αποτέλεσμα και όχι για το πότε θα τελειώσουν τον υπολογισμό. Ο χρόνος και τα συμβάντα στο σύμπαν μας εξελίσσονται σε 1 δευτερόλεπτο ανά δευτερόλεπτο (time runs at 1 second per second by definition). Εάν θέλεις να φτιάξεις το οτιδήποτε που θα κάνει έναν υπολογισμό που θα αφορά τον φυσικό κόσμο και θα πρέπει να αντιδράει μέσα σε αυτόν, θα πρέπει να είναι real time, δηλαδή θα πρέπει να υπολογίζει το αποτέλεσμα το ίδιο ή και γρηγορότερα από το 1 second per second. Εάν κάνει έστω και λίγο παραπάνω τότε πάπαλα, δεν θα μπορεί να λειτουργήσει στον φυσικό μας κόσμο γιατί θα αρχίσει ολοένα και περισσότερο να χάνει "έδαφος" (να μένει πίσω), και σε λίγη ώρα απλά θα αντιδράει μετά από ολόκληρα δευτερόλεπτα ή ακόμα και λεπτά και όσο πάει τόσο πιο αργό θα γίνεται. Δηλαδή θα είναι άχρηστο. Τέλος το έργο, κλείνουμε τα φώτα και πάμε σπίτια μας.

Αυτό εννοεί ότι το υπολογιστικό ισοδύναμο, ναι μεν ισχύει αλλά όχι στον ίδιο χρόνο, είναι ένα αξιώμα που απορρέει από την φυσική και τους φυσικούς νόμους του σύμπαντός μας. Δηλαδή ένα υπολογιστικό σύστημα φτιαγμένο από άβακα είναι ισοδύναμο στην υπολογιστική ικανότητά του να υπολογίσει μαθηματικές πράξεις όπως και ένας υπερ-υπολογιστής των 500Tflops. Μόνο που με τον άβακα θα χρειαστεί τάξεις μεγέθους περισσότερο χρόνο για να τις ολοκληρώσει σε αντίθεση με τον υπερ-υπολογιστή. Πιο συγκεκριμένα ένα υπολογιστικό σύστημα βασισμένο στα σημερινά τραντζίστορ δεν θα έχει την ίδια ταχύτητα με ένα άλλο σύστημα βασισμένο σε π.χ. οπτική επεξεργασία, ή ηλεκτροχημική επεξεργασία.

πάμε στο 4. Λέει

Δηλαδή ουσιαστικά το άρθρο κινείται με τα προσωπικά πιστεύω του. ΟΚ. Και άλλοι πιστεύουν ότι η Γή ειναι κούφια ή ότι ειναι επίπεδη.

Μην χρησιμοποιείς strawman τακτικές, δεν καταφέρνεις τίποτα.

Το πιο απλό. ΔΕΝ ΧΡΕΙΑΖΕΤΑΙ ΝΑΝΑΙ ΑΠΕΙΡΗ η νοημοσύνη. Μπορεί απλά ναναι ΠΕΡΙΣΣΟΤΕΡΗ. Ηδη αξιολογούμε τους ανθρώπους σε έξυπνους ή μη, και έχουμε κάνει και ειδικά τεστς για τον σκοπό αυτό. (παρόλο που αυτό χωράει πολύ συζήτηση). Αρα ήδη έχουμε διάκριση νοημοσύνης, έχουμε έναν μέσο όρο πχ το 100, και έχουμε και κάποιους που πιάνουν το 200. ή και παραπάνω.... Αρα υπάρχει διαβάθμιση, άρα υπάρχει δυνατότητα εξέλιξης σε μια υπερνοημοσύνη, όχι άπειρη, αλλά σίγουρα μπορεί να καταλήξει ανώτερη απο αυτή του ανθρώπου, του μέσου ανθρώπου.... Δεν μπορώ να καταλάβω το κόλλημά του, ότι η υπερνοημοσύνη πρέπει σώνει και καλά ναναι άπειρη.... Και επιχειρηματολογεί ότι η θερμοκρασία δεν είναι άπειρη, και μπλα μπλα μπλα.... ΔΕΝ ΧΡΕΙΑΖΕΤΑΙ. Αρκεί ναναι πολύ μεγαλύτερη του ανθρώπου, του μέσου ανθρώπου ακόμα και του πολυ έξυπνου ανθρώπου (Mensa score >180)

Και με αυτή σου την παράγραφο καταρρίπτεις πλήρως την αρχική σου θέση όπου ισχυρίζεσαι ότι η 'τεχνολογική μοναδικότητα' (technological singularity) είναι δυνατή και είναι θέμα χρόνου για να γίνει. Όλη η ουσία της είναι η έκρηξη της νοημοσύνης που θα γίνει μέσω της εκθετικά αυξανόμενης νοημοσύνης (AI self-replicating and self-redesigning) που θα οδηγήσει σε αυτήν.

Εκθετικά αυξανόμενη σημαίνει ότι δεν είναι ότι θα φτάσει μόνο 180 IQ, ούτε αν ότι θα φτάσει 240 ή 300 ή και 500 IQ, εκθετικά σημαίνει ότι θα πολλαπλασιάζεται κάθε φορά με έναν ολοένα και γρηγορότερο ρυθμό και μέσα σε λίγες μόνο επαναλήψεις θα έχει φτάσει με έναν αδιανόητα φρενήρη ρυθμό, μέσα σε λίγα δευτερόλεπτα να ξεπεράσει τις 20 και πλέον ΤΑΞΕΙΣ ΜΕΓΕΘΟΥΣ υψηλότερου IQ. Δηλαδή μιλάμε για ΤΡΙΣΕΚΑΤΟΜΜΥΡΙΑ ΕΠΙ ΤΡΙΣΕΚΑΤΟΜΜΥΡΙΩΝ IQ. π.χ. 10²⁰, ή αλλιώς:

1,000,000,000,000,000,000,000 IQ

Και δε σταματάει εκεί γιατί αμέσως μετά, μετά από κλάσματα του δευτερολέπτου, αυτό το AI θα δημιουργήσει ένα νέο που θα έχει το διπλάσιο IQ του, ναι αυτό το τεράστιο νούμερο από πάνω θα γίνει διπλάσιο και αυτό θα συνεχίζεται και θα συνεχίζεται. Αντιλαμβάνεσαι τώρα το γελοίο του πράγματος και γιατί δεν είναι δυνατόν αυτό να γίνει ποτέ;

Όπως και να έχει πάντως ένα 200 IQ, δεν πρόκειται να φέρει την καταστροφή που νομίζεις, ούτε καν δηλαδη. Ή απόδειξη είναι απλή, ήδη υπάρχουν άνθρωποι και πολλοί μάλιστα που έχουν 200 IQ, δεν τους είδα να απειλούν την ανθρωπότητα σε καμία περίπτωση.

Η διαφορά είναι ότι η ανθρώπινη νοημοσύνη, δεν καλυτερεύει. Εχει συγκεκριμένο πλαφόν. Οριο. Παπαλα. Ακόμα και τους εξυπνότερους να πάρει, το καλύτερο που μπορούμε να ελπίζουμε είναι η αύξηση του μέσου όρου νοημοσύνης, και δυστυχώς δεν δείχνει να συμβαίνει αυτό. Πάρε παράδειγμα την Ελλάδα Αντιθέτως η ΑΙ καλυτερεύει. Μπορεί όχι εκθετικά (αυτό τον καίει; αν είναι εκθετική ή γραμμική ή σε επίπεδα; Το γεγονός ότι δείχνει να εξελίσεται συνεχώς το περνάμε αβαβά; ) αλλα εξελίσεται.

Nope. Η ανθρώπινη νοημοσύνη καλυτερεύει: https://en.wikipedia.org/wiki/Flynn_effect

Και αφού εξελίσεται, εκτός εαν βρεθεί κάποιος "τοίχος", κάποια στιγμή, θεμα χρόνου ειναι, θα φτάσει και τον άνθρωπο. Οπως δεν υπάρχει καμμιά ένδειξη ότι θα συνεχίσει να εξελίσεται, ομοίως δεν υπάρχει και καμμιά ένδειξη ότι θα σταματήσει. Στην εξέλιξη των επεξεργαστών, ξέρουμε ότι υπάρχει κάποιο όριο απο την άποψη της Φυσικής, στο πόσο μικρή τεχνολογία VLSI θα υλοποιήσεις. Δεν μπορείς να πάς κάτω απο το επίπεδο ενός αριθμού ατόμων, πάει τέλειωσε. Εδω όμως δεν μιλάμε για κάτι που περιορίζεται απο τις έννοιες της Φυσικής, τουλάχιστον άμεσα.

Αυτό λέμε, ο τοίχος όχι μόνο "θα βρεθεί", έχει βρεθεί ήδη εδώ και δεκαετίες. Όπως σωστά είπες και για τον άνθρωπο, υπάρχει πλαφόν στα πάντα, ακόμα και στο AI. Οι λόγοι είναι οι εξής:

1. υπάρχει απόλυτο όριο ταχύτητας στο σύμπαν μας που είναι ΑΔΥΝΑΤΟΝ να το φτάσεις και να το ξεπεράσεις. η Σταθερά C ή αλλιώς ταχύτητα του φωτός. Δηλαδή στο θεωρητικό σου μοντέλο μίας υπερ-νοήμον τεχνητής νοημοσύνης θα πρέπει να υπολογίσεις το φυσικό μέγεθός της σε συνάρτηση με την ταχύτητα επικοινωνίας των επιμέρων στοιχείων της με όριο την σταθερά C. Δεν ξέρω ποιος θα είναι ο απόλυτος αριθμός, αλλά με απόλυτη σιγουριά μπορώ να σου πω ότι θα είναι πεπερασμένος.
2. Και αν προσπαθήσεις να διογκώσεις το φυσικό μέγεθος θα γίνει πιο αργό λόγω του ότι θα πρέπει να διανύσουν περισσότερη απόσταση τα φωτόνια/σωματίδια για να επικοινωνήσουν.
3. Αν δε επιχειρήσεις να συμπυκνώσεις την μάζα σε μικρότερo όγκο, θα χτηπήσεις έναν άλλον τοίχο και θα... δημιουργήθεί μία μαύρη τρύπα. (βλ. https://en.wikipedia.org/wiki/Schwarzschild_radius)

Άρα ότι και να κάνεις, όπως και το οτιδήποτε άλλο πράγμα στο σύμπαν μας, υπάρχει πλαφόν και στην τεχνητή νοημοσύνη.

Συμφωνώ στο 5, ότι δεν μπορούμε να περιμένουμε μια "υπερευφυία" να μας λύσει όλα τα προβλήματα. Ισως να μπορεί, ίσως όχι, ίσως να δεί ότι εμείς είμαστε το πρόβλημα και να το λύσει εξοντώνοντάς μας. Αγαπημένο θέμα πολλών SciFi. Και όχι απαραίτητα λάθος, είμαστε αν το δεις απο μια άλλη σκοπιά, σαν ιός, σαν καρκίνος, στον πλανήτη... Οπως επίσης το θέμα με τον πειραματισμό που λέει, σε αυτό το σημείο συμφφωνω, αλλά κανείς δεν μας λέει ότι μια ΑΙ, δεν θα προχωρησει προκειμένου να κάνει πειραματισμούς και έρευνα όπως αυτή θέλει.

Συνοπτικά θα έλεγα ότι το άρθρο είναι απο κάποιον που μάλλον ξέρει εξ απαλων ονύχων τα σχετικά περι των οποίων ομιλεί. Δεν λέει τίποτα ότι ειναι αρχισυντάκτης του Wired. Eίναι τόσο σχετικός όσο να πάρω τον Παπαχελά και να μου μιλήσει σχετικά. Θεωρώ ότι ο Μασκ είναι απείρως σχετικότερος στο θέμα αυτό. Και δυστυχώς για αυτόν, δεν είναι μόνον έναν Ελον Μασκ, έχουμε και άλλους επιστήμονες, όχι δημοσιογράφους, ΕΠΙΣΤΗΜΟΝΕΣ αλλά και ερευνητές και εφευρέτες και επιχειρηματίες στην πληροφορική (Bill Gates? ) που τα λένε αυτά. Λυπάμαι, θα συμπαραταχθώ με τους άλλους και όχι με τον Kevin Kelly.

Συνοπτικά και εγώ θα απαντήσω, πως όσους αναφέρεις ως "ειδήμονες" είναι αντιθέτως καρα-άσχετοι του κερατά και φοβιτσιάρηδες και ό,τι λένε είναι σκουπίδια. Ειδικά ο Elon Musk είναι για πολλά lolz. Αναρωτιέμαι εάν αυτά που είπε τα είπε αφού είχε πιει 2-3 γάρα ή είχε ρουφήξει 2-3g κοκα.

[dimitri_ns]

Εγώ προσωπικά πιστεύω, προβλέπω και δηλώνω ευθρασώς ότι δουλειά για τους ανθρώπους θα υπάρχει στον αιώνα τον άπαντα και όχι μόνο δεν θα εκλείψει αλλά ολοένα και θα αυξάνεται η ζήτηση.

Θα υπάρχει μόνο στον τομέα της όποιας έρευνας (ακόμα και των βυθών)
Στα υπόλοιπα, συζητήσιμο

Διαπιστώνω ότι στο μυαλό σου έχεις την εξίσωση
Δουλειά=Χρήμα προς επιβίωση + Χρήμα για ότι άλλο.

Γιατί χρειάζεται να δουλεύεις ?
Θα μπορούσες σε όλη την ζωή σου να ασχολείσαι απλά με ότι κατά καιρούς σε ενδιαφέρει.

Η έννοια που κυριαρχεί είναι χρήμα και είναι φτιαχτή, πλασματική.
Θα μπορούσε πχ το ελάχιστο εγγυημένο εισόδημα να είναι 1.000.000 € τον χρόνο.
Εφ'όσον δεν ενοχλείς.

Η όλη συζήτηση περί δουλειάς μου θυμίζει το γνωστό "Κ@λοι υπάρχουνε, λεφτά δεν υπάρχουνε"

Με μία μικρή παράφραση, "Δουλειές υπάρχουνε, λεφτά δεν υπάρχουνε"

Αν βέβαια εννοείς ότι δουλειά=ευχαρίστηση και όποτε θέλω, τότε συμφωνώ.

[anon]

Δεν βρίσκω που διαφωνείς με αυτά που λέει, αντιθέτως τα ενισχύεις λέγοντας ότι είναι πολύ εξειδικευμένα σε ένα πολύ στενό αντικείμενο (noarrow domain στην lingo των AI researchers). Ήδη εδώ και πολλές δεκαετίες οι υπολογιστές είναι πολύ, πολύ ανώτεροι και ταχύτεροι σε εξειδικευμένα στενά αντικείμενα, όπως π.χ. το κομπουτεράκι κάνει μαθηματικές πράξεις κατά πολύ ταχύτερα από τον άνθρωπο και κυκλοφορεί στην κοινωνία μας εδώ και πάνω από 40-50 χρόνια;

Φυσικά, και οι επιπτωσεις στην κοινωνία θα είναι νομίζω καταστροφικές. Εαν ο πληθυσμός της γής ήταν στο 1/10 ίσως όχι. Αλλα με έναν πληθυσμό που συνεχώς μεγαλώνει, οτιδήποτε μειώνει την ανάγκη ανθρώπινου δυναμικού, τόσο πολύ, τόσο απότομα, σίγουρα θα δημιουργήσει σοβαρά προβληματα. Ενα το κρατούμενο.

Αυτό ακριβώς είναι που ΔΕΝ πρόκειται να συμβεί. Όλα τα επιχειρήματα που δίνει το άρθρο ισχυρίζονται πως ακριβώς αυτό είναι απλώς αδύνατον. Δεν γίνεται να πάρεις τα εξειδικευμένα συστήματα του google/tesla/waymo self-driving AI (κάμερες, αισθητήρες, εξειδικευμένοι αλγόριθμοι που αναλύουν τα δεδομένα τους, εξειδικευμένα τσιπς κλπ), το google photos (face and pattern recognition ML model) να τα ενώσεις (πως????) με τον IBM watson και ξαφνικά να έχεις ένα general AI που οδηγεί, μαγειρεύει, χτίζει σπίτια, εκπονεί θεωρητική φυσική και επεκτείνει τα μαθηματικά. Γιατί δεν γίνεται; Γιατί το γενικό intelligence που μπορεί να λειτουργήσει σε όλα τα domains (αντικείμενα, θέματα, πλαίσια, επίπεδα κλπ) ανεξαρτήτως εάν τα γνωρίζει ή όχι (δηλαδή έχει την δυνατότητα να μάθει να λειτουργεί και σε ολοκαίνουρια νέα domains που επινοήθηκαν από άλλους, π.χ. μαθηματικά μοντέλα, θεωρίες κ.α.) είναι κάτι το εντελώς διαφορετικό από την φύση του υπαρκτού εξειδικευμένου AI που το προγραμματίζεις (ναι το προγραμματίζεις εσύ ακόμα και αν είναι "Machine Learning", γιατί αυτό και αν είναι BS που νομίζει ο κόσμος ότι "μαθαίνουν μόνα τους") για να κάνει μία συγκεκριμένη δουλειά σε ένα συγκεκριμένο και πολύ στενό τομέα/αντικείμενο.

Υπάρχει επιστημονικό δεδομένο που υποστηρίζει τα παραπάνω; Η' η άποψη ενός δημοσιογράφου; Μοιάζει περισσότερο φιλοσοφικό δοκίμιο το πόνημά του, μη στηριζόμενο σε επστημονικά δεδομένα.
Καταρχήν, ξέρουμε ότι σε συγκεκριμένους τομείς, πολύ στενού εύρους, η ΑΙ είναι πιο "καλή" απο τον άνθρωπο. Χαίρομαι που συμφωνείς σε αυτό. Επίσης ξέρουμε, και εαν θες μπορώ να σου βρώ άπειρα επιστημονικά άρθρα, ότι η ΑΙ μπορεί να εξελίσεται προς το καλύτερο, στα στενά πλαίσια. Ομως, μπορεί (και αυτό ίίσως δεν το ξέρεις) η ΑΙ να ασχολείται πλέον με πολύ γενικευμένα θέματα, όχι στενού εύρους, χωρίς να ξέρει τίποτα για αυτά, και να βελτιώνεται ώσπου να ξεπερνά και πάλι τον άνθρωπο. Οπως πχ παιχνίδια. Χωρίς να ξέρει τίποτα απο παιχνίδια, κανόνες, κλπ κλπ κλπ, να γίνεται εξπερ, απο μόνη της.
1. Αρα έχουμε ΑΙ πολύ πιο γενικού σκοπού, που μπορεί να βελτιώνεται
2. Ο περιορισμός προς το παρόν είναι ότι δεν χωρά μια ΑΙ σε λογικά οικονομικά και χρονικά πλαίσια που να προσομειώσει τον άνθρωπο. Μπορεί να χρειάζεται δις, και με την τρέχουσα τεχνολογία για να αναπτύξεις πχ την ευφυία ενός δεκάχρονου μπορεί να πάρει 50 χρόνια. Οπως και ναχει, ακόμα δεν είμαστε εκεί.
3. Ολοι οι επιστήμονες αλλά και άνθρωποι της τεχνολογίας, σχεδόν όλοι, κρούουν τον κώδωνα του κινδύνου. ΕΙναι φοβιτσιάρηδες; Δεν ξερουν τι τους γίνεται; Αφήνω τα ερωτήματα αυτά στον οποιοδήποτε αναγνώστη,

Νομίζεις ότι έχει άγνοια γιατί πολύ απλά δεν κατανόησες το επιχείρημα και το τι είπε. Το θεωρητικό ισοδύναμο ισχύει μόνο για το αποτέλεσμα και όχι για το πότε θα τελειώσουν τον υπολογισμό. Ο χρόνος και τα συμβάντα στο σύμπαν μας εξελίσσονται σε 1 δευτερόλεπτο ανά δευτερόλεπτο (time runs at 1 second per second by definition). Εάν θέλεις να φτιάξεις το οτιδήποτε που θα κάνει έναν υπολογισμό που θα αφορά τον φυσικό κόσμο και θα πρέπει να αντιδράει μέσα σε αυτόν, θα πρέπει να είναι real time, δηλαδή θα πρέπει να υπολογίζει το αποτέλεσμα το ίδιο ή και γρηγορότερα από το 1 second per second. Εάν κάνει έστω και λίγο παραπάνω τότε πάπαλα, δεν θα μπορεί να λειτουργήσει στον φυσικό μας κόσμο γιατί θα αρχίσει ολοένα και περισσότερο να χάνει "έδαφος" (να μένει πίσω), και σε λίγη ώρα απλά θα αντιδράει μετά από ολόκληρα δευτερόλεπτα ή ακόμα και λεπτά και όσο πάει τόσο πιο αργό θα γίνεται. Δηλαδή θα είναι άχρηστο. Τέλος το έργο, κλείνουμε τα φώτα και πάμε σπίτια μας.

Τεράστιο ΜΕΓΑ λάθος εδώ. Θα στο κάνω λιανά. Ο άνθρωπος, μέχρι να ανακαλύψει την φωτιά, πως να αναβει μόνος του φωτιά, του πήρε μερικές εκατοντάδες χιλιάδες χρόνια. Μεχρι να κάνει τα πρώτα εργαλεία απο πέτρα, μερικές δεκάδες χιλιάδες χρόνια. Μεχρι να κάνει τα πρώτα εργαλεία και όπλα απο χαλκό και ορείχαλκο και να ανακαλυψει την γεωργία, άλλες μερικές χιλιάδες χρόνια. Τον σίδηρο, τις τέχνες τον πολιτισμό μερικούς αιώνες.

Οπως ο άνθρωπος, έτσι και η ΑΙ, μαθαίνει. Μπορεί σε πρώτη φάση, για κάτι που ο άνθρωπος χρειάζεται μερικά δευτερόλεπτα, να κάνει μερικές ώρες. Την επόμενη φορά, θαναι λεπτά. Μετά δευτερόλεπτα. Και μετά ίσως κλάσματα δευτερολέπτου. Το είδαμε αυτό, σε όλες τις περιπτώσεις 'στενού εύρους'. Γιατί λοιπόν, και με ποιά επιχειρηματολογία, η ΑΙ, θα πρέπει ναναι στάσιμη, πάντα, σε ένα δεδομένο χρόνο ως αποτέλεσμα "σκέψης"; Και δεν βάζω μέσα την περίπτωση εξέλιξης της τεχνολογίας (σαν hardware) ή της αύξησης της υπολογιστικής ισχύος (ως cores/μνήμη στο σύνολο).

Μην χρησιμοποιείς strawman τακτικές, δεν καταφέρνεις τίποτα.

Οταν η επιχειρηματολογία στηρίζεται σε μη επιστημονικα δεδομένα, δεν διαφέρει τίποτα απο τον μουσουλμάνο ιερέα που έλεγε ότι η Γή είναι επίπεδο, γιατί οι ουρανοί περιστρέφονται γύρω απο την Μέκκα, επειδή έτσι λέει το Κοράνι. Δεν ειναι strawman τακτική, απλά δεν διαφέρει ο άνθρωπος απο αυτούς που υποστηρίζουν ότι η Γή είναι επίπεδη.

Και με αυτή σου την παράγραφο καταρρίπτεις πλήρως την αρχική σου θέση όπου ισχυρίζεσαι ότι η 'τεχνολογική μοναδικότητα' (technological singularity) είναι δυνατή και είναι θέμα χρόνου για να γίνει. Όλη η ουσία της είναι η έκρηξη της νοημοσύνης που θα γίνει μέσω της εκθετικά αυξανόμενης νοημοσύνης (AI self-replicating and self-redesigning) που θα οδηγήσει σε αυτήν.

Εκθετικά αυξανόμενη σημαίνει ότι δεν είναι ότι θα φτάσει μόνο 180 IQ, ούτε αν ότι θα φτάσει 240 ή 300 ή και 500 IQ, εκθετικά σημαίνει ότι θα πολλαπλασιάζεται κάθε φορά με έναν ολοένα και γρηγορότερο ρυθμό και μέσα σε λίγες μόνο επαναλήψεις θα έχει φτάσει με έναν αδιανόητα φρενήρη ρυθμό, μέσα σε λίγα δευτερόλεπτα να ξεπεράσει τις 20 και πλέον ΤΑΞΕΙΣ ΜΕΓΕΘΟΥΣ υψηλότερου IQ. Δηλαδή μιλάμε για ΤΡΙΣΕΚΑΤΟΜΜΥΡΙΑ ΕΠΙ ΤΡΙΣΕΚΑΤΟΜΜΥΡΙΩΝ IQ. π.χ. 10²⁰, ή αλλιώς:

1,000,000,000,000,000,000,000 IQ

Και δε σταματάει εκεί γιατί αμέσως μετά, μετά από κλάσματα του δευτερολέπτου, αυτό το AI θα δημιουργήσει ένα νέο που θα έχει το διπλάσιο IQ του, ναι αυτό το τεράστιο νούμερο από πάνω θα γίνει διπλάσιο και αυτό θα συνεχίζεται και θα συνεχίζεται. Αντιλαμβάνεσαι τώρα το γελοίο του πράγματος και γιατί δεν είναι δυνατόν αυτό να γίνει ποτέ;

Όπως και να έχει πάντως ένα 200 IQ, δεν πρόκειται να φέρει την καταστροφή που νομίζεις, ούτε καν δηλαδη. Ή απόδειξη είναι απλή, ήδη υπάρχουν άνθρωποι και πολλοί μάλιστα που έχουν 200 IQ, δεν τους είδα να απειλούν την ανθρωπότητα σε καμία περίπτωση.

ΟΚ, λάθος μου που είπα εκθετική. Θες γραμμική; Θες λογαριθμική; Το εκθετική το χρησιμοποίησα γιατί έτσι καταλαβαίνει ο κόσμος ο περισσοτερος, έχει περάσει στην καθομιλουμένη. Αν θες να είμαστε μαθηματικά πιό σωστοί, αυτό που θα έπρεπε να πω είναι μια λογαριθμική συνάρτηση αλλά με όριο να τείνει σε έναν αριθμό σίγουρα πολύ πολύ περισσότερο του ανθρώπου, μιας και ήδη είδαμε ότι στο στενό εύρος ήδη το καταφέρνει, άρα μένει η γενίκευση αυτού.

Αυτό λέμε, ο τοίχος όχι μόνο "θα βρεθεί", έχει βρεθεί ήδη εδώ και δεκαετίες. Όπως σωστά είπες και για τον άνθρωπο, υπάρχει πλαφόν στα πάντα, ακόμα και στο AI. Οι λόγοι είναι οι εξής:

1. υπάρχει απόλυτο όριο ταχύτητας στο σύμπαν μας που είναι ΑΔΥΝΑΤΟΝ να το φτάσεις και να το ξεπεράσεις. η Σταθερά C ή αλλιώς ταχύτητα του φωτός. Δηλαδή στο θεωρητικό σου μοντέλο μίας υπερ-νοήμον τεχνητής νοημοσύνης θα πρέπει να υπολογίσεις το φυσικό μέγεθός της σε συνάρτηση με την ταχύτητα επικοινωνίας των επιμέρων στοιχείων της με όριο την σταθερά C. Δεν ξέρω ποιος θα είναι ο απόλυτος αριθμός, αλλά με απόλυτη σιγουριά μπορώ να σου πω ότι θα είναι πεπερασμένος.
2. Και αν προσπαθήσεις να διογκώσεις το φυσικό μέγεθος θα γίνει πιο αργό λόγω του ότι θα πρέπει να διανύσουν περισσότερη απόσταση τα φωτόνια/σωματίδια για να επικοινωνήσουν.
3. Αν δε επιχειρήσεις να συμπυκνώσεις την μάζα σε μικρότερo όγκο, θα χτηπήσεις έναν άλλον τοίχο και θα... δημιουργήθεί μία μαύρη τρύπα. (βλ. https://en.wikipedia.org/wiki/Schwarzschild_radius)

Άρα ότι και να κάνεις, όπως και το οτιδήποτε άλλο πράγμα στο σύμπαν μας, υπάρχει πλαφόν και στην τεχνητή νοημοσύνη.



Συνοπτικά και εγώ θα απαντήσω, πως όσους αναφέρεις ως "ειδήμονες" είναι αντιθέτως καρα-άσχετοι του κερατά και φοβιτσιάρηδες και ό,τι λένε είναι σκουπίδια. Ειδικά ο Elon Musk είναι για πολλά lolz. Αναρωτιέμαι εάν αυτά που είπε τα είπε αφού είχε πιει 2-3 γάρα ή είχε ρουφήξει 2-3g κοκα.

1. strawman ?????? Εντάξει, ο Ελον Μασκ μπορεί να κάνει και μπάφους. Ο Γκειτς; Ο Χωκινγς; και ένα σωρό άλλοι... Ολοι με μπάφους ειναι;
2. Κάνεις πολλές παραδοχές, που το πιθανότερο είναι να μην ισχύουν. Σαφώς υπάρχουν φυσικοί περιορισμοί, αλλά δεν είναι ότι καλύτερο ο αθρώπινος εγκέφαλος. Ξέρεις στα πόσα Mhz ή GΗz "δουλεύει"; Hint: Δεν έχει καθόλου πρόθεμα, είναι σκέτο Hz..... Σκέψου λοιπόν το ισοδύναμο, σε GigaHertz. Ακόμα και εαν φτιαχτεί "εγκέφαλος", στο μέγεθος ανθρώπινου (έτσι για να σε φτιάξω στο θέμα μεγέθους) που λές, που ναναι κατώτερος του ανθρώπινου, ένα εκατομύριο φορές, βάζοντας να δουλέψει στα 100 μόλις Mhz, έχουμε και πάλι ξεπεράσει τον ανθρώπινο Δεν σε πάω καθόλου στην περίπτωση Ghz (εκεί θα είχαμε σοβαρό θερμικό πρόβλημα, άλλου παπά ευαγγέλιο).
3. Ο άνθρωπος δεν μπορεί να λειτουργήσει "συλλογικά". Δεν έχει συλλογική συνείδηση ή σκέψη, παρα μόνο μέσω των γραπτών, της επικοινωνίας (που γίνεται με πολύ αργό τρόπο) κλπ κλπ κλπ. Σκέψου όμως ότι μπορεί να υπάρχει "συλλογική" ΑΙ. Και μπορεί να υπάρχουν φυσικοί περιορισμοί, αλλά η μετάδοση πληροφοριών υπερέχει κατα πολύ αυτή των ανθρώπων, και σε ταχύτητα και σε ακρίβεια.

- - - Updated - - -

Θα υπάρχει μόνο στον τομέα της όποιας έρευνας (ακόμα και των βυθών)
Στα υπόλοιπα, συζητήσιμο

Διαπιστώνω ότι στο μυαλό σου έχεις την εξίσωση
Δουλειά=Χρήμα προς επιβίωση + Χρήμα για ότι άλλο.

Γιατί χρειάζεται να δουλεύεις ?
Θα μπορούσες σε όλη την ζωή σου να ασχολείσαι απλά με ότι κατά καιρούς σε ενδιαφέρει.

Η έννοια που κυριαρχεί είναι χρήμα και είναι φτιαχτή, πλασματική.
Θα μπορούσε πχ το ελάχιστο εγγυημένο εισόδημα να είναι 1.000.000 € τον χρόνο.
Εφ'όσον δεν ενοχλείς.

Η όλη συζήτηση περί δουλειάς μου θυμίζει το γνωστό "Κ@λοι υπάρχουνε, λεφτά δεν υπάρχουνε"

Με μία μικρή παράφραση, "Δουλειές υπάρχουνε, λεφτά δεν υπάρχουνε"

Αν βέβαια εννοείς ότι δουλειά=ευχαρίστηση και όποτε θέλω, τότε συμφωνώ.

Ενόψει του μελλοντικού κινδύνου απώλειας τεράστιου αριθμού θέσεων εργασίας, έχουν πλέον γίνει όχι απλα'προτάσεις αλλά και πιλοτικά εφαρμοστεί τεχνικές με το βασικό εισόδημα.
Δυστυχώς όμως το βασικό εισόδημα δεν θαναι της μορφής του 1 εκ. τον χρόνο, αλλά κάτι στην μορφή το πολύ 1000 ευρώ τον μήνα, και αυτό σε χώρες όπου τα 12.000 τον χρόνο είναι το σημείο φτώχνεις (πχ Φινλανδία, όπου χρησιμοποιήθηκε πιλοτικά).

Δεν νομίζω ότι η όλη προσπάθεια να γίνεται προς το καλό της ανθρωπότητας, μιας και θα μπορούσε πολύ άνετα η χρήση της τεχνολογίας να μειώσει την ανθρώπινη εργασία αλλά με τις ίδιες απολαβές (το όνειρο του Κευνς). Στην πράξη βλέπουμε ότι είτε θα είσαι ανεργος με τίποτα, είτε εργαζόμενος, ξεζουμισμένος. Στο μέλλον θα έχουμε περισσότερο ξεζούμισμα, απο τους πιο λίγους εργαζόμενους, οι οποίοι θα ξεζουμίζονται οικειοθελώς (μαζοχισμός ένα πράγμα) ελέω της δαμόκλειας σπάθης της ανεργίας. Οι υπόλοιποι ίσως στο όριο φτώχειας, και μεταβίβαση σταδιακά του όποιου πλούτου (πχ real estate) σε όλο και λιγότερα "χέρια". Με τις σύγχρονες μάλιστα αντι-δημοκρατικές τάσεις, εαν αυτές υλοποιηθούν, ελλείψει δημοκρατίας, ο κόσμος δεν θα έχει πλέον την δυνατότητα με εκλογές να υπερασπίσει τα συμφέροντά του. Εαν κάτι τέτοιο συμβεί....

[dimitri_ns]

Ενόψει του μελλοντικού κινδύνου απώλειας τεράστιου αριθμού θέσεων εργασίας, έχουν πλέον γίνει όχι απλα'προτάσεις αλλά και πιλοτικά εφαρμοστεί τεχνικές με το βασικό εισόδημα.
Δυστυχώς όμως το βασικό εισόδημα δεν θαναι της μορφής του 1 εκ. τον χρόνο, αλλά κάτι στην μορφή το πολύ 1000 ευρώ τον μήνα, και αυτό σε χώρες όπου τα 12.000 τον χρόνο είναι το σημείο φτώχνεις (πχ Φινλανδία, όπου χρησιμοποιήθηκε πιλοτικά).

Δεν νομίζω ότι η όλη προσπάθεια να γίνεται προς το καλό της ανθρωπότητας, μιας και θα μπορούσε πολύ άνετα η χρήση της τεχνολογίας να μειώσει την ανθρώπινη εργασία αλλά με τις ίδιες απολαβές (το όνειρο του Κευνς). Στην πράξη βλέπουμε ότι είτε θα είσαι ανεργος με τίποτα, είτε εργαζόμενος, ξεζουμισμένος. Στο μέλλον θα έχουμε περισσότερο ξεζούμισμα, απο τους πιο λίγους εργαζόμενους, οι οποίοι θα ξεζουμίζονται οικειοθελώς (μαζοχισμός ένα πράγμα) ελέω της δαμόκλειας σπάθης της ανεργίας. Οι υπόλοιποι ίσως στο όριο φτώχειας, και μεταβίβαση σταδιακά του όποιου πλούτου (πχ real estate) σε όλο και λιγότερα "χέρια". Με τις σύγχρονες μάλιστα αντι-δημοκρατικές τάσεις, εαν αυτές υλοποιηθούν, ελλείψει δημοκρατίας, ο κόσμος δεν θα έχει πλέον την δυνατότητα με εκλογές να υπερασπίσει τα συμφέροντά του. Εαν κάτι τέτοιο συμβεί....

Περί αυτού πρόκειται.
Από αυτόν που δεν έχει τίποτα και επομένως τίποτα να χάσει, κινδυνεύουμε
Δώσε κάτι και βάλτους να διαίρει και βασίλευε, γιατί εσύ παίρνεις 310 κι εγώ μόνο 300

[MNP-10]

Το οτι ενα AI συστημα ειναι εξειδικευμενο σε κατι δε το σταματαει να μπορει να αποκτησει ενα ευρυτατο φασμα λειτουργιας. Το μονο skill που χρειαζεται ειναι ταχυτατο learning & self-learning.

Τι χρειαζεται ο ανθρωπος για να αποκτησει ολες τις δεξιοτητες που εχει? Παρατηρει το περιβαλλον, λαμβανει ερεθισματα και γνωσεις, και μετα τα αξιοποιει. Αυτο ειναι κατι που μπορει να γινει και προγραμματιστικα. Απλα το AI μπορει να κανει πολυ περισσοτερες παρατηρησεις, να λαβει πολυ περισσοτερα ερεθισματα και γνωσεις και να αξιοποιησει πολυ καλυτερα ολα τα παραπανω. Το αποτελεσμα θα ειναι ευφυιες τυπου mr. data του star trek, που αμα συνδυαστουν με ενα ρομποτικο σωμα, θα κανουν ΤΑ ΠΑΝΤΑ. Απ'το να φτιαχνουν παρομοια ρομποτ και να αυτοεπισκευαζονται, μεχρι να κανουν τις δουλειες του σπιτιου ή του εργοστασιου ή του χωραφιου, μεχρι οτι θελει ο καθενας. Με ενα τετοιο "προσωπικο σκλαβο" εχουν λυθει ολα τα ζητηματα. Γιατι να πας στο συνεργειο να φτιαξεις το αμαξι αμα μπορει να στο φτιαξει ο mr. data που εχεις ως οικιακο βοηθο? Γιατι να πας να δουλεψεις οταν αυτος θα μπορει να κανει τα παντα? Μεχρι και για gold mining θα τα στελνουν σε δυσβατα μερη για να κανουν αυταποσβεση (με αποτελεσμα να αυξηθει ο πληθωρισμος του χρυσου).

Οποιος νομιζει οτι αυτο δε γινεται, he's in for a shock. Ειναι απλα θεμα χρονου.

[anon]

κράτα όρεξη ότι θα έχεις προωπικό σκλάβο.
Οχι ότι η τεχνολογία δεν θα πάει εκεί.
Αλλά όπως φαίνεται θα υπάρχει ένας νέος φεουδαρχισμός. Ενα πολύ μικρό ποσοστό, εξαιρετικά μικρό, πλουσίων, που θα έχουν όλο τον πλούτο της γής, ενα άλλο μικρο σχετικά ποσοστό που θαναι τα τσιράκια και θα ζούν καλά, τα τσιράκια θαναι αυτά που χρειάζονται και μόνο, και τέλος ένα συντριπτικό ποσοστό που θάναι η πλέμπα, οι φτωχοί χωρίς ήλιο και ελπίδα, που θα ζουν σε συνθηκες φτώχειας. Και που το καλύτερο που θα μπορούν να ελπίζουν είναι να βρεθούν στην θέση των δεύτερων.

Γιατί αυτό; Μα όσοι έχουν ήδη πλούτο έχουν το απαραίτητο κεφάλαιο. Οταν πλέον η οικονομία θαναι αποκλειστικά εντάσεως κεφαλαίου, δεν θα χρειάζονται άνθρωποι όπως τώρα, αρκεί να έχεις κεφάλαιο (δηλαδή οι πλούσιοι), τότε όλες τις δουλειές θα τις καλύπτουν αυτοί που έχουν χρήματα. Κάποιες λίγες μπορεί να μείνουν και για ανθρώπους, αλλά θαναι λίγες. πολύ λίγες.

Λόγω εντάσεως κεφαλαίου λοιπόν, όλος ο παραγώμενος πλούτος θα ξαναγυρνά πίσω στους ίδιους λίγους ανθρώπους και αυτό θα μεταφράζεται με την αύξηση του πλούτου τους αλλά και με την εξαγορά του όποιου πλούτου έχει απομείνει στα χέρια των πολλών φτωχών (κυρίως real estate). Αρα αυτό σημαίνει ότι απο την στιγμή που αρχίσει η οικονομία ναναι κατα το συντριπτικό ποσοστό εντάσεως κεφαλαίου, η αναδιανομή του πλούτου προς τα χέρια των λίγων και ισχυρών θαναι όλο και πιο γρήγορη και μαζική. Και όταν εξαντλήσουν τις εξαγορές στις προηγμένες χώρες, θα συνεχίσουν και στις χώρες του 3ου κόσμου/ Ηδη εν μέρει το βλέπουμε αυτό, όπου εταιρίες κολοσσοί αγοράζουν real estate στις μεγάλες πόλεις της δύσης ως επένδυση ανεβάζοντας τις τιμές σε δυσθεώρατα ύψη (ένα παιχνίδι είναι και αυτό για αυτές, όπως το χρηματιστήριο, μόνο που ελέω τραπεζών και δανείων στεγαστικών και την ανάγκη ύπαρξης και βιωσιμότητας των τραπεζών, δεν νομίζω να σκάσει η φούσκα αυτή εύκολα)

Τελικά δηλαδή το όλο πράγμα, σε βάθος χρόνου, οδηγεί σε ένα δυστοπικο μέλλον, όπως περιέγραψα αρχικά, όπου ένα πολύ πολύ μικρό ποσοστό του πληθυσμού του πλανήτη, πχ το 1% ή 2% θα έχει τον πλούτο (και το ποσοστό αυτό θα βαινει συνεχώς μειούμενο, there will be only one! ) ένα σχετικά μικρο ποσοστό θαναι τα αναγκαία τσιράκια, πχ 5% του πληθυσμού, και όλοι οι υπόλοιποι, κάπου 94% θαναι η πλέμπα που θα ζεί με κάποιο επίδομα σε συνθήκες απόλυτης ένδειας. Με τέτοια εξέλιξη της ΑΙ, θα έχει και Robocops ώστε να διασφαλίζεται η ησυχία των λίγων απο πιθανές κινητοποιήσεις και αντιδράσεις των πολλών, και όλα μέλι γάλα.

ΥΓ1. Αν και φαίνεται πολύ κινηματογραφικό σενάριο, δεν χρειάζεται να φτάσουμε να έχουμε ρομπότ όπως περιέγραψε ο MNP-10 προκειμένου να συμβεί αυτό. Αρκεί να έχουμε ΑΙ, στενού εύρους δεξιοτήτων, αλλα αρκετά ικανές ώστε να αντικαταστηουν την ανθρώπινη εργασία σε μεγάλο αριθμό θέσεων εργασίας σήμερα. Για να δούμε, έχουμε σαφώς τον κίνδυνο στον χωρο της επαγγελματικής οδήγησης. Ο χώρος της εστίασης, ειδικα στα ταχυφαγεία, πλέον αποτελεί στόχο υλοποίησης με ΑΙ για μείωση προσωπικού. Βλέπουμε προσπάθεια επίσης στον χώρο των logistics μέχρι και την τελική διαδρομή (ντελιβεράδες). Επίσης στον χωρο της υγείας (ιατρικές διαγνώσεις, ρομποτικά χειρουργία). Στην εκπαίδευση είναι λίγο δύσκολο ακόμα αλλά γίνεται προσπάθεια στην 3βάθμια εκπαίδευση (MOOC). Σούπερ μάρκετ και ηλεκτρονικό εμπόριο εξελίσονται συνεχώς και η αυτοματοποίηση εκεί απλά κόβει και άλλες παραδοσιακές θέσεις εργασίας. Τέλος τέλος, πολλοί υπάλληλοι γραφείου "αυτοματοποιούνται". Ηδη πχ χρηματιστηριακές απασχολούν πολύ λιγότερους απο πριν, μιας oi brokers ειναι πλέον έξυπνα συστήματα. Το γεγονός ότι επενδύονται δισεκατομύρια, μόνο στον χώρο της αυτόνομης οδήγησης αρθροιστικά μιλάμε για δεκάδες αν όχι πάνω απο 100, δισεκατομύρια, απο εταιρίες που δεν πετάνε στον αέρα τα λεφτά τους (Google, Uber και όλες οι αυτοκινητοβιομηχανίες) πάει να πεί ότι υπάρχει "ψωμι" εκεί.

- - - Updated - - -

Oσον αφορά προς τα που πάνε...
https://www.sciencedaily.com/release...1219115611.htm

- - - Updated - - -

Doctors as we now know them will become obsolete eventually

https://www.sciencedaily.com/release...1107184903.htm