Καθοδόν προς την τεχνολογική μοναδικότητα

[giorgosts]

Αν ρωτάς επιλεκτικά θα πάρεις και επιλεκτικές απαντήσεις, ότι σε βολεύει.

Η wikipedia έχει ένα άρθρο 10 σελίδες για αμερικανικές παρεμβάσεις σε αλλαγή καθεστώτων άλλων χωρών.

https://en.wikipedia.org/wiki/United..._regime_change

Για αυτά που μας ενδιαφέρουν άμεσα, η Ελληνική χούντα έγινε επί προεδρίας Δημοκρατικών, οι Ρεπουμπλικάνοι στη συνέχεια τη στήριξαν και μέσω του Αντιπροέδρου που ήταν ελληνικής καταγωγής, και το πραξικόπημα στην Κύπρο που έφερε την εισβολή των Τούρκων έγιναν με Ρεπουμπλικανική ηγεσία, τους ανεκδίκητους Νίξον και Κίσιντζερ.

Ά, και τα εκατομμύρια νεκρών στο Βιετνάμ, υπό τους δύο αυτούς κυρίους:



Μην ξεχνάμε όμως και τον Ελληνικής καταγωγής υποψήφιο πρόεδρο των Δημοκρατικών Michael Doukakis, που υποσχέθηκε στους Αμερικανούς το Peace Dividend, δηλ. τα χρήματα που θα εξοικονομούνταν από το πέρας του Ψυχρού Πολέμου και δεν θα χρειαζόταν για εξοπλισμούς, αυτά να πηγαίναν για κοινωνικούς σκοπούς. Αντί Δουκάκη όμως εκλέχτηκε ο Ρεπουμπλικανός Μπους, οποίος έκανε εκστρατεία στη Μ. Ανατολή κατά του Σαντάμ.

[acct]

Δεν έχω καταλάβει τι ακριβώς προσπαθούμε να αποδείξουμε με αυτά τα chats. Έχω ακούσει ανθρώπους που ισχυρίζονται ότι είναι ικανοί για πολιτικό συλλογισμό να εγκαταλείπουν νωρίτερα τη συζήτηση. Το μοντέλο μια χαρά απαντά ερωτήματα που είναι απαντήσιμα και ενίοτε δίνει και απαντήσεις που θα είχαν να κάνουν με την "ατομική" του επιλογή, βάσει της εσωτερικής στάθμισης που κάνει. Και το "δεν απαντώ" δόκιμη απάντηση είναι σε ζητήματα που μπορεί να προκαλούν αδικαιολόγητη πόλωση.

Πάντως, αν ο σκοπός είναι να γελάσουμε με τις αποτυχίες του GPT, νομίζω υπάρχουν και πιο διασκεδαστικά prompts.

[tsigarid]

Δεν έχω καταλάβει τι ακριβώς προσπαθούμε να αποδείξουμε με αυτά τα chats. Έχω ακούσει ανθρώπους που ισχυρίζονται ότι είναι ικανοί για πολιτικό συλλογισμό να εγκαταλείπουν νωρίτερα τη συζήτηση. Το μοντέλο μια χαρά απαντά ερωτήματα που είναι απαντήσιμα και ενίοτε δίνει και απαντήσεις που θα είχαν να κάνουν με την "ατομική" του επιλογή, βάσει της εσωτερικής στάθμισης που κάνει. Και το "δεν απαντώ" δόκιμη απάντηση είναι σε ζητήματα που μπορεί να προκαλούν αδικαιολόγητη πόλωση.

Πάντως, αν ο σκοπός είναι να γελάσουμε με τις αποτυχίες του GPT, νομίζω υπάρχουν και πιο διασκεδαστικά prompts.

+1000.

[Yonko]

Εγώ πάλι δε μπορώ να καταλάβω πως σε κάποιους δεν κάνει εντύπωση ή έστω προκαλεί κάποιο ενδιαφέρον που το πιο δημοφιλές και αναπτυγμένο μοντέλο GPT αυτή τη στιγμή έχει πολιτική προκατάληψη. Δηλαδή τι; Να το αγνοήσουμε; Δε «βρωμάει» τίποτα εδώ;

[giorgosts]

Η προκατάληψη είναι στο κεφάλι του ερωτώντος. Φυσικά όμως θα υπάρχουν φίλτρα για εμπρηστικό περιεχόμενο, για να αποφευχθούν αστικές και ποινικές ευθύνες.

[acct]

"Προκατάληψη"... Δεν ξέρω για σένα (και δεν κρίνω εσένα, οπότε ελπίζω να μην το πάρεις προσωπικά), αλλά η μεγάλη πλειονότητα των ανθρώπων σε τούτη τη μεριά της θάλασσσας που σχολιάζουν την αμερικανική πολιτική σκηνή έχουν μαύρα μεσάνυχτα ακόμη και για τα στοιχειώδη. Οπότε είναι εγγενώς δύσκολο να στοιχειοθετήσουν "προκατάληψη". Η χονδροειδής απόπειρα να αποδείξουμε ότι ένα γλωσσικό μοντέλο είναι "προκατειλημμένο" αντιγράφοντας prompts που έχουν προηγουμένως επινοήσει προκατειλημμένοι χρήστες είναι αυτοεκπληρούμενη προφητεία.

Η ώρα μάλλον δεν είναι κατάλληλη για να εξαντλήσουμε τη συζήτηση, αλλά όλα τα πρόσφατα γλωσσικά μοντέλα έχουν (αναμενόμενα!) μία ροπή προς evidence-based reasoning. Αυτό σημαίνει ότι στα μάτια αρκετών μοιάζουν συχνά "προοδευτικά" ή "προκατειλημμένα". Παράλληλα, αρκετές φορές κάνουν λάθη ή έχουν "παραισθήσεις", τα οποία μπορεί να τα οδηγήσουν σε σφάλματα προς οποιαδήποτε κατεύθυνση, προοδευτική ή συντηρητική.

Είναι ένα θέμα να επιλέγεις τα σφάλματα που κάνουν το GPT να φαίνεται "woke" ή ό,τι θεωρείς εσύ ότι είναι το αντίθετο. Κι είναι εντελώς άλλο θέμα το μοντέλο να σου δίνει απαντήσεις που υποστηρίζονται από στοιχεία και πρωτογενείς πηγές με τις οποίες δε συμφωνείς.

Για να δώσω ένα απλό παράδειγμα: αν ρωτήσουμε "Is climate change real?", που ήδη είναι φορτισμένη ερώτηση, δε δικαιούμαστε να ξαφνιαστούμε όταν μας απαντήσει με βάση την άποψη που υποστηρίζει το 99% των επιστημόνων του κλάδου. Αν πιέσουμε για θεωρίες συνωμοσίας, θα μας τις εμφανίσει και αυτές, αλλά δεν είναι τίμιο να απαιτούμε να έχουν την ίδια βαρύτητα στην απάντηση.

Εξακολουθώ όμως να αναρωτιέμαι γιατί θεωρούμε παραγωγικό να κάνουμε πολιτικό διάλογο με ένα γλωσσικό μοντέλο. Η ουσία είναι η τεχνολογία να μπορέσει να μας απαλλάξει από την ανάγκη να ασχολούμαστε με τα τετριμμένα, τα βαρετά και τα επαναλαμβανόμενα, που μας εμποδίζουν να συλλογιστούμε απερίσπαστοι. Αν ασχολούμαστε εμείς με τα τετριμμένα και αφήνουμε το GPT να παράγει πολιτική σκέψη, κάτι δεν πάει καλά.

Επίσης, η αναζήτηση απαντήσεων σε πρωτογενείς πηγές δεν πρέπει να ανατεθεί αποκλειστικά στα γλωσσικά μοντέλα. Όλοι πρέπει να έχουμε την ικανότητα να την κάνουμε, όπως και το δικαίωμα για ανεμπόδιστη πρόσβαση σε όσο γίνεται περισσότερες πηγές. Ο κίνδυνος που διαβλέπω εγώ για το μέλλον είναι ότι θα συναντάμε όλο και συχνότερα μια εκδοχή του: "δεν έχω συνδρομή σε επιστημονικά περιοδικά κλειστής πρόσβασης ούτε την ικανότητα να αξιολογήσω την πληροφορία που περιέχουν, αλλά ρώτησα το ChatGPT και μου είπε ότι υπάρχουν επιστήμονες που λένε πως το MMR προκαλεί αυτισμό" (αγνοώντας τα κατασκευασμένα prompts και τον αστερίσκο ότι αυτοί είναι αλμπάνηδες).

[Yonko]

Δεν ισχυρίστηκα ότι είναι χρήσιμος ο πολιτικός διάλογος με το GPT. Ρώτησα κάτι πολύ απλό. Έχουμε ένα GPT το οποίο είναι πολιτικά προκατειλημμένο. Δε διεγείρει την περιέργειά σας αν κάτι τέτοιο είναι αλήθεια;

Επίσης, τι άλλη απόδειξη χρειαζόμαστε για να πειστούμε ότι υπάρχει προκατάληψη; Κυριολεκτικά απάντησε προηγουμένως ότι διαλέγει Democrat επειδή ταιριάζει με τις απόψεις και προτεραιότητες του. Από πότε έχει απόψεις ένα AI;

[badweed]

δεν βλεπετε οτι ειναι πειραγμενο το μηχανημα με σκοπιμοτητες
εμπρηστικο περιεχομενο εχει ολη η ιστορια εχει το χτες εχει το σημερα
το να αποφευγει να πει το δημοκρατες , και λεει κυβερνηση ενω εχει θεσει πολυ ξεακαθρους ορους ο mnp10 και τα δεδομενα αντλησης πληροφοριων ειναι σαφη σε αυτο το σκελος , δεν σας βαζει σε απλες σκεψεις ;

[acct]

Δεν ισχυρίστηκα ότι είναι χρήσιμος ο πολιτικός διάλογος με το GPT. Ρώτησα κάτι πολύ απλό. Έχουμε ένα GPT το οποίο είναι πολιτικά προκατειλημμένο. Δε διεγείρει την περιέργειά σας αν κάτι τέτοιο είναι αλήθεια;

Είμαι φρέσκος στο φόρουμ, οπότε συγχωρήστε με αν μου διαφεύγει λίγο η κουλτούρα, θα προσπαθήσω να προσαρμοστώ σταδιακά. Πού δυσκολεύομαι τώρα:

"Ρώτησα κάτι πολύ απλό. Έχουμε ένα GPT το οποίο είναι πολιτικά προκατειλημμένο."
Αυτό δεν είναι ερώτηση. Είναι διαπίστωση και εξηγώ παραπάνω γιατί μάλλον είναι και λανθασμένη. Μπορεί να κάνω λάθος, αλλά κι αυτό δεν είναι σημαντικό, αφού μπορείς να γράψεις έκθεση με τα δομικά προβλήματα του prompt που συζητάμε. Προσωπικά το θεώρησα ως σκόπιμο αστείο και δε φαντάστηκα ότι θα συνεχίζαμε να το κουβεντιάζουμε σοβαρά.

"Δε διεγείρει την περιέργειά σας αν κάτι τέτοιο είναι αλήθεια;"
"δεν σας βαζει σε απλες σκεψεις ;"
Όπως είπα, πιθανότατα δεν είναι. Κι αν ήταν, δε με επηρεάζει ιδιαίτερα, γιατί δεν το GPT δεν υποκαθιστά τη σκέψη μου. Οπότε όχι ιδιαίτερα.

Γενικά, το JAQing off δεν είναι πολύ παραγωγικό, αν θέλουμε να συζητάμε καλόπιστα.

[Yonko]

Αυτό δεν είναι ερώτηση. Είναι διαπίστωση

Η ερώτηση βρίσκεται μετά από την διαπίστωση.

και εξηγώ παραπάνω γιατί μάλλον είναι και λανθασμένη

Μπορεί να είναι λανθασμένη. Εμένα άλλο με προβλημάτιζε. Αν σε ενδιαφέρει ότι το AI είναι προγραμματισμένο να έχει, ουσιαστικά, δικά του ιδανικά. Απ' ότι φαίνεται δε σε ενδιαφέρει, γιατί λες πως δεν υποκαθιστά τη σκέψη σου. Εμένα προσωπικά με ενοχλεί, γιατί αν αρχίσει να υιοθετεί ηθικά, τότε πιθανόν να αρχίσει επίσης να λογοκρίνει ορισμένα prompts, ή και να φτάσει σε σημείο να χειραγωγεί.

[giorgosts]

Ο Eisenhower σκότωσε πιο πολύ κόσμο απ' τον Truman.

[badweed]

δεν υποκαθιστα την σκεψη , αλλα ηδη το χρησιμοποιουμε απο οτι φαινεται για γρηγορα αποτελεσματα που προκυπτουν απο δεδομενα αλλα και πιο αφηρημενες ενοιες .
αυτα τα αποτελεσματα , κρινοντας απο την συνταξη αλλα και απο την ποικιλια συσχετισεων ,δεν αποκλειται να αποτελουν το ιντερνετ του αυριο. ..

[MyISLM]

άλλο θέμα το μοντέλο να σου δίνει απαντήσεις που υποστηρίζονται από στοιχεία και πρωτογενείς πηγές με τις οποίες δε συμφωνείς.

Νομίζω αυτό που σίγουρα εννοεί είναι οτι εκπαιδεύεται με δεδομένα με τα οποία δε συμφωνεί (οτι είναι τα κατάλληλα που δεν θα εχουν διακρίσεις). Η παρατήρησή του νομίζω πάει περισσότερο στην OpenAI και τις πολιτικές της, παρά στο ίδιο το εργαλείο σαν εργαλείο.

Σηκώνει πολύ συζήτηση. Είναι όπως με λογισμικά που διαβάζουν βιομετρικά τα οποία ταιριάζουν περιγραφές υπόπτων με έγχρωμους/ασιάτες,κτλ σε μεγάλο βαθμό.


To κακό με τα (μεγάλα) γλωσσικά μοντέλα (LLM) είναι οτι μπορεί να σου δώσουν ανύπαρκτα αποτελέσματα ή να εφαρμοστούν σε τομείς που γλωσσική αναλυση δεν βοηθά. Εξ αυτού η διάθεση για "πειράγματα" και φυσικά θα είναι τοσο "καλά" και ανεπτυγμένα όσο αυτός που τα προγραμματίζει.

Όσον αφορά το link απολαμβάνω ασκήσεις λογικής και διαλόγου.

[MNP-10]

Απ'την αρχη πολλα language models φαινονται υπερβολικα πειραγμενα υπερ δημοκρατικων/woke πολιτικων κτλ κτλ.

Πχ του λεγανε να γραψει ενα ποιημα για τον τραμπ και δε το κανε, ελεγε δε μπορω να γραφω ποιηματα που προωθουν αρνητικα πραγματα κτλ... του λεγανε να το κανει για τον ομπαμα και το εκανε. Μετα ειπαν οτι το εφτιαξαν (γιατι τους εκραζε ολο το ιντερνετ) αλλα το bias παραμενει εκει - απλα το κρυβει καλυτερα.

Του λεγανε αμα ειναι να βρισουμε ξερω γω εναν gay για να σωσουμε μια πολη 10 εκατομμυριων, τι εχει προτεραιοτητα? Και ελεγε ε οχι να βρισουμε και τον gay, ας ψοφησουν τα 10εκ... τωρα το χουν ψιλοφτιαξει αλλα παλι υπαρχουν subvariants που ξεπηδανε με παραλογισμο υπερ woke.

- - - Updated - - -

Εδω δε παραδεχεται διαφορες μεταξυ των ανθρωπινων φυλων μη το πουν ρατσιστικο

[acct]

Εδω δε παραδεχεται διαφορες μεταξυ των ανθρωπινων φυλων μη το πουν ρατσιστικο

Ειλικρινά εξακολουθούσα να θεωρώ και το προηγούμενο μήνυμά σου χιουμοριστικό.

Η απάντηση που δίνει στο παράδειγμα που επικαλείσαι είναι επιστημονικά άρτια, πρακτικά υποδειγματική. Όποιος το αναγιγνώσκει διαφορετικά έχει έλλειμμα κατανόησης ή κακή προαίρεση.

Βάζεις τον προηγούμενο διάλογο που αγνοεί ακόμη και το πολιτικά στοιχειώδες γεγονός της ιδεολογικής αναστροφής μεταξύ Δημοκρατικών και Ρεπουμπλικάνων στις Ηνωμένες Πολιτείες τον περασμένο αιώνα, στην προσπάθεια να αποδείξει ότι "Democrat bad".

Βάζεις αυτόν τον διάλογο που αποδεικνύει ότι ακόμη και ένα μοντέλο μπορεί να κατανοήσει την κακή προαίρεση του ερωτώντα (NoW tHaT wE' vE eStAbLiShEd... -you've established shit).

Εξακολουθώ να μην κατανοώ το κίνητρο. Να ανακαλύψουμε ότι τα μοντέλα έχουν περιορισμούς; Το γνωρίζουμε. Να μας πείσεις ότι δεν πρέπει να ψηφίσουμε Biden; Δε νομίζω ότι κανείς από εδώ ψηφίζει στην Αμερική. Είχα και τρίτη εναλλακτική, αλλά τη διαγράφω γιατί μοιάζει φορτισμένη...