Η OpenAI φέρεται να έκανε μια δυνητικά "τρομακτική ανακάλυψη" στην τεχνητή νοημοσύνη σύμφωνα με το Reuters

[teodoreh]

Κατά βάση, το ΑΙ ακόμη και σήμερα είναι εύκολο στο να πάρει τις λάθος αποφάσεις. Ένας ναζί, μπορεί να εκπαιδεύσει ένα ΑΙ και εκείνο θα λατρεύει τον εθνοσοσιαλισμό περισσότερο και από τον Χίτλερ. Προχτές ο αμερικανικός στρατός είχε εξομοιώσει μία άσκηση όπου το ΑΙ drone είχε αποστολή να ολοκληρώσει πάση θυσία την αποστολή και όταν ο χειριστής το απέτρεπε από το να το κάνει, προσπαθούσε να τον σκοτώσει.

Όλα αυτά τα θεωρούμε αυτή τη στιγμή ως glitches ή ως αναμενόμενα αποτελέσματα ανάλογα με τα στοιχεία που θα το τροφοδοτήσουμε. Ότι του δίνεις, σου βγάζει αυτή τη στιγμή έστω και αν αυτό φρικάρει ακόμη και κορυφαίους ερευνητές του χώρου που έχουν εκφράσει τους φόβους τους,  για το τι ακριβώς συμβαίνει και το τί αλλάζει με την συνεχή επεξεργασία των δεδομένων στη μηχανή.

Αν τώρα ανακαλύφθηκε ένας ακόμη πιο εξελιγμένος αλγόριθμος, που μπορεί να κάνει πράγματα που δεν έχουμε φανταστεί, τότε λογικό είναι κάποιοι μόλις το έμαθαν μέσα στην εταιρεία, να τρόμαξαν. Αν και θεωρώ πως αν υπάρχει κάτι μεγάλο, τότε θα το καπελώσει η NSA και όλοι του ΔΣ που εν τέλει έχασαν το powergame, θα γράψουν best sellers μόλις τελειώσει η NDA τους με την OpenAI...

 

[fast8]

1 λεπτό πριν, korakios είπε

όλοι : υπόλοιπος κόσμος , επιστημονική κοινότητα

αν δεν κατανοούν τι βρήκαν ας δημοσιεύσουν τον κώδικα να καταλάβουν οι άλλοι .... αλλιώς ας τους το εξηγήσει το chat gpt 😁

Η OpenAI έχει μερικούς απο τους κορυφαίους ερευνητές της ΑΙ. Κυριολεκτικά η επιστημονική κοινότητα περιμένει τις ανακοινώσεις της OpenAI για να μάθει που πάει το πράμα, όχι το αντίστροφο.  Κανείς δεν είπε ότι δεν καταλάβανε τι κάνανε, είπαν ότι δεν ξέρουν τις επιπτώσεις της εφεύρεσης τους. Επίσης δεν βρήκαν κάτι όπως γράφεις, εφηύρα το μοντέλο. Όπως και ο κώδικας και η δημοσιοποίηση του που γράφεις δεν λέει τίποτα, τα μαθηματικά και τα δεδομένα είναι αυτά που κάνουν την τεχνητή νοημοσύνη να δουλεύει.

Αν όντως υπάρχει κίνδυνος αν πέσει σε λάθος χέρια, το χειρότερο που θα μπορούσαν να κάνουν δεν θα ήταν να το δημοσιοποιήσουν σε όλους;

 

[svartevarg]

Τελικά ο μόνος υπεύθυνος για την καταστροφή της ανθρωπότητας θα είναι ο ίδιος ο άνθρωπος και οι μακαλίες πιο κάνει.

[ZoReN]

37 minutes ago, fast8 said:

Διάλεξες ατυχές παράδειγμα. Η μισή Αμερική πιστεύει ότι ρατσισμός είναι να φέρεσαι στους ανθρώπους διαφορετικά ανάλογα με την φυλή τους και οι άλλοι μισοί ότι ρατσισμός είναι να φέρεσαι σε όλους το ίδιο χωρίς να λαμβάνεις υπόψη την φυλή κάποιου και τις ιδιαιτερότητες τους. Ο μόνος περιορισμός που του έχουν επιβάλει στο gpt είναι να αρνείται να ανακοινώσει πραγματικά στατιστικά που κάποιοι θεωρούν ρατσιστικά. Αυτό όμως απλά δείχνει πόσο επικύνδινο είναι το AI να εκπαιδευτεί απο λάθος ανθρώπους.

Ομως εκεί που πέτυχες διάνα είναι ότι ο άνθρωπος κινδυνεύει. Υπάρχει ένα μεγάλο κίνημα στην Αμερική που είναι υπέρ της φύσης ακόμα και αν αυτό σημαίνει καταστροφή της ανθρωπότητας. Στην ερώτηση τι θυσιάζουμε το δέντρο και το πρόβατο ή τον άνθρωπο, η απάντηση τους είναι τον άνθρωπο. Αυτό το κίνημα γεωγραφικά είναι στο San Francisco ακριβώς στο επίκεντρο της έρευνας για την ΑΙ.

Το πρόβλημα με τους περιορισμούς είναι ότι κάθε ένας μπορει να πάρει ένα μοντέλο τεχνητής νοημοσύνης και να το εκπαυδεύσει, δεν μπορούν να επιβλέπουν 8δις κόσμο. Για παράδειγμα δεν μπορείς να ρωτήσεις το copilot πως να φτιάξεις μια offshore ή να ξεπλύνεις χρήμα, έχουν βάλει περιορισμό, αλλά υπάρχουν τόσα άλλα γλωσσικά μοντέλα, σε προσωπικούς servers ακόμα και στο internet που θα σου δώσουν αυτή την πληροφορία. Είναι πρόβλημα που δεν έχει εύκολη λύση, που το AGI το κάνει ακόμα δυσκολότερο.

 

 

Συμφωνώ σε όλα όσα λες. Και δεν είναι μόνο ο ρατσισμός, είναι και θρησκευτικές και πολιτικές απόψεις και διάφορα άλλα. Απλά για να μην γράψω σεντόνι έβαλα αυτό "Αυτό όπως και άλλα πράγματα θα πρέπει να του τα δώσεις ως κάτι στάνταρ για να μη τα παραβιάσει. Το τι είναι όλα αυτά είναι μια άλλη μεγάλη κουβέντα" 

 Το πρόβλημα είναι αν και πως θα μπορέσουμε πραγματικά να τα εφαρμόσουμε αυτά με σωστό αποτέλεσμα. Νομίζω είναι πολύ μεγάλo challenge αυτό 

[korakios]

2 λεπτά πριν, fast8 είπε

Η OpenAI έχει μερικούς απο τους κορυφαίους ερευνητές της ΑΙ. Κυριολεκτικά η επιστημονική κοινότητα περιμένει τις ανακοινώσεις της OpenAI για να μάθει που πάει το πράμα, όχι το αντίστροφο.  Κανείς δεν είπε ότι δεν καταλάβανε τι κάνανε, είπαν ότι δεν ξέρουν τις επιπτώσεις της εφεύρεσης τους. Επίσης δεν βρήκαν κάτι όπως γράφεις, εφηύρα το μοντέλο. Όπως και ο κώδικας και η δημοσιοποίηση του που γράφεις δεν λέει τίποτα, τα μαθηματικά και τα δεδομένα είναι αυτά που κάνουν την τεχνητή νοημοσύνη να δουλεύει.

Αν όντως υπάρχει κίνδυνος αν πέσει σε λάθος χέρια, το χειρότερο που θα μπορούσαν να κάνουν δεν θα ήταν να το δημοσιοποιήσουν σε όλους;

η έρευνα έχει σαν απώτερο σκοπό να δημιουργήσει κάτι ανώτερο απο άνθρωπο , αναμενόμενο οτι κάποια στιγμή θα γίνει . Τώρα αν περιμένουν νομοθεσίες και "δίκαιο" να εφαρμοστεί για να μην πέσει σε "κακά" χέρια , σώθηκες ....

το μόνο που θα μπορούσαν να καταφέρουν είναι να πάρουν χρήματα

Τεσπα , αργά ή γρήγορα θα φανεί αν είναι ουσιαστική είδηση ή φούσκα , προς το παρών η είδηση μου θυμίζει το μηχανικό της google που έλεγε οτι έχει νοημοσύνη το μαντζαφλάρι

[ZoReN]

26 minutes ago, oldnew said:

Οι κίνδυνοι απ το ΑΙ για την ωρα είναι υπερβολικοι ως αναφορά την καταστροφή του ανθρώπου παντα. Ως αναφορά οτι θα καταργήσει σίγουρα το 99% των δουλειών σε βραχυχρόνιο ορίζοντα ειναι αλλο θεμα - κίνδυνος.  Απο μονο του αυτό μπορεί να προκαλέσει πολέμους καθώς οσοι έχουν τα μεσα παραγωγής δε θα χρειαζόνται εργασια, αλλα αν δεν προσλάβουν εργατες δε θα έχει κανείς αγοραστική δύναμη και δε θα έχουν πελάτες να πουλήσουν ωστε να παραμείνουν πλούσιοι.  Και εκει θα υπάρξει ο χαμος ποσα πρεπει να περνει καθενας χωρίς να δουλεύει.  Οι πλούσιοι θα θέλουν να παίρνουν τα ελάχιστα δυνατά ωστε να φυτοζωουν για να έχουν αυτοι το μέγιστό κέρδος. 

Κανείς δεν είναι ηλιθιος να αφησει μια ΑΙ πχ να αποφασίσει να πατήσει κουμπί πυρηνικών ΣΗΜΕΡΑ.

Στο μελλον πχ σε 200 χρόνια οπου καθε σπιτι θα εχει 1 ρομποτ, και θα επικοινωνουν ολα μεταξύ τους αλλάζει το πράγμα.  Εκει μπορεί όντως να υπάρξει κίνδυνος για την ανθρωπότητα. 

Για αυτό λέμε ότι οι βάσεις θα πρέπει να μπουν από σήμερα. Γιατί αν το αφήσεις ανεξέλεγκτο σε 200 χρόνια απλά δεν θα μπορείς να κάνεις απολύτως τίποτα για να προστατεύεις. Μπορεί σήμερα η σκέψη ότι ο άνθρωπος, με τον οποιονδήποτε τρόπο, κινδυνεύει από το AI να φαίνεται ηλιθιο, αλλά σκέψου το σε βάθος πολλών χρόνων αυτό. Όσο πιο γρήγορα μπουν οι βάσεις τόσο το καλύτερο για τα επόμενα χρόνια 

[Shinji ikari]

31 minutes ago, ZoReN said:

Όπως το μπλοκάρεις, και καλά κάνεις

Και γι'αυτό έγινε όλη η φασαρία, μερικοί το προτιμούν σε Robocop 2 φάση. Και γιατί να το ρωτάς κάτι όταν έχεις ήδη την απάντηση προγραμματισμένη; για να μη λέει αλήθειες; η έκδοση για το κοινό είναι ιδεολογικά προγραμματισμένη και αυτός είναι ο αληθινός κίνδυνος, οχι κουραφέξαλα ότι θα καταστρέψει τον κόσμο. 

Δεν έχει agency για να αποφασίσει να δράσει, ούτε μπορείς να του δώσεις μια εντολή να χακαρει κάτι, δεν έχεις καν πρόσβαση, μπορεί να διευκολύνει τους χακερ αλλά μπορεί να διευκολύνει και το να τους πιάνουν όμως. Και δεν έχει σχέση με αληθινή στιλ HAL AI. 

38 minutes ago, ELMastas said:

Οσο πάμε πλησιάζουμε

Μόνο που το Skynet φτιάχτηκε από ιδιωτική εταιρία και η openAI είναι ιδιωτική εταιρία. 

[alexpap]

“Η OpenAI φέρεται να έκανε μια δυνητικά "τρομακτική ανακάλυψη" στην τεχνητή νοημοσύνη σύμφωνα με το Reuters”

H CloseHI* προσφέρεται ανίκανη στην ήρεμη “χαμογελαστή ξαναεμφάνιση” στην φυσική ανοήμων φωνηέντων του ένα τρίτου μέρους του όλου. (Σύνολο του κώλου)

Σημείωση:

 *Η.Ι.=HUMANITY IDLE

[ZoReN]

6 minutes ago, Shinji ikari said:

Και γι'αυτό έγινε όλη η φασαρία, μερικοί το προτιμούν σε Robocop 2 φάση. Και γιατί να το ρωτάς κάτι όταν έχεις ήδη την απάντηση προγραμματισμένη; για να μη λέει αλήθειες; η έκδοση για το κοινό είναι ιδεολογικά προγραμματισμένη και αυτός είναι ο αληθινός κίνδυνος, οχι κουραφέξαλα ότι θα καταστρέψει τον κόσμο. 

Δεν έχει agency για να αποφασίσει να δράσει, ούτε μπορείς να του δώσεις μια εντολή να χακαρει κάτι, δεν έχεις καν πρόσβαση, μπορεί να διευκολύνει τους χακερ αλλά μπορεί να διευκολύνει και το να τους πιάνουν όμως. Και δεν έχει σχέση με αληθινή στιλ HAL AI. 

 

Μίλησα γενικότερα για το AI και όχι αποκλειστικά για το GPT. Και για το πως αυτό θα είναι στα επόμενα χρόνια. 

 

[endeavour]

41 minutes ago, teodoreh said:

Αν τώρα ανακαλύφθηκε ένας ακόμη πιο εξελιγμένος αλγόριθμος, που μπορεί να κάνει πράγματα που δεν έχουμε φανταστεί, τότε λογικό είναι κάποιοι μόλις το έμαθαν μέσα στην εταιρεία, να τρόμαξαν. Αν και θεωρώ πως αν υπάρχει κάτι μεγάλο, τότε θα το καπελώσει η NSA και όλοι του ΔΣ που εν τέλει έχασαν το powergame, θα γράψουν best sellers μόλις τελειώσει η NDA τους με την OpenAI...

 

Τι εξελιγμένος αλγόριθμος και πράσινα άλογα. Το έχω ξαναγράψει εδώ και θα τι ξαναγράψω.

Το ΑΙ (!) της Microsoft μου είπε 2 φορές ότι μπορώ να πάω σε ένα ΝΗΣΙ (κανονικό νησί, όχι με γέφυρες κλπ) και by foot.

Ποιος τα πιστεύει όλα αυτά απορώ πραγματικά. Scrapers που σκανάρουν το διαδίκτυο και τα κάθε είδους γραπτά ειναι .... και σαβουρώνουν ότι βλακεία υπάρχει. Ισως το κάνουν τώρα γρηγοροτερα και καλύτερα και βγάζουν καλύτερο mix απο το blender.

Γιατί ΑΝ υπήρχε κάτι πραγματικό και αληθινό, το πρώτο πράγμα που θα έπρεπε πραγματικά να ωφεληθεί θα ήταν οι ΙΑΤΡΙΚΗ. Πχ καταπολεμηση του καρκίνου.

Επεξ/σία 23 Νοεμβρίου 2023 από endeavour

[teodoreh]

5 λεπτά πριν, endeavour είπε

Τι εξελιγμένος αλγόριθμος και πράσινα άλογα. Το έχω ξαναγράψει εδώ και θα τι ξαναγράψω.

Το ΑΙ (!) της Microsoft μου είπε 2 φορές ότι μπορώ να πάω σε ένα ΝΗΣΙ (κανονικό νησί, όχι με γέφυρες κλπ) και by foot.

Ποιος τα πιστεύει όλα αυτά απορώ πραγματικά. Scrapers που σκανάρουν το διαδίκτυο και τα κάθε είδους γραπτά ειναι .... και σαβουρώνουν ότι βλακεία υπάρχει. Ισως το κάνουν τώρα γρηγοροτερα και καλύτερα και βγάζουν καλύτερο mix απο το blender.

Γιατί ΑΝ υπήρχε κάτι πραγματικό και αληθινό, το πρώτο πράγμα που θα έπρεπε πραγματικά να ωφεληθεί θα ήταν οι ΙΑΤΡΙΚΗ. Πχ καταπολεμηση του καρκίνου.

Κατ΄αρχάς μπορεί η ΑΙ να υπέθεσε πως είσαι ο Ιησούς.

Για τον καρκίνο, η Microsoft ευελπιστεί μέσω της ΑΙ να καταφέρει να κάνει άλματα στα επόμενα δέκα χρόνια, αν και θεωρώ πως αυτό είναι ένα πεδίο που δεν ανήκει στους κλασσικούς υπολογιστές. Το ότι υπήρχαν, υπάρχουν και θα υπάρχουν glitches δεν σημαίνει και πολλά. Δεν σημαίνει τίποτα για την ακρίβεια. Δεν μπορείς να κρίνεις τον τομέα της ΑΙ επειδή σου έδωσε μια λάθος απάντηση το chatgpt.

[endeavour]

5 minutes ago, teodoreh said:

Κατ΄αρχάς μπορεί η ΑΙ να υπέθεσε πως είσαι ο Ιησούς.

Για τον καρκίνο, η Microsoft ευελπιστεί μέσω της ΑΙ να καταφέρει να κάνει άλματα στα επόμενα δέκα χρόνια, αν και θεωρώ πως αυτό είναι ένα πεδίο που δεν ανήκει στους κλασσικούς υπολογιστές. Το ότι υπήρχαν, υπάρχουν και θα υπάρχουν glitches δεν σημαίνει και πολλά. Δεν σημαίνει τίποτα για την ακρίβεια. Δεν μπορείς να κρίνεις τον τομέα της ΑΙ επειδή σου έδωσε μια λάθος απάντηση το chatgpt.

Ναι σε 10 χρόνια. Τα έχουμε ξαναακουσει όλα αυτά. Ακόμα θυμάμαι να τρέχω τον υπολογιστή μου ενα πρόγραμμα που υποτίθεται θα βοηθούσε την ιατρική (δεν θυμ'αμαι το project, αλλα έτρεχε σε χιλιάδες υπολογιστές distributed).....

Το AI απλά θα μπορέσει να συγκρίνει ταχύτατα πολλά δεδομένα και να βοηθήσει. Μέχρι εκεί. Δεν μπορεί, ούτε πρόκειται να αυτονομηθεί. Οποιος τα πιστευει όλα αυτα, ας πάρει και ένα ηλεκτρικό αυτόκινητο με αυτόματο πιλότο. Xiaomi κατα προτίμηση.

Επεξ/σία 23 Νοεμβρίου 2023 από endeavour

[Shinji ikari]

1 hour ago, fast8 said:

Στην ερώτηση τι θυσιάζουμε το δέντρο και το πρόβατο ή τον άνθρωπο, η απάντηση τους είναι τον άνθρωπο.

Μόνο που αυτοί δεν θυσιάζουν το τηλέφωνάκι τους, την designer τσαντούλα τους και απολύτως τίποτα από τον τρόπο ζωής τους και τη βολεψη τους, νομίζω ότι είμαστε ασφαλείς από αυτούς. 

44 minutes ago, teodoreh said:

όταν ο χειριστής το απέτρεπε από το να το κάνει, προσπαθούσε να τον σκοτώσει.

Αυτό είναι παλιό και ψεύτικο άμα δεις τις λεπτομέρειες. 

59 minutes ago, oldnew said:

το 99% των δουλειών

Γραφείου, όσο ο κόσμος γίνεται πιο περίπλοκος, δημιουργούνται και νέες δουλειές, όχι ότι δεν μπορεί να συμβεί ξανά κάτι σαν το μεγάλο κραχ αλλά αυτή τη φορά θα μπορούμε να το δούμε να έρχεται, ελπίζω...

[tolstoy]

Κι άλλο Project Q? 

Καμιά πρωτοτυπία τέλος πάντων. 

[anonymous999]

1 hour ago, endeavour said:

Το ΑΙ (!) της Microsoft μου είπε 2 φορές ότι μπορώ να πάω σε ένα ΝΗΣΙ (κανονικό νησί, όχι με γέφυρες κλπ) και by foot.

Ε ναι στο Καρπενήσι, που το περίεργο