Η OpenAI φέρεται να έκανε μια δυνητικά "τρομακτική ανακάλυψη" στην τεχνητή νοημοσύνη σύμφωνα με το Reuters

[ADHD]

1 ώρα πριν, fmarulezkd είπε

Ακόμα και να είναι σε θέση να το κάνει, πού το πρόβλημα; 

Είτε θα είμαστε σε σημείο υπερβολικά προχωρημένου AI (=> Eυκολότερη ζωή για όλους) είτε θα ζήσουμε επιτέλους το Terminator που όλοι ονειρευόμαστε. 

Win-win situation. 

Ηδη μας εχει κανει τη ζωη ευκολοτερη σε αρκετα θεματα, κυριως εργασια, αν ξερεις να το χρησιμοποιεις σωστα ειναι πραγματικη επανασταση το chatGPT. Εκει που ετρωγα 5 ωρες+ με google search, yt videos (και αν το εβρισκα) για να κανω κατι τωρα ειναι απλα μερικα σωστα prompts και εχω τη λυση και την εξηγηση ετοιμη.

[tasanton]

Είχα διαβάσει κάποτε ένα άρθρο που εξηγούσε αναλυτικά πόσα χρόνια παλεύουν οι ερευνητές με τα περί AI και ότι, μόλις ξεπεραστεί ένα συγκεκριμένο threshold, οι εξελίξεις θα είναι καταιγιστικές, τα πράγματα θα προχωρούν εκθετικά και η κατάσταση θα είναι δύσκολο να ελεγχθεί. Κάτι σαν "είμαστε επί 1 χρόνο στο 99% του project και έχουμε κολλήσει στο 1%" και ξαφνικά χάος.

Ενδεχομένως να έχουν αντιληφθεί πλέον τα ρίσκα και τους κινδύνους και να υπήρξε σύγκρουση μέσα στην εταιρεία για το πώς θα προχωρήσουν...

[YDinopoulos]

Meanwhile ο Q....  

 

[ontariyo]

Τελικα ειχε παρει τα μετρα του..ειχε πλαν b ετοιμο μου θυμιζει τον φρανγκεσταιν και τον διμηουργο του

Επεξ/σία 23 Νοεμβρίου 2023 από ontariyo

[ZoReN]

Ρίσκα προφανώς και υπάρχουν και για αυτό άλλωστε έχουν ξεκινήσει και κουβέντες για το πως θα πρέπει να περιοριστεί το AI σε κάποια σημεία. Όπως το μπλοκάρεις, και καλά κάνεις, για να μη σου δίνει ας πούμε ρατσιστικές απαντήσεις, έτσι θα πρέπει να το περιορίσεις, να του βάλεις δικλείδες ασφάλειας και για άλλα πράγματα. Όπως αναφέρθηκε πριν, αν το AI αποφασίσει ότι ότι ο άνθρωπος είναι κάτι που δεν το "συμφέρει" θα κοιτάξει να τον "αφανίσει", άρα μπορεί να βάλει τα Tesla να τρακάρουν μεταξύ τους. Αυτό όπως και άλλα πράγματα θα πρέπει να του τα δώσεις ως κάτι στάνταρ για να μη τα παραβιάσει. Το τι είναι όλα αυτά είναι μια άλλη μεγάλη κουβέντα. Και όλο αυτό θα βγάζει περισσότερο νόημα όταν το Ai θα είναι πλήρως ενσωματωμένο στην καθημερινότητα μας. Όπως το internet. Πλεον δεν μπορούμε να πατήσουμε ένα κουμπί και να κλείσει όλο το internet σε όλο το κόσμο. Κάποια στιγμή κάτι αντίστοιχο θα συμβεί και στο AI. 

[toxoths73]

Αφού τα ξέρει όλα αυτή η τεχνητή νοημοσύνη για να την ρωτήσουμε μετά το τέλος του κόσμου τι?????. Το κόβω να απαντάει "Πρώτα θα βγουν οι Έλληνες, ύστερα οι κατσαρίδες, και μετά όλα τα άλλα" 

[ELMastas]

Οσο πάμε πλησιάζουμε 

[fast8]

1 ώρα πριν, korakios είπε

Πάντως δεν κατάλαβα κάποια ' δυνητικά τρομακτική ανακάλυψη" '

Το άρθρο είπε καθαρά ότι είναι το AGI η τεχνητή γενική νοημοσύνη. Το GPT είναι γλωσσικό μοντέλο, τώρα έχουν στα χέρια τους και AGI

[Yeroplatanos]

1 hour ago, JcD said:

Αστείες ιστορίες για να τραβάνε δημοσιότητα προς το μέρος τους, άιντε αποφάσισε η τεχνητή νοημοσύνη την καταστροφή της ανθρωπότητας, πως θα το κάνει, με υπέρταση στην καφετιέρα?

Ελπίζω να αστειεύεσαι..

[korakios]

12 λεπτά πριν, fast8 είπε

Το άρθρο είπε καθαρά ότι είναι το AGI η τεχνητή γενική νοημοσύνη. Το GPT είναι γλωσσικό μοντέλο, τώρα έχουν στα χέρια τους και AGI

Αναφορά σε κείμενο

Η πηγή αποκάλυψε ότι ορισμένοι μηχανικοί στην OpenAI θεωρούν το Q* ως μια πιθανή στιγμή καμπής στην επιδίωξη της τεχνητής γενικής νοημοσύνης (AGI).

καλά , όταν και οι υπόλοιποι , δε θεωρούν ,αλλά είναι και σίγουροι, το ξαναβλέπουμε για το αν θα είναι ορόσημο για μελλοντική ανάπτυξη

[fast8]

9 λεπτά πριν, ZoReN είπε

Ρίσκα προφανώς και υπάρχουν και για αυτό άλλωστε έχουν ξεκινήσει και κουβέντες για το πως θα πρέπει να περιοριστεί το AI σε κάποια σημεία. Όπως το μπλοκάρεις, και καλά κάνεις, για να μη σου δίνει ας πούμε ρατσιστικές απαντήσεις, έτσι θα πρέπει να το περιορίσεις, να του βάλεις δικλείδες ασφάλειας και για άλλα πράγματα. Όπως αναφέρθηκε πριν, αν το AI αποφασίσει ότι ότι ο άνθρωπος είναι κάτι που δεν το "συμφέρει" θα κοιτάξει να τον "αφανίσει", άρα μπορεί να βάλει τα Tesla να τρακάρουν μεταξύ τους. Αυτό όπως και άλλα πράγματα θα πρέπει να του τα δώσεις ως κάτι στάνταρ για να μη τα παραβιάσει. Το τι είναι όλα αυτά είναι μια άλλη μεγάλη κουβέντα. Και όλο αυτό θα βγάζει περισσότερο νόημα όταν το Ai θα είναι πλήρως ενσωματωμένο στην καθημερινότητα μας. Όπως το internet. Πλεον δεν μπορούμε να πατήσουμε ένα κουμπί και να κλείσει όλο το internet σε όλο το κόσμο. Κάποια στιγμή κάτι αντίστοιχο θα συμβεί και στο AI. 

Διάλεξες ατυχές παράδειγμα. Η μισή Αμερική πιστεύει ότι ρατσισμός είναι να φέρεσαι στους ανθρώπους διαφορετικά ανάλογα με την φυλή τους και οι άλλοι μισοί ότι ρατσισμός είναι να φέρεσαι σε όλους το ίδιο χωρίς να λαμβάνεις υπόψη την φυλή κάποιου και τις ιδιαιτερότητες τους. Ο μόνος περιορισμός που του έχουν επιβάλει στο gpt είναι να αρνείται να ανακοινώσει πραγματικά στατιστικά που κάποιοι θεωρούν ρατσιστικά. Αυτό όμως απλά δείχνει πόσο επικύνδινο είναι το AI να εκπαιδευτεί απο λάθος ανθρώπους.

Ομως εκεί που πέτυχες διάνα είναι ότι ο άνθρωπος κινδυνεύει. Υπάρχει ένα μεγάλο κίνημα στην Αμερική που είναι υπέρ της φύσης ακόμα και αν αυτό σημαίνει καταστροφή της ανθρωπότητας. Στην ερώτηση τι θυσιάζουμε το δέντρο και το πρόβατο ή τον άνθρωπο, η απάντηση τους είναι τον άνθρωπο. Αυτό το κίνημα γεωγραφικά είναι στο San Francisco ακριβώς στο επίκεντρο της έρευνας για την ΑΙ.

Το πρόβλημα με τους περιορισμούς είναι ότι κάθε ένας μπορει να πάρει ένα μοντέλο τεχνητής νοημοσύνης και να το εκπαυδεύσει, δεν μπορούν να επιβλέπουν 8δις κόσμο. Για παράδειγμα δεν μπορείς να ρωτήσεις το copilot πως να φτιάξεις μια offshore ή να ξεπλύνεις χρήμα, έχουν βάλει περιορισμό, αλλά υπάρχουν τόσα άλλα γλωσσικά μοντέλα, σε προσωπικούς servers ακόμα και στο internet που θα σου δώσουν αυτή την πληροφορία. Είναι πρόβλημα που δεν έχει εύκολη λύση, που το AGI το κάνει ακόμα δυσκολότερο.

 

10 λεπτά πριν, korakios είπε

καλά , όταν και οι υπόλοιποι , δε θεωρούν ,αλλά είναι και σίγουροι, το ξαναβλέπουμε για το αν θα είναι ορόσημο για μελλοντική ανάπτυξη

Απλά παίζεις με τις λέξεις. Τι θα πει όλοι. Ολοι στην OpenAI νομίζεις ότι δουλεύουν πάνω στο Q*; Ολοι νομιζεις ότι είναι το ίδιο έξυπνοι ή έχουν τις ίδιες ανησυχίες; Οι ερευνητές του Q* ανησυχουν, εφευραν κάτι που δεν κατανοούν τις επιπτώσεις του και εδώ κολλάει ο χαρακτηρισμός δυνητικά. 

[magictoboggan]

[korakios]

13 λεπτά πριν, fast8 είπε

Απλά παίζεις με τις λέξεις. Τι θα πει όλοι. Ολοι στην OpenAI νομίζεις ότι δουλεύουν πάνω στο Q*; Ολοι νομιζεις ότι είναι το ίδιο έξυπνοι ή έχουν τις ίδιες ανησυχίες; Οι ερευνητές του Q* ανησυχουν, εφευραν κάτι που δεν κατανοούν τις επιπτώσεις του και εδώ κολλάει ο χαρακτηρισμός δυνητικά. 

όλοι : υπόλοιπος κόσμος , επιστημονική κοινότητα

αν δεν κατανοούν τι βρήκαν ας δημοσιεύσουν τον κώδικα να καταλάβουν οι άλλοι .... αλλιώς ας τους το εξηγήσει το chat gpt 😁

[oldnew]

Οι κίνδυνοι απ το ΑΙ για την ωρα είναι υπερβολικοι ως αναφορά την καταστροφή του ανθρώπου παντα. Ως αναφορά οτι θα καταργήσει σίγουρα το 99% των δουλειών σε βραχυχρόνιο ορίζοντα ειναι αλλο θεμα - κίνδυνος.  Απο μονο του αυτό μπορεί να προκαλέσει πολέμους καθώς οσοι έχουν τα μεσα παραγωγής δε θα χρειαζόνται εργασια, αλλα αν δεν προσλάβουν εργατες δε θα έχει κανείς αγοραστική δύναμη και δε θα έχουν πελάτες να πουλήσουν ωστε να παραμείνουν πλούσιοι.  Και εκει θα υπάρξει ο χαμος ποσα πρεπει να περνει καθενας χωρίς να δουλεύει.  Οι πλούσιοι θα θέλουν να παίρνουν τα ελάχιστα δυνατά ωστε να φυτοζωουν για να έχουν αυτοι το μέγιστό κέρδος. 

Κανείς δεν είναι ηλιθιος να αφησει μια ΑΙ πχ να αποφασίσει να πατήσει κουμπί πυρηνικών ΣΗΜΕΡΑ.

Στο μελλον πχ σε 200 χρόνια οπου καθε σπιτι θα εχει 1 ρομποτ, και θα επικοινωνουν ολα μεταξύ τους αλλάζει το πράγμα.  Εκει μπορεί όντως να υπάρξει κίνδυνος για την ανθρωπότητα. 

[alex84]

Άσχετο με το θέμα , αλλά επειδή το βλέπω συχνά πυκνά...

Πως γίνεται κατά πολύ μεγάλο ποσοστό (αναλογικά με τον πληθυσμό τους) μεγάλες εταιρείες  τεχνολογίας να έχουν CEO και ιδρυτές άτομα εβραϊκής καταγωγής?

Ένας από αυτούς και ο Altmann στην περίπτωση μας.

Δεν θέλω να στιγμάτισω η να κατηγορήσω αλλά μου κάνει φοβερή εντύπωση.Τοσο μορφωμένοι η τόσο επιλεγμένοι?

Επεξ/σία 23 Νοεμβρίου 2023 από alex84