Ηγέτες από τον χώρο της τεχνολογίας και ειδικοί AI ζητούν εξάμηνη παύση στα εκτός ελέγχου πειράματα τεχνητής νοημοσύνης

[alion]

Μέσω μίας ανοικτής επιστολής με εκατοντάδες υπογραφές, ηγέτες από τον χώρο της τεχνολογίας και εξέχοντες ερευνητές στον τομέα της τεχνητής νοημοσύνης καλούν τα εργαστήρια και τις εταιρείες τεχνητής νοημοσύνης να «σταματήσουν αμέσως» τις εργασίες τους.

Οι υπογράφοντες όπως ο Steve Wozniak και ο Elon Musk συμφωνούν ότι οι κίνδυνοι που ελλοχεύουν, δικαιολογούν μία παύση τουλάχιστον έξι μηνών από την ανάπτυξη τεχνολογίας πέρα από το GPT-4, ώστε η ανθρωπότητα να απολαύσει τις δυνατότητες των σημερινών συστημάτων Τεχνητής Νοημοσύνης (AI), οι άνθρωποι να έχουν χρόνο να προσαρμοστούν και να διασφαλιστεί ότι επωφελούνται όλοι. Η επιστολή προσθέτει ότι χρειάζεται προσοχή και προνοητικότητα για να διασφαλιστεί η ασφάλεια των συστημάτων τεχνητής νοημοσύνης, ωστόσο επισημαίνει ότι αυτοί οι παράγοντες αγνοούνται.

Η αναφορά στο GPT-4, ένα μοντέλο της OpenAI που μπορεί να απαντά με κείμενο σε γραπτά ή οπτικά μηνύματα, έρχεται καθώς οι εταιρείες αγωνίζονται να δημιουργήσουν πολύπλοκα συστήματα συνομιλίας που χρησιμοποιούν τη συγκεκριμένη τεχνολογία. Η Microsoft, για παράδειγμα, επιβεβαίωσε πρόσφατα ότι η ανανεωμένη μηχανή αναζήτησής Bing βασίζεται σε μία προσαρμοσμένη έκδοση του μοντέλου GPT-4 εδώ και τουλάχιστον επτά εβδομάδες ενώ η Google προχώρησε στην ανακοίνωση του Bard, του δικού της συστήματος τεχνητής νοημοσύνης που βρίσκεται πίσω από την τεχνολογία LaMDA. Η ανησυχία γύρω από την τεχνητή νοημοσύνη είναι έκδηλη εδώ και καιρό. Όμως, επειδή δεν είναι λίγες οι εταιρείες που έχουν επιδοθεί σε αυτόν τον αγώνα δρόμου για την ανάπτυξη της πλέον προηγμένης τεχνολογίας τεχνητής νοημοσύνης (AI), ενδέχεται πολλά πράγματα να μην γίνονται με προνοητικότητα ή έλεγχο, προκαλώντας ακόμα εντονότερη ανησυχία.

«Δυστυχώς, δεν υπάρχει το επιθυμητό επίπεδο σχεδιασμού και διαχείρισης, παρόλο που τους τελευταίους μήνες έχουμε δει εργαστήρια τεχνητής νοημοσύνης να εγκλωβίζονται σε έναν ανεξέλεγκτο αγώνα ανάπτυξης και εφαρμογής όλο και ισχυρότερων ψηφιακών μυαλών που κανείς -ούτε καν οι δημιουργοί τους- δεν είναι σε θέσει να κατανοήσουν, να προβλέψουν ή να ελέγξουν αξιόπιστα» διαβάζουμε στην ανοικτή επιστολή.

Η σχετική επιστολή δημοσιεύτηκε από το Future of Life Institute (FLI), έναν οργανισμό αφιερωμένο στην ελαχιστοποίηση των κινδύνων και της κατάχρησης της νέας τεχνολογίας. Ο Elon Musk έχει προχωρήσει σε δωρεά $10 εκατομμυρίων δολαρίων στο FLI ώστε να αξιοποιηθούν για έρευνες και μελέτες που σχετίζονται με την ασφάλεια της τεχνητής νοημοσύνης.

Εκτός από τον Elon Musk και τον Serve Wozniak, την επιστολή υπογράφουν μια σειρά από παγκόσμιους ηγέτες και σημαντικές φυσιογνωμίες από τον χώρο τεχνητής νοημοσύνης, όπως ο πρόεδρος του Κέντρου Τεχνητής Νοημοσύνης και Ψηφιακής Πολιτικής, Marc Rotenberg, ο φυσικός του MIT και πρόεδρος του Future of Life Institute, Max Tegmark και ο συγγραφέας Yuval Noah Harari. Ο Yuval Noah Harari συνέγραψε επίσης ένα άρθρο στην εφημερίδα New York Times την περασμένη εβδομάδα, προειδοποιώντας για τους κινδύνους της τεχνητής νοημοσύνης, μαζί με τους ιδρυτές του Center for Humane Technology, Tristan Harris και Aza Raskin.

Η έκκληση για παύση των εργασιών έρχεται λίγο μετά τη δημοσίευση των αποτελεσμάτων μίας έρευνας του 2022, στην οποία συμμετείχαν περισσότεροι από 700 ερευνητές από τον τομέα της μηχανικής εκμάθησης, στην οποία σχεδόν οι μισοί από τους συμμετέχοντες δήλωσαν ότι υπάρχει 10% πιθανότητα να προκληθεί κάτι «εξαιρετικά κακό» από την τεχνητή νοημοσύνη, συμπεριλαμβανομένης της εξαφάνισης του ανθρώπινου γένους. Όταν ερωτήθηκαν για την ασφάλεια στις έρευνες που σχετίζονται με την τεχνητή νοημοσύνη, το 68% των ερευνητών απάντησε ότι πρέπει να γίνουν περισσότερα ή πολύ περισσότερα πράγματα.

Διαβάστε ολόκληρο το άρθρο

[Hugo]

Ναι να σταματήσουν όλες οι εταιρείες που έχουν φτάσει στο επίπεδο του chatGTP 4 και άνω. Οι υπόλοιπες ( συμπεριλαμβανομένων και του Ελον Μασκ και κάποιων άλλων που υπέγραψαν) να συνεχίσουν την ανάπτυξη. 

 

[geomrk]

"Παιδια επειδη βγηκατε πολυ μπροστα ολοι συμφωνουμε να σταματησετε να σας φτασουμε και μετα παμε ολοι μαζι"

[Miaou7]

[klaftop]

 ο Elon Musk διαφήμιζε οτι αυτος εφτιαξε και εχει την openAI το οποιο ηταν αλλο ενα απο τα ψεμματα του, μαζι με το ψεμα οτι δηθεν απο το 2016 τα αυτοκινητα του οδηγουνται μονα τους ενω το βιντεο ηταν ψευτικο και τωρα που εχει μεινει απεξω απο τον χορο, και δεν φαινεται κουλ πια ζηταει να την απαγορευσουν για 6 μηνες μπας και προλαβει να αγορασει αυτος καμια ΑΙ εταιρια

[KilliK]

soon..

 

[nat10]

9 λεπτά πριν, klaftop είπε

 ο Elon Musk διαφήμιζε οτι αυτος εφτιαξε και εχει την openAI το οποιο ηταν αλλο ενα απο τα ψεμματα του, μαζι με το ψεμα οτι δηθεν απο το 2016 τα αυτοκινητα του οδηγουνται μονα τους ενω το βιντεο ηταν ψευτικο και τωρα που εχει μεινει απεξω απο τον χορο, και δεν φαινεται κουλ πια ζηταει να την απαγορευσουν για 6 μηνες μπας και προλαβει να αγορασει αυτος καμια ΑΙ εταιρια

ΠΕΣ ΤΑ ΦΊΛΕ ΜΟΥ!!! ΈΤΣΙ ΕΊΝΑΙ 

[freegr]

Είναι γεγονός ότι αν από λάθος τους ξεφύγει η ΤΝ στο διαδίκτυο με πλήρη πρόσβαση τότε δεν είναι απίθανο να δούμε έκτροπα όπως σε ταινίες sci-fi και ορισμένες μάλιστα σειρές που με πολύ προσγειωμένο τρόπο έχουν σενάρια απλές  καθημερινές επιπτώσεις. 

[herbalife3]

Αντίο άνθρωποι...

[gadgetseek]

[lneam]

35 λεπτά πριν, klaftop είπε

 ο Elon Musk διαφήμιζε οτι αυτος εφτιαξε και εχει την openAI το οποιο ηταν αλλο ενα απο τα ψεμματα του, μαζι με το ψεμα οτι δηθεν απο το 2016 τα αυτοκινητα του οδηγουνται μονα τους ενω το βιντεο ηταν ψευτικο και τωρα που εχει μεινει απεξω απο τον χορο, και δεν φαινεται κουλ πια ζηταει να την απαγορευσουν για 6 μηνες μπας και προλαβει να αγορασει αυτος καμια ΑΙ εταιρια

παιδια, ο ανθρωπος αυτος συναγωνιζεται τον πατερα του, ποιος θα κανει πρωτος περισσοτερα απο 10 παιδια. Δεν πραλαβαινει ..... Sorry, ποιο ηταν το ερωτημα  ????

https://www.businesstoday.in/trending/world/story/elon-musks-father-errol-reveals-he-has-a-child-with-stepdaughter-341635-2022-07-15

https://www.digitallife.gr/apistefto-kai-omos-alithino-o-pateras-tou-elon-musk-ekane-paidi-me-tin-35chroni-theti-tou-kori-50207

https://www.digitallife.gr/ksana-pateras-o-elon-musk-ekane-didyma-me-stelechos-tis-neuralink-90945

[Tol1as]

Παιδιά γινεται να βιαστεί λίγο η AIποκαλυψη, έχω 1002 υποχρεώσεις, αμα είναι να μη συνεχίσω να είμαι συνεπής.

[amigagr]

Είναι αργά πλέον, έχει ήδη ανοίξει το κουτί της Πανδώρας

[Evangelos Anagnostou]

Ή με την τεχνολογικη εκρηξη που βλέπουμε τους τελευταιους μήνες θα προκύψει AGI σε μερικά χρόνια ανατρέποντας τα πάντα ή οι τρέχουσες ΑΙ τεχνολογίες των generative transformers θα πιάσουν πλατώ και θα περιμένουμε την νέα εξέλιξη σε δεκαετίες. Σε κάθε περίπτωση δεν σταματάει το τεχνολογικό τρένο.

To γεγονός ότι είδαμε με εκπληξη όλοι, ακόμα και οι ειδικοί, να αναδύονται νοητικές λειτουργίες αυθόρμητα μόνο από την αύξηση της κλίμακας των μοντέλων και των training data με κάνει να πιστεύω ότι είμαστε πιο κοντά στο πρώτο σενάριο παρά στο δεύτερο.

[animale]

Τουλαχιστον μια 15ετια και βαλε ζητανε διαφοροι σοβαροι να ξεκινησει συζητηση για τις επιπλοκες μιας AGI και ολοι οι φωστηρες λεγανε παπαριες του στυλ θελει 50 χρονια και βαλε για κατι τετοιο και τωρα ολοι ειναι με τα σωβρακα κατεβασμενα και λερωμενα. Κατι μου θυμιζει με την κλιματικη αλλαγη φαση. Αλλα ποιος νοιαζεται; Σιγουρα οχι το ανθρωπινο ειδος. We had a good run! So long, and thanks for all the fish.